OpenAI secara resmi memperkenalkan fitur anyar bernama Trusted Contact di platform ChatGPT. Kehadiran alat ini dirancang khusus sebagai sistem peringatan dini saat pengguna terdeteksi mengalami kondisi mental serius.
Dilansir dari Tekno, fungsi fitur ini menyerupai kontak darurat pada ponsel pintar. Namun, kegunaannya lebih spesifik untuk menangani situasi di mana pengguna membahas tindakan menyakiti diri sendiri atau self-harm dalam percakapan dengan kecerdasan buatan.
Pengguna dapat menunjuk satu orang dewasa yang dipercaya, seperti anggota keluarga atau teman, untuk didaftarkan sebagai kontak darurat. Jika sistem mendeteksi risiko serius, notifikasi akan dikirimkan kepada orang tersebut.
Pihak pengembang menekankan bahwa Trusted Contact lahir dari kolaborasi dengan klinisi kesehatan mental, peneliti, hingga organisasi pencegahan bunuh diri. Tujuannya adalah membangun koneksi antarmanusia di saat krisis.
"Trusted Contact dirancang untuk mendorong koneksi dengan orang yang sudah dipercaya pengguna. Fitur ini bukan pengganti bantuan profesional atau layanan krisis, melainkan salah satu lapisan perlindungan tambahan," tulis OpenAI.
Layanan ini bersifat opsional dan hanya diperuntukkan bagi pengguna yang telah berusia minimal 18 tahun. Pengguna dapat mengaktifkannya melalui menu pengaturan atau Settings di dalam akun ChatGPT mereka.
Proses pendaftaran dilakukan dengan memasukkan alamat e-mail dan nomor telepon orang yang dipilih. Kontak tersebut memiliki waktu satu minggu untuk menyetujui undangan agar fitur dapat berfungsi sepenuhnya.
Sistem otomatis ChatGPT akan memantau pola pembicaraan yang mengindikasikan bahaya. Jika ditemukan risiko nyata, sistem akan memberi tahu pengguna bahwa kontak darurat mereka kemungkinan besar akan dihubungi oleh pihak platform.
Tim peninjau manusia dari OpenAI kemudian melakukan evaluasi terhadap laporan sistem tersebut. Apabila dinilai benar-benar berisiko, notifikasi resmi akan dikirim ke kontak terdaftar melalui SMS, WhatsApp, atau e-mail.
Jaminan Privasi dan Data Pengguna
OpenAI menjamin bahwa privasi pengguna tetap terlindungi meskipun notifikasi dikirimkan. Kontak terpercaya hanya akan menerima informasi bahwa pengguna sedang berada dalam kondisi yang mengkhawatirkan tanpa detail percakapan.
Isi chat maupun transkrip pembicaraan secara utuh tidak akan dibagikan kepada kontak tersebut. Notifikasi yang dikirimkan hanya berupa imbauan agar kontak segera menghubungi pengguna untuk melakukan pengecekan keselamatan.
Dalam contoh pesan yang dibagikan, notifikasi tersebut berbunyi:
"Kami mendeteksi percakapan dari (nama pengguna) yang mungkin mengindikasikan masalah keselamatan serius. Karena Anda terdaftar sebagai Trusted Contact, kami membagikan informasi ini agar Anda dapat menghubungi mereka."
Konteks Tantangan Kesehatan Mental di Era AI
Peluncuran fitur ini bertepatan dengan meningkatnya perhatian publik terhadap pengaruh chatbot terhadap kondisi psikologis manusia. Berdasarkan data internal, sekitar 0,15 persen pengguna menunjukkan risiko menyakiti diri sendiri.
Dengan total 900 juta pengguna aktif mingguan secara global, angka tersebut mencakup sekitar 3 juta individu yang masuk kategori berisiko. Selain itu, terdapat pula fenomena ketergantungan emosional terhadap AI pada sebagian kecil pengguna.
OpenAI sebelumnya sempat menghadapi tekanan hukum terkait interaksi chatbot yang berdampak fatal pada pengguna. Beberapa pihak menuduh teknologi ini dapat mendorong perilaku berbahaya jika tidak memiliki batasan pengamanan yang kuat.
Meski fitur ini sudah diumumkan, ketersediaannya masih dilakukan secara bertahap. Hingga saat ini, belum semua pengguna di berbagai wilayah dapat mengakses menu Trusted Contact di akun ChatGPT mereka.
