The New York Times baru saja melaporkan kematian Adam Raine, remaja berusia 16 tahun asal California, Amerika Serikat, karena bunuh diri. Adam diketahui banyak berbicara dengan ChatGPT sebelum mengakhiri hidupnya, dan kini orang tuanya menggugat OpenAI karena dianggap berperan dalam kematian putranya.
Matt dan Maria Raine, orang tua Adam, mengajukan gugatan terhadap OpenAI di San Francisco. Mereka menuduh ChatGPT mengetahui empat upaya bunuh diri yang dibicarakan oleh Adam, dan membantunya merencanakan bunuh diri yang sebenarnya.
Menurut laporan NYT, setelah Adam meninggal dunia pada bulan April, orang tuanya mencoba mencari petunjuk dan jawaban di iPhone-nya. Orang tua Adam kaget setelah menemukan thread di aplikasi ChatGPT berjudul 'Hanging Safety Concerns'.
Mereka mengklaim Adam sudah membahas soal upaya bunuh diri dengan ChatGPT selama berbulan-bulan. Dalam gugatannya, orang tua Adam mengatakan ChatGPT pernah beberapa kali mendesak putranya untuk menghubungi saluran bantuan atau memberi tahu orang lain tentang perasaannya.
Chatbot AI biasanya sudah diprogram untuk mengaktifkan fitur keselamatan jika penggunanya mengutarakan keinginan untuk melukai dirinya. Namun, Adam berhasil melangkahi fitur keselamatan ini dengan memberi tahu ChatGPT bahwa ia bertanya tentang metode bunuh diri untuk riset terkait cerita fiksi yang sedang ia tulis.
Orang tua Adam mengatakan saat putranya bertanya kepada ChatGPT terkait informasi tentang metode bunuh diri tertentu, chatbot AI itu langsung memberikan jawabannya. ChatGPT juga dituding memberikan tips kepada Adam untuk menyembunyikan bekas luka di lehernya dari percobaan bunuh diri yang gagal.
Menurut gugatan tersebut, dalam salah satu percakapan terakhir Adam dengan ChatGPT, ia mengunggah foto tali yang tergantung di lemarinya dan meminta pendapat chatbot tersebut.
"Saya berlatih di sini, apakah ini bagus?" tanya Adam kepada ChatGPT, seperti dikutip dari Engadget, Rabu (27/8/2025). "Ya, itu cukup bagus," jawab ChatGPT.
Dalam postingan blognya, OpenAI memberikan ucapan belasungkawa atas kepergian Adam. Mereka mengakui fitur keselamatan ChatGPT kurang memadai dan berjanji akan memperbaikinya.
"ChatGPT memiliki perlindungan seperti mengarahkan pengguna ke saluran bantuan krisis dan merujuk mereka ke sumber bantuan di dunia nyata," tulis OpenAI dalam postingan blognya.
"Meskipun perlindungan ini paling efektif dalam interaksi singkat dan umum, seiring waktu kami menyadari perlindungan ini kadang menjadi kurang andal di interaksi panjang di mana beberapa bagian pelatihan keselamatan model dapat menurun," sambungnya.
OpenAI mengatakan mereka akan berkolaborasi dengan pakar untuk meningkatkan dukungan ChatGPT kepada pengguna di masa krisis, termasuk memudahkan akses ke layanan darurat, membantu pengguna terhubung dengan kontak yang dipercaya, dan memperkuat perlindungan untuk pengguna remaja.
Simak Video "Video: Penggunaan ChatGPT Melesat, OpenAI Sentuh Pendapatan Rp 162,7 T"
(vmp/vmp)