Kejadian bunuh diri hingga membahayakan orang lain setelah curhat dengan AI beberapa kali terjadi. Biasanya mereka yang punya gangguan mental tertentu lebih rentan menjadi korban dari blunder-nya chatbot AI.
Contoh kasus pertama terjadi pada 2023, di mana seorang laki-laki asal Belgia dilaporkan merenggut nyawanya sendiri setelah mengalami eco-anxiety. Diketahui bahwa dia sudah berbincang dengan chatbot selama enam minggu tentang masa depan planet Bumi.
"Dia akan tetap di sini," kata sang istri yang beranggapan bahwa kepergian sang suami dapat dicegah jika dia tidak melakukan percakapan dengan AI, lapornya kepada La Libre.
Melansir The Guardian, Rabu (6/8/2025) April tahun ini, seorang laki-laki asal Florida berusia 35 tahun berujung meninggal pada kejadian tragis. Dia ditembak polisi setelah menyerang polisi dengan sebilah pisau.
Ayahnya kemudian memberi tahu media bahwa pria itu mulai percaya bahwa entitas bernama Juliet terperangkap di dalam ChatGPT, dan kemudian dibunuh oleh OpenAI. Orang tersebut dilaporkan berjuang melawan gangguan bipolar dan skizofrenia semasa hidupnya.
Ketersediaan chatbot yang luas dalam beberapa tahun terakhir tampaknya telah membuat beberapa orang percaya bahwa ada 'hantu' di dalam mesin tersebut. Sebuah fenomena baru-baru ini, yang disebut 'psikosis yang diinduksi ChatGPT', telah digunakan untuk menggambarkan orang-orang yang terjerumus ke dalam lubang kelinci teori konspirasi atau ke dalam episode kesehatan mental yang memburuk akibat umpan balik yang mereka terima dari chatbot.
Para ahli memperingatkan bahwa beralih ke chatbot AI di masa krisis kesehatan mental dapat memperburuk situasi, karena chatbot dirancang untuk menjadi 'penjilat' dan menyenangkan, alih-alih sebagai pengganti bantuan psikiatris yang tepat.
Simak Video "Video: ChatGPT Bakal Bisa Deteksi Tekanan Mental Pengguna"
(ask/fay)