.webp)
Seorang remaja mengakhiri hidupnya, sesaat setelah bertukar pesan dengan chatbot dari Character.AI. Dia adalah Sewell Setzer III (14), buah hati ada ibu bernama Megan Garcia.
Tak main-main, Garcia melayangkan tuntutan untuk Character.AI kepada pihak kepolisian. Garcia menyebut Character.AI gagal mengimplementasikan keamanan yang layak sampai-sampai anaknya 'membangun' hubungan tak wajar dengan chatbot karakter fiksi Daenerys Targaryen. Akibatnya, remajanya jadi menarik diri, sebelum akhirnya merenggut nyawanya sendiri.
Juru bicara Character.AI mengatakan kepada CNN bahwa perusahaan tersebut tidak mengomentari gugatan tersebut, tetapi menyatakan perusahaan tersebut sangat sedih atas kehilangan tragis salah satu penggunanya.
SCROLL TO CONTINUE WITH CONTENT
"Kami sangat memperhatikan keselamatan pengguna kami, dan tim Trust and Safety kami telah menerapkan banyak langkah keselamatan baru selama enam bulan terakhir, termasuk pop-up yang mengarahkan pengguna ke National Suicide Prevention Lifeline yang dipicu oleh istilah melukai diri sendiri atau ide bunuh diri," jabar perusahaan tersebut dalam pernyataan tersebut.
Banyak dari perubahan tersebut dilakukan setelah kematian Setzer. Pada hari gugatan Garcia diajukan, Character.AI mengumumkan serangkaian fitur keamanan baru, termasuk deteksi percakapan yang melanggar pedomannya yang lebih baik, pernyataan yang mengingatkan pengguna bahwa mereka berinteraksi dengan bot, dan pemberitahuan setelah pengguna menghabiskan satu jam di platform tersebut.
Perusahaan juga memperkenalkan perubahan pada model AI-nya untuk pengguna di bawah usia 18 tahun guna mengurangi kemungkinan menemukan konten yang sensitif atau sugestif.
Di situs webnya, Character.AI mengatakan usia minimum pengguna adalah 13 tahun. Di Apple App Store, usia tersebut tercantum sebagai 17+, dan Google Play Store mencantumkan aplikasi tersebut sebagai aplikasi yang sesuai untuk remaja. Namun tetap, bagi Garcia, perubahan terbaru perusahaan tersebut sudah telat.
"Saya berharap anak-anak tidak diizinkan menggunakan Character.AI. Tidak ada tempat bagi mereka di sana karena tidak ada pagar pembatas untuk melindungi mereka," akunya.
CATATAN: Depresi dan munculnya keinginan bunuh diri bukanlah hal sepele. Kesehatan jiwa merupakan hal yang sama pentingnya dengan kesehatan tubuh atau fisik. Jika gejala depresi semakin parah, segeralah menghubungi dan berdiskusi dengan profesional seperti psikolog, psikiater, maupun langsung mendatangai klinik kesehatan jiwa. Layanan konsultasi kesehatan jiwa juga disediakan oleh Perhimpunan Dokter Spesialis Kesehatan Jiwa Indonesia (PDSKJI) di laman resminya yaitu www.pdskji.org. Melalui laman organisasi profesi tersebut disediakan pemeriksaan secara mandiri untuk mengetahui kondisi kesehatan jiwa seseorang.
(ask/rns)
