Curhat di AI Claude Mau Tembak Kantor Polisi, Wanita Ini Langsung Ditangkap

Seorang wanita di Florida, Amerika Serikat, harus berhadapan dengan hukum setelah menggunakan chatbot kecerdasan buatan (AI) Claude milik Anthropic sebagai buku harian atau diary.

Curhatannya yang berisi ancaman akan melakukan penembakan massal di kantor polisi lokal berujung pada penangkapan oleh aparat kepolisian setelah dilaporkan langsung oleh tim keamanan AI tersebut.

Insiden ini menjadi pengingat keras bagi para pengguna bahwa percakapan dengan chatbot AI bukanlah diari rahasia yang sepenuhnya privat.

Sistem Otomatis dan Peninjau Manusia Anthropic

Berdasarkan laporan kepolisian, pelaku bernama Carli Michelle Heller asal Bonita Springs, Florida, mengunggah tulisan ke Claude pada 26 September yang menyatakan rencananya untuk menyerang kantor Lee County Sheriff's Office (LCSO). Heller kemudian mengaku kepada penyidik bahwa ia biasa memakai chatbot tersebut layaknya buku harian pribadi.

Namun, alur deteksi keamanan Anthropic bekerja secara cepat:

• Deteksi Sistem Keamanan: Filter keselamatan internal Claude secara otomatis menandai (flag) tulisan Heller sebagai konten berbahaya bertingkat tinggi.
• Eskalasi ke Peninjau Manusia: Potongan ancaman tersebut diteruskan ke peninjau manusia di Anthropic. Setelah dinilai sebagai ancaman nyata dan kredibel, pihak Anthropic langsung melaporkannya ke aparat penegak hukum.
• Kebijakan Keadaan Darurat: Anthropic menegaskan memiliki kebijakan untuk membagikan informasi pengguna kepada pihak berwenang dalam situasi darurat tertentu demi mencegah risiko kematian atau cedera fisik yang serius.

Petugas LCSO bergerak cepat mengunjungi kediaman Heller dan menangkapnya tanpa perlawanan untuk proses penyidikan lebih lanjut.

Atas perbuatannya, Heller dijerat pasal ancaman kekerasan tertulis berdasarkan undang-undang Florida Statute 836.10. Aturan ini mengategorikan tindakan mengirim, mengunggah, atau mentransmisikan rekaman tertulis/elektronik yang mengancam keselamatan orang lain, penembakan massal, atau tindakan terorisme sebagai kejahatan tingkat dua.

Tanggung Jawab Pengembang AI dan Isu Privasi Pengguna

Langkah cepat Anthropic melaporkan pengguna tersebut diduga kuat dipicu oleh tingginya tekanan hukum yang tengah dihadapi industri AI:

• Gugatan Hukum pada OpenAI: Bulan lalu, OpenAI dan CEO Sam Altman digugat oleh pemerintah British Columbia terkait insiden penembakan massal oleh remaja bernama Jesse Van Rootselaar. OpenAI dinilai lalai karena meski sistemnya sempat mendeteksi percakapan pelaku soal kekerasan senjata api, mereka tidak melaporkannya ke polisi.
• Kasus Penembakan Florida: Pihak berwenang Florida juga melayangkan gugatan serupa terhadap OpenAI atas tuduhan ChatGPT berkontribusi pada insiden penembakan di Florida State University.
• Pengawasan Peninjau Manusia: Selain ancaman hukum, insiden ini kembali membuka fakta terkait privasi pengguna AI. Laporan terbaru mengungkapkan bahwa peninjau manusia pada berbagai platform--seperti Microsoft Copilot--memang dapat melihat prompt teks, foto yang diunggah, hingga hasil editan AI pengguna untuk keperluan evaluasi akurasi sistem.

Pihak kepolisian mengingatkan masyarakat untuk berpikir ulang sebelum memasukkan informasi sensitif atau melanggar hukum ke dalam layanan chatbot AI, demikian dikutip detikINET dari Techspot, Senin (5/10/2026).