.webp)
Anthropic baru saja merilis laporan ancaman intelijen yang mengungkap beragam cara penyalahgunaan layanan AI-nya. Mereka menemukan kasus di mana ilmuwan menggunakan Claude untuk pengembangan senjata biologis dan konvensional.
Laporan Anthropic mencakup lima studi kasus di mana model AI mereka dipakai untuk mengembangkan senjata biologis. Anthropic juga mengungkap langkah-langkah keamanan yang membantu mereka mengungkap penyalahgunaan tersebut dan bagaimana perusahaan menanggapinya.
Anthropic mengakui deteksi kemungkinan penyalahgunaan model AI merupakan hal yang rumit karena penelitian tentang vaksin baru bisa sangat mirip dengan pengembangan senjata biologis. Anthropic mengatakan mereka sangat hati-hati sebelum mengambil langkah karena konsekuensi yang besar.
SCROLL TO CONTINUE WITH CONTENT
"Anda tidak pernah melihat seseorang di buku komik berkata, 'Hei, saya ingin membuat senjata biologis untuk membunuh semua orang,'" kata Jacob Klein, Head of Threat Intelligence Anthropic kepada The New York Times, seperti dikutip dari Engadget, Jumat (11/9/2026).
"Ini adalah situasi yang sangat rumit," sambungnya.
Dalam studi kasus dari bulan Mei, Anthropic mengatakan bahwa sistem mereka menandai permintaan agar Claude menuliskan hibah proposal untuk gain-of-function virus Chikungunya. Virus tersebut belum memiliki pengobatan dan dapat menyebabkan gejala yang melemahkan hingga berbulan-bulan.
Penelitian gain-of-function meneliti metode untuk mengubah organisme secara genetik, dan dalam kasus ini, hibah yang diusulkan bertujuan untuk meningkatkan penularan dan kemampuannya untuk menghindari respons imun.
Proposal penelitian itu sudah cukup mengkhawatirkan, dan makin dipertanyakan karena menurut Anthropic penelitian yang diusulkan berafiliasi dengan lembaga penelitian militer.
Anthropic mengatakan pihaknya berhasil menggagalkan penyalahgunaan model Claude Haiku, Sonnet, dan Opus antara Desember 2025 dan Agustus 2026. Mereka tidak menemukan kasus penyalahgunaan yang melibatkan Claude Fable atau Mythos yang lebih canggih.
Selain dipakai untuk riset senjata biologis, Anthropic juga menemukan kasus di mana model AI-nya digunakan untuk membuat propaganda, alat mata-mata, hingga eksploitasi software.
Anthropic mengatakan pihaknya langsung memblokir akun siapa pun yang menyalahgunakan Claude dan model lainnya. Temuan dari investigasi tersebut akan dipakai untuk meningkatkan pengamanan model dan mencegah penyalahgunaan di masa depan.
(vmp/fay)
