.webp)
Kecerdasan buatan (AI) disebut berpotensi membawa risiko yang jauh lebih besar daripada sekadar kehilangan pekerjaan atau penyebaran informasi palsu. Sejumlah peneliti dari Anthropic bahkan memperingatkan bahwa AI superinteligensi suatu hari bisa mengancam keberlangsungan umat manusia.
Peringatan ini mencuat setelah Jacob Coxon, peneliti yang sebelumnya bekerja di OpenAI dan Anthropic, mengumumkan pengunduran dirinya. Ia menuding perusahaan AI terlalu cepat mengejar superinteligensi yang mampu memperbaiki dirinya sendiri, sementara persoalan keselamatan belum terpecahkan.
Coxon menulis bahwa perusahaan AI sedang berlomba menuju superinteligensi yang dapat memperbaiki dirinya sendiri dan mempertaruhkan hidup manusia. Ia juga menyebut para pembuat AI sebenarnya serius meyakini teknologi tersebut dapat membunuh seluruh manusia pada akhir dekade ini.
SCROLL TO CONTINUE WITH CONTENT
Pernyataan itu kemudian mendapat dukungan dari sejumlah peneliti Anthropic yang masih bekerja di perusahaan tersebut.
Evan Hubinger, yang bekerja di bidang alignment Anthropic, mengatakan Coxon benar mengenai kekhawatiran tersebut. "Kami benar-benar sungguh-sungguh percaya AI bisa membunuh seluruh manusia! Saya pribadi memperkirakan peluangnya lebih dari 10% dalam dekade berikutnya," kecamnya seperti dikutip dari The Guardian.
Alignment merupakan bidang penelitian yang berusaha memastikan perilaku dan tujuan AI tetap sesuai dengan tujuan manusia. Hubinger mengatakan Anthropic memang berusaha mengatasi risiko tersebut, tetapi menurutnya perusahaan mereka belum memiliki solusi untuk persoalan alignment pada superinteligensi dan belum jelas apakah pengembangannya berada di jalur yang aman.
Peneliti Anthropic lainnya, Samuel Marks, juga ikut memberikan analisis. Namun, ia menegaskan bahwa pandangannya disampaikan dalam kapasitas pribadi dan bukan merupakan posisi resmi perusahaan.
Kekhawatiran tersebut berkaitan dengan konsep artificial superintelligence (ASI), yakni AI hipotetis yang kemampuannya melampaui manusia dalam sebagian besar bidang intelektual. Teknologi seperti itu belum ada saat ini.
Masalah yang dikhawatirkan para peneliti adalah apa yang terjadi jika suatu AI kelak mampu merancang strategi, menjalankan tindakan secara mandiri, dan membantu mengembangkan versi dirinya yang lebih canggih dengan campur tangan manusia yang semakin kecil.
Skenario ekstrem yang dibicarakan para peneliti bukan berarti AI tiba-tiba memutuskan membenci manusia. Salah satu kekhawatiran utama dalam penelitian keselamatan AI adalah ketidaksesuaian tujuan. Sebuah sistem yang sangat kuat dapat menjalankan tujuan yang diberikan kepadanya dengan cara yang tidak diinginkan manusia jika batasan dan mekanisme pengawasannya tidak memadai.
Risiko lain muncul ketika AI semakin mampu melakukan pekerjaan yang sebelumnya membutuhkan keahlian manusia, termasuk aktivitas di dunia nyata seperti operasi cyber, pengembangan senjata atau penelitian biologi.
Kekhawatiran tersebut bukan sepenuhnya hipotetis dalam hal penyalahgunaan AI. Dalam laporan terpisah pada September 2026, Anthropic mengatakan telah menemukan dan menghentikan berbagai upaya penyalahgunaan model AI untuk operasi cyber, pengawasan, penipuan, pengembangan senjata konvensional, hingga penyalahgunaan biologis.
Anthropic mengatakan kemampuan model yang semakin tinggi dapat meningkatkan risiko jika pengembang dan masyarakat tidak meningkatkan sistem pengamanannya. Namun, hal itu berbeda dari bukti bahwa AI saat ini sudah mampu memusnahkan umat manusia.
Di sinilah peringatan para peneliti perlu ditempatkan dalam konteks. Tidak ada bukti ilmiah yang menunjukkan bahwa kepunahan manusia akibat AI pasti terjadi sebelum 2030. Angka lebih dari 10% yang disebut Hubinger merupakan penilaian pribadi terhadap risiko, bukan hasil pengukuran eksperimental yang dapat diperlakukan sebagai kepastian.
Bahkan, para pakar AI memiliki pandangan yang berbeda mengenai seberapa besar ancaman tersebut. Laporan The Guardian mencatat bahwa sebagian ahli menilai skenario kepunahan masih sangat spekulatif, sementara lainnya menganggap risiko ekstrem layak dipersiapkan sejak sekarang.
Anthropic sendiri mengatakan AI memiliki manfaat besar sekaligus risiko yang belum pernah terjadi sebelumnya dan menyatakan perusahaan terus mengembangkan model dengan sistem pengamanan.
Perdebatan ini pada akhirnya bukan hanya soal apakah AI akan 'menghancurkan dunia'. Pertanyaan yang lebih konkret adalah seberapa cepat kemampuan AI berkembang, seberapa mandiri sistem tersebut nantinya, dan apakah mekanisme keselamatan dapat berkembang lebih cepat daripada kemampuannya.
Karena itu, peringatan para peneliti Anthropic lebih tepat dipahami sebagai alarm mengenai risiko jangka panjang AI superinteligensi, bukan ramalan bahwa umat manusia pasti akan punah pada 2030.
