.webp)
CEO Anthropic Dario Amodei menuliskan esai yang isinya mengajak perusahaan kecerdasan buatan (AI) untuk mengerem pengembangan modelnya. Esai ini diterbitkan mantan karyawan Anthropic memperingatkan bahaya AI untuk masa depan umat manusia.
Amodei mengusulkan tiga langkah yang menurutnya dapat memperlambat laju pengembangan AI tanpa mengorbankan kepemimpinan atau keunggulan komersial Amerika Serikat di bidang AI.
Ia mengatakan Anthropic secara sepihak sudah berkomitmen pada langkah pertama, yaitu memberikan akses level karyawan kepada evaluator pihak ketiga untuk memverifikasi praktik keselamatan dan pelaporan insiden.
SCROLL TO CONTINUE WITH CONTENT
Langkah kedua mendorong perusahaan AI di negara demokratis untuk berkoordinasi dan mendirikan standar keamanan bersama. Langkah ketiga menyerukan koordinasi antara pemerintah demokratis dan pemerintahan otoriter.
"Agar jelas, pengereman bukan berarti menghentikan pelatihan model atau kemajuan teknis, tetapi memastikan perusahaan mengambil waktu yang cukup untuk menyelaraskan dan menjaga model mereka, dan agar evaluator pihak ketiga dapat mengonfirmasinya," tulis Amodei, seperti dikutip dari CNBC, Minggu (13/8/2026).
Esai Amodei muncul setelah peneliti Antropic Jacob Coxon mengumumkan pengunduran dirinya di media sosial. Coxon, yang juga pernah bekerja di OpenAI, mengatakan orang-orang yang mengembangkan AI percaya bahwa teknologi ini dapat membunuh seluruh manusia dalam 10 tahun.
Kekhawatiran tentang potensi AI yang dapat memusnahkan manusia sebenarnya bukan hal baru. Pada tahun 2023, para peneliti dan eksekutif AI, termausk Amodei dan CEO OpenAI Sam Altman, menandatangani pernyataan soal pengurangan risiko kepunahan akibat AI.
Dalam esainya, Amodei mengatakan meskipun menunda atau memperlambat pengembangan AI telah dipertimbangkan sejak tahun 2023, hal itu tidak masuk akan untuk dilakukan pada saat itu.
Ia mengatakan model-model AI tersebut belum cukup pintar untuk mengambil tindakan di dunia nyata, dan belum mampu melakukan penipuan, manipulasi, kecurangan, atau serangan siber yang signifikan.
"Saya tetap percaya bahwa AI dapat meningkatkan kualitas hidup manusia secara signifikan. Keinginan saya untuk mencapai keuntungan ini tidak berkurang," tulis Amodei.
"Namun, manfaat tersebut hanya akan tercapai jika kita membangun teknologi dengan cara yang benar, dan-selama kita memanfaatkan waktu dengan baik-ada baiknya kita berhati-hati untuk melakukannya dengan benar," imbuhnya.
