.webp)
Kekhawatiran mengenai keamanan AI dan potensinya untuk memusnahkan umat manusia kembali memicu perbincangan viral minggu ini.
Evan Hubinger, pimpinan keselarasan AI di Anthropic, mengatakan di X bahwa ada lebih dari 10% kemungkinan AI dapat membunuh seluruh manusia dalam dekade mendatang, setelah seorang rekannya mengundurkan diri karena kekhawatiran terkait AI.
Peringatan-peringatan lanjutan dari para peneliti di Anthropic maupun OpenAI pun menyusul dan memicu kehebohan di media sosial.
SCROLL TO CONTINUE WITH CONTENT
Balasan Hubinger pada unggahannya sendirilah yang mengungkapkan di mana letak kekhawatirannya yang sebenarnya.
"Apa yang saya khawatirkan adalah kecerdasan super yang muncul dari perbaikan diri secara rekursif, yang seperti telah kami katakan, terjadi lebih cepat dari perkiraan kami," ujarnya.
Recursive self improvement atau RSI adalah ketika AI itu sendiri membantu memperbaiki proses pembangunan model-model baru, yang berpotensi memicu lonjakan kemampuan tak terkendali saat sistem yang lebih baik membangun sistem yang lebih baik lagi, dan seterusnya.
Kekhawatirannya adalah jika AI mengambil alih kendali atas bagaimana model-model baru dilatih, manusia yang awalnya membangun sistem-sistem tersebut bisa kehilangan kendali.
Peringatan Bahaya
Dalam beberapa bulan terakhir, baik OpenAI maupun Anthropic menyatakan bahwa peningkatan model secara otonom ini terjadi lebih cepat dari perkiraan mereka.
"Data internal kami menunjukkan bahwa Claude mempercepat pengembangan AI atau AI yang secara otonom membangun penerus yang lebih mumpuni. Ini terjadi lebih cepat dari yang kami kira, dan implikasinya patut mendapat perhatian yang lebih besar," tulis Anthropic di X bulan Juni.
Meskipun AI belum mencapai titik RSI, ia sudah mempercepat pengembangan sistem AI. Anthropic menyebutkan di Agustus bahwa para insinyur mereka rata-rata menghasilkan kode delapan kali lebih banyak per kuartal dibandingkan periode 2021-2025.
"AI sudah berada pada tingkat di mana ia dapat memperkenalkan beberapa ide baru," kata Vincent Conitzer, profesor ilmu komputer di Carnegie Mellon University.
Kepala Ilmuwan OpenAI Jakub Pachocki mengaku khawatir bahwa tidak ada seorang pun siap menghadapi konsekuensi dari peningkatan kecerdasan mesin yang terus berlangsung dengan cepat.
"Jika pengembangan AI terus berlanjut di jalurnya saat ini, sistem yang akan kita lihat dalam beberapa tahun ke depan kemungkinan akan mewakili lompatan kemampuan yang sama atau lebih besar, dan akan semakin mengendalikan pengembangannya sendiri," tulisnya.
"Tidak berlebihan jika dikatakan bahwa melaju cepat menuju RSI sangatlah berbahaya," kata Jasmine Wang, peneliti OpenAI yang bekerja di bidang keselarasan.
"Belum ada rencana ilmiah yang layak untuk mengatasi risiko dari AI yang memperbaiki dirinya sendiri secara rekursif. Tolong sadarilah ini!" kata Anna Wang, yang bekerja di bidang keamanan dan keselarasan AGI di Anthropic.
