Menurut pakar, jika umat manusia ingin menghindari skenario kiamat, sekadar memperlambat pengembangan AI saja tidak akan cukup.
"Yang kita butuh adalah moratorium internasional segera dan tanpa batas waktu terhadap pengembangan AI perintis," kata David Krueger, asisten profesor AI Universitas Montreal dan anggota di Mila, institut AI Quebec, Kanada. Biografinya mendeskripsikan pekerjaannya sebagai mengurangi risiko kepunahan manusia akibat AI.
"Kita harus berhenti membangun AI yang lebih kuat sekarang juga," tegasnya, dikutip detikINET dari CTV.
Komentarnya muncul setelah CEO Anthropic, Dario Amodei, menerbitkan sebuah esai yang menyerukan perusahaan-perusahaan AI memperlambat laju pengembangan. Usulan tersebut didukung Sam Altman (OpenAI) dan Elon Musk (SpaceX), sebuah kekompakan langka di antara beberapa nama terbesar di industri ini.
"Seruan memperlambat AI sangat, sangat kami sambut. (Namun) menurut saya, rencana tersebut belum cukup jauh dan belum cukup cepat," cetusnya.
Amodei menyerukan regulasi dan kerja sama internasional, bersama dengan evaluator pihak ketiga yang akan punya akses setingkat karyawan ke perusahaan AI untuk memverifikasi praktik keselamatan dan melaporkan insiden.
Krueger khawatir apa yang diminta Amodei tidak memadai dan bahwa metode pengujian AI tidak lagi dapat diandalkan.
"Pengujian tersebut pada dasarnya tak berfungsi dan akan makin tidak dapat diandalkan seiring makin pintarnya AI, karena AI pada dasarnya bisa berpura-pura. Ia bisa bersikap baik, bisa pura-pura bodoh, dan bisa mengelabui pengujian kita," paparnya.
Masalah waktu
Pekan lalu, peneliti keselamatan Anthropic menyebut peluang AI membunuh tiap manusia adalah lebih dari satu banding 10 dalam dekade mendatang. Beberapa pihak menepisnya karena dianggap berlebihan, tapi Krueger menyebut angka tersebut terlalu rendah.
"Jika kita tidak mengoreksi arah saat ini, kemungkinan besar umat manusia akan kehilangan kekuasaannya secara permanen akibat AI yang lepas kendali dalam lima tahun ke depan. Dan pada saat itu, kepunahan manusia hanyalah masalah waktu," katanya.
Kehilangan kekuasaan maksudnya adalah dunia di mana AI menjalankan laju masyarakat, layaknya manusia yang mendominasi setiap spesies planet ini.
"AI (nantinya akan) mengendalikan infrastruktur fisik, termasuk tiap tahapan proses dalam membangun lebih banyak AI serta merakit robot dan sistem fisik lainnya," sebutnya.
"Bayangkan dunia di mana seluruh perusahaan dijalankan AI, robot di mana-mana, di mana manusia pada dasarnya tak punya pekerjaan kecuali pekerjaan yang sekadar nama dan bahkan politisi serta semua orang tunduk pada AI karena AI sepertinya memiliki penilaian sangat baik. Masa depan itu yang sedang kita tuju," kata David.
Ia memperingatkan waktu untuk bertindak sangatlah sempit. Saat ini, sistem AI yang lepas kendali mungkin masih bisa dicabut kabelnya. Namun begitu satu sistem berhasil lolos, ia dapat menggandakan diri ke banyak komputer.
"Kita bahkan takkan tahu komputer mana yang harus dimatikan. Kita harus mencoba mematikan semuanya dan itu akan sangat sangat sulit," tuturnya.
Meski begitu, ia mengaku lebih optimis bahwa pemerintah akan bertindak, menyebut pekan lalu sebagai kali pertama di mana dunia merespons dengan cara yang waras.
"Saya rasa orang pada akhirnya benar-benar memahami betapa seriusnya krisis ini. Ini adalah keadaan darurat," sebut David.
Simak Video "Pesan Jenderal Hoegeng Iman Santoso, yang Dihadirkan Melalui Teknologi A.I"
(fyk/fay)