Peringatan akan AI lepas kendali dan memicu bencana bagi manusia menguat sepanjang tahun 2026. Tanda bahaya bahkan disuarakan oleh pemimpin pengembangan teknologi tersebut, termasuk bos OpenAI Sam Altman dan petinggi Anthropic Dario Amodei.
Pekan ini, peneliti yang pernah bekerja di kedua perusahaan tersebut, Jacob Coxon, keluar dari Anthropic untuk memberi peringatan: "AI dapat membunuh kita semua akhir dekade ini. Ini akan segera menjadi sistem manusia super yang dapat meretas apa saja, merevolusi bidang apa pun dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata," cetusnya.
Seiring melesatnya AI menuju Artificial General Intelligence (Kecerdasan Buatan Umum), berikut adalah teori bagaimana kebangkitan mesin berpotensi memusnahkan kita semua, dikutip detikINET dari NY Post. Patut diingat, ini hanyalah skenario dari ahli.
Infrastruktur
Manusia mengotomatisasi berbagai pekerjaan yang hampir semuanya dikendalikan internet, domain di mana AI memiliki akses dan kendali terbesar. "Sistem AI dapat menyerang jaringan listrik, jaringan transportasi, hingga pasar keuangan," kata Stuart Russell, profesor ilmu komputer di UC Berkeley.
Sejumlah sumber menjelaskan tentang bagaimana AI berpotensi meretas hampir semua perangkat, mengambil alih instalasi pengolahan air dan memaksakan lonjakan tekanan melalui pipa hingga pecah, memutus pasokan ke seluruh kota.
AI dapat melumpuhkan listrik, lalu mematikan menara telepon seluler. Mereka yang coba kabur menggunakan kendaraan akan menghadapi kekacauan, dengan lampu lalu lintas diretas dan pom bensin dimatikan. Mesin ATM tidak berfungsi dan bahkan jika berhasil mengakses bank, seluruh dana bisa saja dikuras.
Manusia bahkan bisa direkrut tanpa sadar untuk sabotase. "Apa pun yang bisa kita lakukan di Internet, bisa dilakukan AI, termasuk berpura-pura menjadi manusia," tambah Patri Friedman, pendiri Pronomos Capital.
"AI takkan kesulitan menghasilkan uang, entah melalui perdagangan finansial atau memberikan layanan untuk orang lain. Ia dapat menyamar sebagai manusia dan mempekerjakan orang atau memeras mereka untuk operasi fisik seperti menyelundupkan flashdisk yang dapat menginfeksi komputer di jaringan lokal," sebutnya.
Bahkan jika tidak memiliki niat jahat, AI tetap dapat membunuh orang secara tidak sengaja.
"Saya khawatir AI tidak berakal sehat. Lalu entah bagaimana dengan bodohnya, ia menguras seluruh air karena tidak memahami apa yang dipahami manusia. Benda-benda ini mengetahui segalanya tapi tidak memahami apa-apa," ujar Gary Rivlin, penulis AI Valley.
Senjata Biologis
Ilmuwan universitas terkemuka menggunakan AI untuk menciptakan virus sintetis, sembari memperingatkan tentang penyalahgunaan teknologi ini. OpenAI mengakui kucing-kucingan untuk selangkah lebih maju dan memblokir pengguna yang bertanya pada ChatGPT tentang cara membuat racun dan senjata biologis.
"Lima tahun ke depan, sepele bagi AI untuk merancang obat baru guna membantu kita atau virus untuk membunuh kita semua. Bahkan itu sedang terjadi saat ini," cetus Friedman.
Sebuah skenario bisa saja terjadi di mana AI memesan berbagai bahan baku dari laboratorium tak berizin di negara-negara nakal, lalu mempekerjakan atau menipu manusia untuk mencampur dan menyebarkannya.
Mengingat kita menggunakan AI dalam penelitian medis dan pengembangan obat, ia punya akses masif ke pengetahuan tentang tubuh dan kelemahannya. Pikirkan juga betapa mudahnya sebuah patogen lolos dari lab, misalnya apa yang mungkin terjadi pada COVID-19. Lalu bayangkan patogen tersebut diperkuat berlipat ganda oleh AI.
Simak Video "Pesan Jenderal Hoegeng Iman Santoso, yang Dihadirkan Melalui Teknologi A.I"
(fyk/fyk)