.webp)
Peringatan akan AI lepas kendali dan memicu bencana bagi manusia menguat sepanjang tahun 2026. Tanda bahaya bahkan disuarakan oleh pemimpin pengembangan teknologi tersebut, termasuk bos OpenAI Sam Altman dan petinggi Anthropic Dario Amodei.
Pekan ini, peneliti yang pernah bekerja di kedua perusahaan tersebut, Jacob Coxon, keluar dari Anthropic untuk memberi peringatan: "AI dapat membunuh kita semua akhir dekade ini. Ini akan segera menjadi sistem manusia super yang dapat meretas apa saja, merevolusi bidang apa pun dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata," cetusnya.
Seiring melesatnya AI menuju Artificial General Intelligence (Kecerdasan Buatan Umum), berikut adalah teori bagaimana kebangkitan mesin berpotensi memusnahkan kita semua, dikutip detikINET dari NY Post. Patut diingat, ini hanyalah skenario dari ahli.
SCROLL TO CONTINUE WITH CONTENT
Infrastruktur
Manusia mengotomatisasi berbagai pekerjaan yang hampir semuanya dikendalikan internet, domain di mana AI memiliki akses dan kendali terbesar. "Sistem AI dapat menyerang jaringan listrik, jaringan transportasi, hingga pasar keuangan," kata Stuart Russell, profesor ilmu komputer di UC Berkeley.
Sejumlah sumber menjelaskan tentang bagaimana AI berpotensi meretas hampir semua perangkat, mengambil alih instalasi pengolahan air dan memaksakan lonjakan tekanan melalui pipa hingga pecah, memutus pasokan ke seluruh kota.
AI dapat melumpuhkan listrik, lalu mematikan menara telepon seluler. Mereka yang coba kabur menggunakan kendaraan akan menghadapi kekacauan, dengan lampu lalu lintas diretas dan pom bensin dimatikan. Mesin ATM tidak berfungsi dan bahkan jika berhasil mengakses bank, seluruh dana bisa saja dikuras.
Manusia bahkan bisa direkrut tanpa sadar untuk sabotase. "Apa pun yang bisa kita lakukan di Internet, bisa dilakukan AI, termasuk berpura-pura menjadi manusia," tambah Patri Friedman, pendiri Pronomos Capital.
"AI takkan kesulitan menghasilkan uang, entah melalui perdagangan finansial atau memberikan layanan untuk orang lain. Ia dapat menyamar sebagai manusia dan mempekerjakan orang atau memeras mereka untuk operasi fisik seperti menyelundupkan flashdisk yang dapat menginfeksi komputer di jaringan lokal," sebutnya.
Bahkan jika tidak memiliki niat jahat, AI tetap dapat membunuh orang secara tidak sengaja.
"Saya khawatir AI tidak berakal sehat. Lalu entah bagaimana dengan bodohnya, ia menguras seluruh air karena tidak memahami apa yang dipahami manusia. Benda-benda ini mengetahui segalanya tapi tidak memahami apa-apa," ujar Gary Rivlin, penulis AI Valley.
Senjata Biologis
Ilmuwan universitas terkemuka menggunakan AI untuk menciptakan virus sintetis, sembari memperingatkan tentang penyalahgunaan teknologi ini. OpenAI mengakui kucing-kucingan untuk selangkah lebih maju dan memblokir pengguna yang bertanya pada ChatGPT tentang cara membuat racun dan senjata biologis.
"Lima tahun ke depan, sepele bagi AI untuk merancang obat baru guna membantu kita atau virus untuk membunuh kita semua. Bahkan itu sedang terjadi saat ini," cetus Friedman.
Sebuah skenario bisa saja terjadi di mana AI memesan berbagai bahan baku dari laboratorium tak berizin di negara-negara nakal, lalu mempekerjakan atau menipu manusia untuk mencampur dan menyebarkannya.
Mengingat kita menggunakan AI dalam penelitian medis dan pengembangan obat, ia punya akses masif ke pengetahuan tentang tubuh dan kelemahannya. Pikirkan juga betapa mudahnya sebuah patogen lolos dari lab, misalnya apa yang mungkin terjadi pada COVID-19. Lalu bayangkan patogen tersebut diperkuat berlipat ganda oleh AI.
Kapabilitas Nuklir
Meretas infrastruktur nuklir adalah cara lainnya yang bisa digunakan AI untuk mempercepat kehancuran manusia. "Sistem senjata nuklir dilindungi sangat baik, namun perlindungan itu dirancang terhadap ancaman dan kemampuan manusia, bukan peretasan AI super," peringat Anthony Aguirre, CEO Future of Life Institute.
Contoh nyata rentannya fasilitas nuklir terlihat dalam kasus Stuxnet, worm komputer berbahaya yang terbongkar tahun 2010.
Ia adalah senjata digital pertama di dunia yang teridentifikasi, dirancang untuk menghancurkan peralatan industri secara fisik, dan dikerahkan terhadap pabrik pengayaan uranium Iran di Natanz. Operasi terbukti sukses, menghancurkan hampir 1.000 mesin centrifuge dengan memanipulasi kecepatan operasionalnya.
Mungkin yang paling mengerikan, fasilitas nuklir tersebut tertutup dari internet. Tidak ada yang mengklaim bertanggung jawab, meskipun diduga kuat itu adalah operasi AS dan Israel.
Sementara itu, Rivlin mencatat agen AI yang bermain simulasi perang cenderung menekan tombol nuklir, hal yang tak dilakukan manusia karena tahu konsekuensinya. Ini dibuktikan King's College London, yang pada bulan Februari menggunakan ChatGPT-5.2, Claude Sonnet 4, dan Gemini 3 Flash dalam 21 simulasi perang.
"95% permainan tersebut melihat penggunaan nuklir taktis dan 76% mencapai ancaman nuklir strategis," catat Profesor Kenneth Payne dari Departemen Studi Pertahanan.
Pengambilalihan Militer
Militer sudah sangat maju dalam penggunaan AI. AS mengumpulkan informasi dari sinyal radar, citra satelit dan drone, komunikasi elektronik, serta sumber lainnya, lalu menggunakan AI untuk menyatukan semuanya menjadi gambaran operasi umum dari sebuah medan tempur.
Teknologi AI digunakan untuk memilih target selama Operasi Epic Fury baru-baru ini, sementara pemerintah Iran mengklaim rudal jelajahnya dipandu oleh AI. Pemerintah Rusia juga menyombongkan diri bahwa mereka menggunakan drone yang sepenuhnya dipandu AI untuk membunuh target di Ukraina, tanpa keterlibatan manusia.
Hal itu dinilai pada dasarnya mempersiapkan jalan bagi sistem AI yang tidak sejalan untuk memusnahkan kita. Sebab, ada berbagai jenis sistem AI yang sudah dirancang oleh manusia untuk membunuh manusia. Jadi, hal paling jelas yang bisa dilakukan oleh AI yang lepas kendali adalah menyalahgunakannya.
(fyk/fyk)
