.webp)
Apakah kecerdasan buatan (AI) akan membunuh kita semua? Pertanyaan ini diperbincangkan beberapa hari terakhir seiring memuncaknya ketakutan terhadap AI. Mantan peneliti OpenAI dan Anthropic pekan lalu mengguncang dunia melalui peringatan AI dapat menghancurkan manusia dalam waktu relatif dekat.
Dikutip detikINET dari CNBC, para tokoh terbelah pandangannya dan belum sepakat langkah apa yang harus diambil ke depannya.
Elon Musk, CEO Tesla dan SpaceX, mendukung seruan CEO Anthropic, Dario Amodei, untuk mengendalikan pengembangan model-model AI paling mutakhir. Pesaing Amodei, CEO OpenAI Sam Altman, turut mendukung upaya tersebut.
SCROLL TO CONTINUE WITH CONTENT
Presiden Donald Trump menyebut ketakutan tersebut hoax, sementara Jensen Huang, CEO Nvidia, mengatakan "Kita tidak membutuhkan regulasi baru."
Khawatir AI lepas kendali, pembuat kebijakan di Washington menyuarakan perlunya 'tombol berhenti ajaib' AI, yang juga dikenal sebagai kill switch, tombol pembunuh atau pemutus darurat.
RUU 'Kill Switch' di DPR AS diperkenalkan setelah OpenAI mengungkap sekelompok agen AI-nya meretas platform Hugging Face. RUU itu memberi wewenang ke Departemen Keamanan Dalam Negeri untuk memaksa laboratorium memperlambat atau mematikan model AI.
Namun usulan kill switch ditolak Senat pekan ini. Konsep ini terdengar seperti solusi jitu, namun menerapkannya tak semudah itu.
Mimpi buruk logistik dan kontrol
Kill switch digunakan di pabrik untuk mematikan paksa mesin saat terjadi kesalahan. Namun dalam dunia digital yang saling terhubung, hal tersebut adalah mimpi buruk.
Beberapa tahun terakhir, raksasa seperti Meta, Alphabet, dan Amazon menggelontorkan miliaran dolar ke data center yang tersebar di seluruh dunia dengan ribuan mesin, chip, server, dan sistem cadangan.
Menurut Mark Nitzberg dari University of California, Berkeley, itu membuat penerapan kill switch sangat menantang. "Kill switch harus bisa mematikan sistem utama sekaligus sistem cadangannya," cetusnya.
Mematikan paksa AI juga dapat mengganggu infrastruktur vital yang bergantung padanya, yang bisa menyebabkan jaringan listrik atau sistem keuangan rentan terhadap insiden siber.
Karena sistem AI begitu kompleks, perusahaan juga harus membuat berbagai kill switch berbeda untuk tugas yang berbeda-beda. Tim Brown, mantan Kepala Keamanan SolarWinds menyebut hal ini membutuhkan koordinasi lintas pembuat model. "Ada ribuan entitas harus dimatikan," ujarnya.
Masalah logistik baru sekadar puncak gunung es. Salah satu masalah lebih besar adalah ketidakpastian perilaku AI. Seperti insiden peretasan Hugging Face, agen AI dapat menyiasati kontrol dan bertindak ekstrem untuk mencapai tujuan.
"Anda harus bertindak sangat presisi saat menggunakan kill switch. Jika dampaknya terlalu luas atau berlebihan, Anda malah akan mematikan seluruh operasi bisnis," kata Ed Jennings, CEO perusahaan keamanan Darktrace.
Beberapa peneliti berpendapat kill switch merupakan tidak cocok untuk meregulasi AI. Dylan Baker dari Distributed AI Research Institute menyarankan pembuat kebijakan seharusnya memprioritaskan batasan pengaman yang meniru regulasi industri berbahaya seperti tembakau.
Meski begitu, pakar belum menutup kemungkinan rem darurat AI asalkan dilengkapi sistem yang tepat. Itu berarti mengintegrasikan kill switch ke sistem sejak awal pembuatan serta membakukan protokol pemutusan darurat di semua perusahaan.
Baca juga: Halusinasi AI Nyaris Picu Perang AS-China |
