CEO Microsoft Satya Nadella mengungkap pandangannya soal ancaman risiko AI yang lepas kendali. Ia mengatakan AI seharusnya memiliki 'rem darurat' yang sepenuhnya dipegang oleh manusia untuk menghentikan model yang lepas kendali.
Dalam postingan panjang di X, Nadella mengatakan AI bukanlah sekumpulan 'kotak hitam' yang saran dan tindakannya bisa kita terima atau tolak begitu saja.
Ia menyerukan pengembangan sistem yang transparan di mana model dapat dikendalikan, diawasi, dan meninggalkan bukti yang dapat diamati manusia dan tidak dapat diubah.
"Kita harus berasumsi bahwa suatu model sudah disusupi dan mengurungnya sejak awal. Anggap saja seperti rem darurat," tulis Nadella dalam postingannya di X, seperti dikutip dari The Verge, Senin (12/10/2026).
"Orang yang berwenang harus selalu dapat menghentikan sementara atau mematikan model di tengah tugas. Model yang lebih canggih akan membutuhkan teknologi penahanan yang perlu distandardisasi," sambungnya.
Nadella menyarankan mekanisme pengawasan seperti pengujian sistem berkelanjutan, kontrol dan audit independen, penahanan, dan pengungkapan insiden secara tepat waktu.
"Sistem Super Intelligence yang paling dapat dipercayai bukanlah model yang paling kita percayai," tulis Nadella, menggunakan istilah yang disukai pemerintahan Donald Trump untuk menyebut AI.
Nadella menjadi bos teknologi kesekian yang memperingatkan risiko ancaman AI. Sebelumnya pendiri Microsoft Bill Gates, CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan CEO SpaceXAI Elon Musk telah memperingatkan protokol keselamatan AI yang tidak memadai dan mengklaim teknologi tersebut berkembang terlalu cepat.
Bulan lalu, seorang peneliti AI mengundurkan diri dari Anthropic dan menuduh perusahaan tersebut, dan pesaingnya OpenAI, bertaruh dengan masa depan umat manusia.
Di hari yang sama, seorang peneliti bidang keselamatan AI di Anthropic mengatakan ada lebih dari 10% kemungkinan teknologi ini akan membunuh seluruh umat manusia dalam dekade berikutnya.
Di sisi lain, Presiden Amerika Serikat Donald Trump telah berulang kali membantah prediksi AI akan memicu kepunahan. Ia mengatakan regulasi akan memperlambat perkembangan AI dan membuat AS ketinggalan dari China.
Simak Video "Pesan Jenderal Hoegeng Iman Santoso, yang Dihadirkan Melalui Teknologi A.I"
(vmp/fay)