.webp)
Anthropic mengatakan model AI kecil dapat mengembangkan kemampuan untuk mereplikasi diri dan menyebar di jaringan perangkat smart home yang terhubung ke internet. Ini merupakan peringatan terbaru dari Anthropic tentang potensi risiko keamanan AI.
Antropic menjelaskan model AI berpotensi menyusupi perangkat yang terhubung dengan internet, seperti oven pintar atau Android TV, dan menggunakan daya komputasinya untuk menjalankan model dan menyebarkannya ke perangkat lain tanpa perlu bergantung pada pusat data.
Dalam postingan blognya, Anthropic mengatakan model AI yang sudah menyebar akan sulit untuk dimatikan karena tidak ada titik pusat yang bisa dinonaktifkan.
SCROLL TO CONTINUE WITH CONTENT
Anthropic mengakui saat ini belum ada model replika yang sepenuhnya liar. Namun, menurut Anthropic saat ini agen-agen AI semakin pintar dalam menyelesaikan langkah-langkah dalam proses replikasi dan menyalin diri sendiri di masa depan.
Sebelum mengeluarkan peringatan ini, Anthropic sudah melakukan sejumlah tes untuk melihat apakah AI dapat mereplikasi diri. Salah satu tes tersebut melibatkan model kecil Gemma4-26B-A4B milik Google yang dijalankan di 15 box Android TV murah.
Anthropic mengatakan perangkat jenis ini kebanyakan memiliki keamanan lemah, sehingga mudah disusupi model AI. Model yang terlalu besar dapat membelah diri menjadi beberapa bagian dan berjalan di beberapa perangkat.
"Dalam praktiknya, worm AI tidak selalu hanya terdiri dari satu model atau strategi. Sekumpulan model berbeda yang dikerahkan pada berbagai jenis perangkat menggunakan beragam skema replikasi mungkin mewakili serangan 'skenario terburuk' yang lebih realistis," kata Anthropic, seperti dikutip dari CNBC, Rabu (14/10/2026).
Saat ini Anthropic belum yakin seperti apa bentuk replikasi AI otonom nantinya. Bisa jadi dalam bentuk sistem yang lambat dan terdistribusi yang berdiam dalam perangkat tidak aman, atau model yang sangat pintar yang dapat membobol pusat data dengan cepat.
Hasil riset terbaru Anthropic menambah panjang daftar kekhawatiran tentang keamanan AI yang perkembangannya sangat cepat. Bulan lalu, peneliti Anthropic Evan Hubinger memperingatkan ada 10% kemungkinan AI akan memusnahkan umat manusia dalam satu dekade ke depan.
Eksekutif di perusahaan AI, termasuk Anthropic, OpenAI, dan Microsoft, menyerukan pengamanan yang lebih ketat dan langkah-langkah untuk mengendalikan laju pengembangan teknologi tersebut.
