OpenAI mengungkap temuan mereka terkait lima operasi rahasia soal penyebaran hoax menggunakan kecerdasan buatan (AI) yang berasal dari China, Iran, Israel, dan Rusia.
Dalam aktivitas ilegal yang sudah berlangsung selama tiga bulan itu, model AI dipakai untuk membuat komentar singkat dan artikel panjang dalam berbagai bahasa, membuat nama dan profil palsu untuk akun media sosial, melakukan riset terbuka, debug kode sederhana, menerjemahkan, dan mengedit tulisan.
Menurut OpenAI, ada dua jaringan yang ditenggarai dimiliki pelaku dari Rusia, termasuk sebuah operasi dengan nama Bad Grammar. Operasi tersebut menggunakan setidaknya 12 akun Telegram yang mengincar pengguna di Ukraina, Moldova, negara-negara Baltik, dan Amerika Serikat, yaitu dengan menyebar konten hoax berbahasa Rusia dan Inggris.
"Jaringan ini mengugnakan model (AI) kami dan akun di Telegram untuk membuat jalur komentar spam. Pertama, pelaku menggunakan model untuk men-debug kode yang tampaknya didesain untuk memposting otomatis di Telegram. Kemudian mereka membuat tulisan komentar berbahasa Rusia dan Inggris untuk membalas postingan spesifik di Telegram," kata OpenAI dalam keterangannya.
Model AI tersebut juga dipakai untuk membuat komentar yang berasal dari orang-orang fiktif dengan berbagai demografi, termasuk dengan pandangan politik berbeda di Amerika Serikat.
Operasi lain yang juga terhubung ke Rusia menggunakan "Recent Reliable News" -- yang sudah diblokir oleh AS karena operasi penyebaran hoax -- untuk menyebar komentar di Twitter/X serta 9Gag dalam berbagai bahasa seperti Inggris, Prancis, Jerman, Italia, dan Polandia, menggunakan model AI OpenAI.
Di situs-situs tersebut mereka menyebar headline bohong serta mengubah artikel berita yang diposting di situs resmi media menjadi postingan Facebook, demikian dikutip detikINET dari The Hacker News, Rabu (5/6/2024).
"Aktivitas ini mengincar pengguna di Eropa dan Amerika Utara dan berfokus untuk menciptakan konten di situs dan media sosial. Mayoritas konten yang dibuat dipublikasikan secara online ini berfokus pada perang di Ukraina. Kontennya menggambarkan Ukraina, AS, NATO, dan Uni Eropa secara negatif, dan Rusia secara positif," tambah OpenAI.
Secara garis besar ada tiga kluster utama operasi penyebaran disinformasi ini, yaitu:
Jaringan berasal dari China yang bernama Spamouflage, yang menggunakan model AI untuk meneliti aktivitas media sosial publik, menciptakan konten teks berbahasa China, Inggris, Jepang, dan Korea untuk diposting di X, Medium, dan Blogger, serta menyebarkan konten propaganda yang mengkritisi pihak yang tak sepaham dengan China, menghina warga asli Amerika, serta men-debug kode untuk mengatur database dan situs.
Jaringan dari Iran yang dikenal dengan International Union of Virtual Media (IUVM). Jaringan ini menggunakan model AI untuk membuat dan menerjemahkan artikel panjang, headline, serta nama situs berbahasa Inggris dan Prancis dan dipublikasikan ulang di situs iuvmpress.
Jaringan Israel yang dikenal dengan nama Zero Zeno, sebuah perusahaan intelijen bisnis bernama STOIC yang menggunakan model AI untuk menghasilkan dan menyebarkan konten anti Hamas, anti Qatar, pro Israel, anti BJP, dan pro Histadrut di Instagram, Facebook, X dan situs yang terafiliasi dengan mereka. Pengguna yang diincar berasal dari Kanada, Amerika Serikat, India, dan Ghana.
"(Zero Zeno) juga menggunakan model kami untuk membuat orang fiksional dan profil untuk media sosial, berdasarkan variabel tertentu seperti umur, jenis kelamin, dan lokasi, dan untuk melakukan penelitian terhadap orang-orang di Israel yang berkomentar terkait Histadrut trade union di Israel," jelas OpenAI.
Simak Video "Video: AI Diprediksi Bakal Temukan Pengetahuan Baru di Masa Depan"
(asj/asj)