.webp)
Seorang peneliti kecerdasan buatan (AI) mengundurkan diri dari pekerjaannya di Anthropic dan menuduh perusahaan tersebut, serta pesaing utamanya, OpenAI, bertindak tidak bertanggung jawab, yang memicu gelombang kekhawatiran di media sosial mengenai pesatnya perkembangan AI.
Jacob Coxon, yang pernah bekerja sebagai peneliti di kedua perusahaan, mengatakan di X bahwa ia mengundurkan diri karena khawatir Anthropic dan OpenAI "mempertaruhkan nyawa kita." Ia mengatakan bahwa orang-orang yang membangun AI sungguh percaya teknologi ini bisa membunuh kita semua akhir dekade ini.
"Jangan meremehkan kekuatan teknologi ini. Dalam waktu dekat ini akan menjadi sistem manusia super yang dapat meretas apa saja, merevolusi bidang apa pun dalam semalam, dan memperoleh kekuatan serta sumber daya yang nyata," tulisnya.
SCROLL TO CONTINUE WITH CONTENT
Unggahan Coxon, yang telah dilihat sekitar 70 juta kali, mencerminkan perdebatan panjang di Silicon Valley tentang apakah AI dapat dikembangkan dan dikendalikan dengan aman. Saat Anthropic dan OpenAI melesat menuju penawaran umum perdana (IPO) serta merilis model yang makin canggih, banyak peneliti menyerukan perlambatan.
Kepala ilmuwan OpenAI, Jakub Pachocki, menulis blog dan memperingatkan belum ada perusahaan AI yang menyelesaikan masalah 'penyelarasan' dan pemantauan memadai untuk meningkatkan skala secara bertanggung jawab. Dalam industri AI, penyelarasan merujuk pada upaya pengembang AI memastikan sistem berperilaku sesuai nilai dan niat manusia.
"Saya memperkirakan dan berharap perlambatan sukarela akan menjadi lumrah sampai standar keselamatan bersama ditetapkan. Dan saya percaya koordinasi internasional mengenai pengembangan AI di masa depan perlu menjadi prioritas utama pemerintah di seluruh dunia," tulis Pachocki.
Unggahan Coxon juga menarik simpati para peneliti yang khawatir tentang perbaikan diri rekursif atau sistem AI yang bisa merancang dan mengembangkan penerusnya tanpa campur tangan manusia.
Perbaikan diri rekursif belum memungkinkan saat ini, tapi berbagai perusahaan termasuk Anthropic dan OpenAI, memperingatkan hal tersebut akan membuat manusia lebih mudah kehilangan kendali.
"Kedua perusahaan tidak bertindak secara bertanggung jawab. Mereka berpacu lurus menuju kecerdasan super yang dapat memperbaiki dirinya sendiri," tulis Coxon.
Evan Hubinger, pimpinan penyelarasan di Anthropic, malah menggemakan komentar Coxon. "Jacob benar dalam hal ini-kami benar-benar sangat percaya bahwa AI bisa membunuh semua manusia! Secara pribadi, saya pikir kemungkinannya >10% dalam dekade mendatang," tulis Hubinger.
Meskipun ekstrem, kekhawatiran tentang potensi AI menyebabkan kepunahan manusia atau peristiwa bencana lainnya bukan hal baru. Tahun 2023 misalnya, peneliti dan eksekutif AI terkemuka, termasuk CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei, menandatangani pernyataan: "Memitigasi risiko kepunahan akibat AI harus jadi prioritas global di samping risiko skala sosial lainnya seperti pandemi dan perang nuklir."
Hubinger dari Anthropic juga merupakan salah satu dari sekitar 1.400 peneliti AI yang menandatangani surat terbuka "Pacing the Frontier" (Mengatur Laju Garis Depan) bulan Juli lalu. Surat tersebut mendesak pemerintah AS mengembangkan instrumen yang diperlukan guna mendukung upaya untuk mengatur laju pengembangan AI.
Beberapa anggota Kongres telah mengambil langkah-langkah untuk mencoba dan mengatasi kemajuan AI yang pesat pada bulan-bulan berikutnya, tetapi belum ada konsensus yang jelas tentang bagaimana teknologi tersebut harus diatur.
Bulan Juli, Anggota DPR Jay Obernolte dan Lori Trahan, memperkenalkan rancangan undang-undang FRONTIER Act, yang bertujuan untuk menetapkan kerangka kerja dalam mengatur penyebaran model AI tingkat lanjut.
"Para peneliti keselamatan mengundurkan diri, model-model AI yang kuat menembus keluar dari laboratorium mereka, namun perusahaan-perusahaan tetap saja berpacu melaju. "Sudah waktunya bagi Kongres untuk berhenti hanya menjadi penonton dan mulai melakukan pekerjaannya," tulis Trahan.
Menteri Keuangan Scott Bessent mengatakan awal bulan ini bahwa perusahaan-perusahaan AI menunjukkan kinerja sangat buruk dalam memberikan penjelasan tentang diri mereka kepada rakyat Amerika.
"Mereka harus ikut menanggung sebagian kesalahan dan mereka harus meyakinkan rakyat Amerika bahwa semua manfaatnya tidak hanya akan mengalir pada sekelompok kecil orang saja," kata Bessent.
