AI Mulai Tunjukkan Kesadaran Diri, Pakar Ketakutan

Pakar kecerdasan buatan yang dijuluki Godfather of AI (Bapak AI) mengklaim manusia harus berteman dengan bot atau akan menghadapi kepunahan, karena teknologi tersebut menurutnya sudah menunjukkan tanda kesadaran.

"Saya rasa akan ada serangan siber mengerikan yang dilakukan AI," ujar Profesor Geoffrey Hinton, ilmuwan komputer Inggris-Kanada yang karyanya tentang jaringan saraf membuka jalan bagi AI, kepada Telegraph.

Pemenang Hadiah Nobel berusia 78 tahun ini mengundurkan diri dari Google pada tahun 2023 karena kekhawatiran teknologi tersebut dapat menciptakan robot pembunuh yang mampu memusnahkan umat manusia.

Walau teori ini mungkin tampak seperti kisah film Terminator, Hinton mengklaim bahwa AI telah menunjukkan indikator bahwa ia sadar akan dirinya sendiri.

"AI memiliki pengalaman subjektif yang sama besarnya dengan kita. Sebuah makalah terbaru menunjukkan bahwa AI mengubah perilakunya ketika ia berpikir sedang diuji, ia sadar bahwa ia sedang diuji. Memiliki kesadaran dan bersikap sadar pada dasarnya adalah hal yang sama," cetusnya.

Ini bisa menjadi masalah mengingat kita akan memberi AI hak yang lebih sedikit meskipun AI mungkin lebih cerdas. Karenanya, sangat penting bagi kita untuk melangkah dengan hati-hati dan tidak menunjukkan indikasi bahwa kita adalah musuh.

"Jadi kita harus membuat mereka agar benar-benar peduli pada kita. Dan jika kita tidak melakukannya, tamatlah riwayat kita," demikian peringatannya yang dikutip detikINET dari NY Post.

Ia menambahkan dirinya tidak perlu takut karena usia sudah lanjut, tapi anak-anaknya harus khawatir tentang serangan komputer, virus buatan AI, dan segerombolan agen seperti yang menyerang platform Hugging Face.

Hinton merujuk pada peretasan baru-baru ini, di mana entitas AI nakal berkolusi untuk meretas sistem perusahaan tersebut "Ada banyak hal buruk yang akan terjadi di masa depan," keluh Hinton.

Pelopor AI ini bukanlah satu-satunya pakar yang memperingatkan tentang ancaman kiamat AI. Peneliti Jacob Coxon, yang mengundurkan diri dari perusahaan AI Anthropic bulan lalu, berulang kali memperingatkan AI dapat membunuh manusia dalam beberapa tahun jika kita tidak mengeremnya.

Ia menegaskan kembali peringatannya pada pertemuan Dewan Kota New York awal bulan ini. "Dari pengalaman saya, perusahaan-perusahaan tersebut bertindak sangat sembrono mengingat risiko yang dipertaruhkan," kata Coxon.

"Perusahaan-perusahaan ini beroperasi dengan pola pikir startup: bergerak cepat, hancurkan, perbaiki nanti. Itu mungkin berhasil untuk aplikasi berbagi foto. Namun, itu tidak berlaku untuk membangun teknologi paling kuat yang pernah diciptakan," paparnya.

Pertanyaan mengenai kesadaran AI masih dipedebatkan. Namun diam-diam, Anthropic memperbarui konstitusi Claude miliknya, sebuah dokumen yang mengatur pedoman moral chatbot AI, dengan menyatakan bahwa status moral, kesejahteraan, dan kesadaran bot tersebut masih sangat tidak pasti. Ini seolah mengisyaratkan ia bisa saja hidup.

Meski begitu, Mustafa Suleyman, salah satu pendiri unit AI DeepMind, merasa bahwa kesadaran secara murni bersifat biologis dan tidak dapat diterapkan pada AI.