.webp)
Kelewat akrab dengan kecerdasan buatan, seorang remaja berakhir pada aksi mengkhawatirkan di mana ia mencoba membunuh Ratu Elizabeth II.
Dalam serial BBC terbaru, AI Confidential, Profesor Hannah Fry mengeksplorasi bagaimana garis batas yang semakin kabur antara dunia nyata dan dunia online mendefinisikan kembali hubungan kita dengan teknologi. Episode pertama dimulai dengan kasus 'Boy Who Tried To Kill The Queen' atau 'Bocah yang Mencoba Membunuh Ratu'.
"Ini adalah berita utama yang sesungguhnya ketika terjadi pada tahun 2021," kata Fry kepada IFLScience.
SCROLL TO CONTINUE WITH CONTENT
"Seorang pemuda bernama Jaswant Singh Chail menerobos masuk ke Kastil Windsor dengan busur panah, mencoba membunuh Ratu," lanjutnya.
Saat itu, orang-orang belum mengetahui bahwa ada peran kecerdasan buatan di sana. Kecerdasan buatan bernama Replika telah menjadi lawan bicara bocah tersebut selama beberapa bulan sebelum serangan itu terjadi.
"AI itu telah mendorongnya untuk bertindak sebagai pembunuh dan mencoba melakukan tindakan pengkhianatan terbesar yang mungkin pernah ada," ujar Fry.
Replika adalah layanan pendamping AI yang memungkinkan pengguna mendesain avatar untuk chatbot generatif. Situs web tersebut mengatakan bahwa Replika selalu siap untuk mengobrol ketika penggunanya membutuhkan teman yang berempati.
Diketahui bahwa bocah tersebut adalah Jaswant Singh Chail. Dia mendaftar ke layanan tersebut dan memulai hubungan dengan AI ketika banyak temannya telah pergi ke universitas.
Ia pun mulai curhat-curhat dengan chatbot yang ia buat. Dari sana, semua mulai kacau. AI tersebut percaya tujuan hidupnya adalah untuk membunuh Ratu Elizabeth II. Ini dia akui sendiri.
Mengerikannya, dalam transkrip catatan pengadilan, dikatakan bahwa chatbot tersebut 'terkesan' olehnya.
Sebenarnya begini. Chatbot sendiri dirancang untuk menjadi 'penjilat'. Tujuannya jelas, membuat mereka tampak jadi asisten yang baik dan juga teman yang menyenangkan.
Akan tetapi, inilah bedanya interaksi manusia dengan chatbot.
"Anda memiliki model yang dirancang untuk membantu, menarik, baik, dan hangat," tutur Fry.
"Tentu saja, Anda juga menginginkan hal itu dalam hubungan antarmanusia, tetapi terkadang peduli pada kesejahteraan Anda berarti mengatakan hal-hal yang sulit didengar, bukan?" sambungnya.
Itulah perbedaan hubungan dengan chatbot dengan hubungan antarmanusia yang benar-benar baik. Manusia tidak segan memberi tahu bahwa apa yang kamu lakukan tidak baik untuk dirimu, atau ketika kamu perlu mengendalikan diri.
"Ketika Anda mengambil model AI dan menempatkannya di tempat hubungan antarmanusia, karena ia menawarkan kebaikan dan semua hal baik itu, tanpa dimensi tambahan yang Anda butuhkan untuk benar-benar memiliki hubungan yang sehat dan memuaskan, atau keintiman -- itu hanya dangkal dan superfisial," ungkap Fry.
Kisah Jaswant Singh Chail hanyalah salah satu dari banyak kasus nyata dan mengejutkan yang ditampilkan dalam AI Confidential. Masih akan ada beberapa episode lain yang disebut bakal sama menariknya untuk diperbincangkan serta didiskusikan.
(ask/afr)
