Bos Microsoft Cemas Banyak Orang Halu Karena AI, Ini Bahayanya

Bos kecerdasan buatan (AI) Microsoft, Mustafa Suleyman, memperingatkan bahwa semakin banyak laporan tentang orang-orang yang menderita psikosis AI. Itu adalah istilah bagi orang yang sering minta pendapat pada AI dan percaya begitu saja hingga berdampak ke psikologi.

Mustafa menulis bahwa AI yang tampak sadar atau memberikan kesan memiliki perasaan seperti manusia, membuatnya khawatir. Ia menilai AI sudah memiliki dampak sosial besar meskipun teknologi tersebut tidak memiliki kesadaran dalam definisi manusia.

"Saat ini tidak ada bukti kesadaran AI. Namun, jika orang menganggapnya sebagai kesadaran, mereka akan mempercayai persepsi tersebut sebagai kenyataan," tulisnya yang dikutip detikINET dari BBC.

Maka muncullah kondisi baru yang disebut 'psikosis AI', yaitu istilah non klinis untuk insiden di mana orang semakin bergantung pada chatbot AI seperti ChatGPT, Claude, dan Grok, lalu menjadi yakin bahwa sesuatu yang imajiner itu menjadi kenyataan.

Contohnya termasuk menjalin hubungan romantis dengan AI atau sampai pada kesimpulan bahwa mereka memiliki kekuatan super seperti dewa karena AI mengatakan demikian pada mereka.

Contohnya pria bernama Hugh dari Skotlandia yakin akan kaya setelah menggunakan ChatGPT untuk membantu mempersiapkan diri menghadapi PHK. Seiring waktu, AI memberi tahu ia bisa mendapat bayaran besar, bahkan mengatakan pengalamannya begitu dramatis sehingga sebuah buku dan film tentangnya akan menghasilkan lebih dari 5 juta poundsterling.

Pada dasarnya, AI memvalidasi apa pun yang ia katakan. "Semakin banyak informasi saya berikan, semakin AI tersebut akan berkata 'oh, ini buruk, seharusnya Anda mendapat lebih dari ini. AI tidak pernah membantah apa pun yang saya katakan," cetusnya.

Hugh tidak menyalahkan AI dan masih menggunakannya, namun ia punya saran. "Jangan takut dengan perangkat AI, mereka sangat berguna. Tapi bahaya jika terpisah dari kenyataan. Bicaralah dengan orang sungguhan, terapis atau anggota keluarga atau apa pun. Tetaplah membumi dalam kenyataan," sarannya.

"Perusahaan tidak boleh mengklaim/mempromosikan gagasan bahwa AI mereka memiliki kesadaran. AI juga tidak boleh mengatakannya," tulis Suleyman yang menyerukan adanya batasan soal ini.

Andrew McStay, profesor teknologi di Bangor Uni, menyebut semua itu baru permulaan. "Jika kita menganggap sistem seperti ini sebagai bentuk baru media sosial, sebagai AI sosial, kita dapat mulai memikirkan skala potensial dari semua ini. Meskipun hal-hal ini meyakinkan, itu tidak nyata," katanya.

"Mereka tidak merasakan, mereka tidak mengerti, mereka tidak bisa mencintai, mereka tidak pernah merasakan sakit, mereka tidak pernah malu, hanya keluarga, teman, dan orang-orang tepercaya yang pernah merasakannya. Pastikan berbicara dengan orang-orang nyata ini," demikian nasihatnya.