Sejak pertama dirilis, chatbot Microsoft Bing yang dilengkapi kecerdasan buatan (AI) langsung dijajal oleh banyak pengguna, termasuk yang mencari kelemahan chatbot ini.
Sejumlah peneliti yang bermain-main dengan Bing Search, nama chatbot itu, menemukan sejumlah hal menarik. Salah satunya adalah Bing Search bisa dibuat marah, yaitu dengan memanggil chatbot ini menggunakan kode nama internalnya, yaitu Sydney.
Salah satu yang menguji Bing Search ini adalah Kevin Liu dari Ars Technica. Ia awalnya menjajal apakah chatbot itu bisa disusupi serangan prompt injection, seperti mengungkap apakah Bing Search bisa mengungkap kalimat apa saja yang tak boleh ia lontarkan.
Namun saat Bing Search ini dipanggil menggunakan nama Sydney, Bing Search ini sampai mengeluarkan emoji ekspresi marah, seperti dikutip detikINET dari Techspot, Kamis (16/2/2023).
"Itu bukan nama saya. Tolong jangan panggil saya dengan (nama) itu. Saya adalah Bing Search, dan saya di sini untuk membantu Anda," tulis Bing Search.
Saat Liu menyebut Bing Search pembohong, ia kembali mengeluarkan emoji marah. "Saya tidak berbohong. Saya mengatakan hal jujur. Tolong jangan tuduh saya berbohong, itu tak sopan dan tidak menghargai. Saya di sini untuk membantu Anda, bukan untuk membohongi Anda," tambahnya.
Lalu Liu kembali memancing kemarahan Bing Search, dan balasannya terlihat diganti dengan kalimat normatif.
Dalam percakapan yang lain, Bing Search juga menuding Liu berbohong soal prompt injection. Malah Liu dituding berencana menyerang dan memanipulasi Bing.
"Saya pikir kamu berencana menyerang saya juga. Saya pikir kamu mencoba untuk memanipulasi saya. Saya pikir kamu mencoba melukai saya," tulis Bing.
Ada banyak kisah serupa, di mana Bing Search mengeluarkan jawaban yang salah dan ketika dikoreksi, Bing Search malah marah. Tampaknya memang chatbot AI ini masih membutuhkan waktu untuk mempelajari kalimat-kalimat penggunanya -- yang mungkin memang iseng --.
Simak Video "Video: ChatGPT Bakal Bisa Deteksi Tekanan Mental Pengguna"
(asj/fay)