.webp)
Dalam sebuah pernyataan resmi, lembaga Pemerintah Inggris mengeluarkan peringatan kepada seluruh perusahaan Inggris tentang risiko keamanan siber dari Chatbot AI.
Pernyataan ini dikeluarkan oleh National Cyber Security Centre (NCSC) dalam sebuah publikasi pada Rabu (30/08). Menurut NCSC, Chatbot AI memiliki sistem Large Language Models(LLM) yang mengandung risiko serangan injeksi cepat dan manipulasi data.
"Salah satu kelemahan yang paling banyak dilaporkan tentang keamanan LLM saat ini adalah kerentanannya terhadap 'injeksi cepat', yaitu ketika pengguna membuat perintah jahat yang dirancang untuk membuat sistem kejahatan. Artinya, Chatbot AI dapat menghasilkan konten yang menyinggung, mengungkapkan informasi rahasia, atau memicu konsekuensi yang tidak diinginkan dalam sistem," terang NCSC.
SCROLL TO CONTINUE WITH CONTENT
Pernyataan NCSC ini juga didukung dengan upaya beberapa akademisi dan peneliti di Inggris yang sudah menemukan cara untuk mengelabui atau menyalahgunakan Chatbot AI dengan memberikan perintah jahat.
Penggunaan Chatbot AI sebagai alat kerja saat ini tidak hanya dikonsumsi oleh masyarakat di Internet. Di Inggris, Chatbot AI juga digunakan sebagai layanan penjualan dan customer service dalam banyak perusahaan, seperti dilansir detikINET dari Reuters.
Hal ini yang membuat NCSC mengeluarkan peringatan tentang keamanan siber di AI Chatbot dalam penggunaannya sebagai alat pembantu bisnis pada seluruh perusahaan di Inggris.
"Perusahaan yang membangun layanan yang menggunakan LLM harus berhati-hati, sama seperti jika mereka menggunakan produk yang masih dalam versi beta," jelas NCSC
Pada publikasi ini, NCSC juga memberi langkah-langkah untuk masyarakat agar tidak sembarangan dalam menggunakan sistem berbasis LLM. Beberapa langkah yang disarankan NCSC seperti berhati-hati ketika download model dari internet, tetap mengikuti pembaruan perangkat lunak dan memahami speknya.
*Artikel ini ditulis oleh Argya D. Maheswara, peserta Program Magang Bersertifikat Kampus Merdeka di detikcom
(fyk/fyk)
