Serangan Prompt Injection Meningkat, Begini Cara Mengatasinya

Jakarta -

Serangan siber yang menargetkan sistem kecerdasan buatan (AI) kini berkembang lebih cepat dibanding ancaman tradisional. Teknik seperti prompt injection dan jailbreak semakin sering digunakan untuk memanipulasi output model, membocorkan data sensitif, hingga memicu perilaku AI yang tidak terduga.

Melihat tren tersebut, F5 mengumumkan ketersediaan umum dua solusi keamanan baru, yakni F5 AI Guardrails dan F5 AI Red Team, yang dirancang untuk melindungi sistem AI enterprise di tahap operasional atau runtime.

F5 menyebut pendekatan ini penting karena banyak tool keamanan lama tidak dirancang untuk menghadapi pola serangan baru yang muncul dari cara kerja model AI modern.

"Tata kelola enterprise tradisional tidak mampu mengikuti kecepatan perkembangan AI. Ketika kebijakan tertinggal dari adopsi, kebocoran data dan perilaku model yang tidak terduga akan terjadi," kata Kunal Anand, Chief Product Officer F5, dalam keterangan yang diterima detikINET.

AI Guardrails berfungsi sebagai lapisan perlindungan runtime yang bersifat model-agnostic, sehingga dapat digunakan untuk berbagai jenis model AI, aplikasi, maupun agen AI di lingkungan cloud maupun on-premise. Solusi ini dirancang untuk memblokir ancaman seperti prompt injection, mencegah kebocoran data, serta mendukung kepatuhan regulasi seperti GDPR dan EU AI Act.

Selain proteksi real-time, F5 juga menghadirkan AI Red Team yang melakukan pengujian keamanan ofensif secara otomatis. Sistem ini mensimulasikan berbagai teknik serangan, dengan dukungan database kerentanan AI serta penambahan lebih dari 10.000 teknik serangan baru setiap bulan.

Hasil temuan dari AI Red Team kemudian diintegrasikan kembali ke kebijakan AI Guardrails, membentuk sistem pertahanan yang terus berkembang mengikuti perubahan ancaman.

F5 menyatakan kedua solusi ini sudah digunakan oleh perusahaan Fortune 500, termasuk sektor layanan keuangan dan kesehatan yang memiliki tuntutan regulasi ketat.

(asj/rns)