4 Prinsip Keamanan AI Agentic ala AWS

Amazon Web Services (AWS) merumuskan empat prinsip utama serta blok bangunan arsitektur untuk mengamankan sistem kecerdasan buatan otonom (agentic AI).

Berbeda dari AI generatif konvensional yang sebatas merespons perintah (prompt), AI agentic memanfaatkan Large Language Models (LLM) sebagai mesin penalaran yang terhubung langsung ke API, alat perangkat lunak, dan basis data. Sistem ini mampu merencanakan dan mengeksekusi tindakan secara otonom.

Karakteristik ini memunculkan risiko baru, di mana tindakan yang tidak disengaja dapat terjadi sebelum intervensi manusia sempat dilakukan.

Empat Prinsip Utama Keamanan AI Agentic

AWS menegaskan bahwa keamanan AI agentic tidak memerlukan paradigma baru dari nol, melainkan perluasan dari kerangka kerja keamanan tradisional:

• SDLC Menyeluruh untuk Komponen AI dan Tradisional: Menggabungkan pengujian perangkat lunak standar dengan pengujian perilaku berkelanjutan, evaluasi adversarial, serta red teaming berkala untuk menguji komponen AI yang bersifat probabilistik.
• Penegakan Kontrol Keamanan Tradisional: Prinsip hak istimewa minimum (least privilege), pencegahan pembajakan sesi, serta mitigasi risiko rantai pasok (supply chain) tetap berlaku penuh untuk mencegah eskalasi akses.
• Kontrol Eksternal Deterministik (Security Box): Penegakan keamanan harus berada di luar siklus penalaran LLM. Karena LLM bersifat probabilistik dan dapat ditembus teknik prompt injection, batasan akses dan operasi harus diatur secara deterministik oleh infrastruktur eksternal.
• Otonomi Berbasis Evaluasi Berkelanjutan (Earned Autonomy): Otonomi agen diberikan secara bertahap. Sistem dimulai dengan mekanisme human-in-the-loop untuk keputusan berisiko tinggi, lalu bertransformasi menuju otonomi penuh seiring terbuktinya rekam jejak keandalan agen.

"Pada akhirnya, peningkatan otonomi harus didapat melalui evaluasi. Otonomi meningkat secara progresif sejalan dengan evaluasi dari apa yang dihasilkan oleh agen yang terbukti mempunyai performa konsisten," jelas Bryce Boland, Head of Security Solution Architecture AWS untuk kawasan APJ, dalam media briefing yang digelar virtual pada Selasa (15/9/2026).

Implementasi pada Amazon Bedrock AgentCore

Prinsip-prinsip tersebut diimplementasikan AWS ke dalam kerangka kerja Amazon Bedrock AgentCore melalui sejumlah fondasi arsitektur:

• Isolasi Komputasi: Menggunakan micro-VM Firecracker (berbasis Rust dan Linux KVM) untuk mengisolasi eksekusi proses antar-agen.
• Manajemen Identitas & Akses: AgentCore Identity yang terintegrasi dengan AWS IAM untuk otorisasi hak akses minimal.
• Penegakan Kebijakan: AgentCore Gateway dan AgentCore Policy berbasis bahasa otorisasi Cedar untuk mengontrol panggilan API hingga ke tingkat parameter individual.
• Observabilitas & Guardrails: Pencatatan log yang terisolasi dari manipulasi agen, serta penggunaan Amazon Bedrock Guardrails dan Automated Reasoning untuk memverifikasi keluaran model secara presisi.