KEPULAUAN BANGKA BELITUNG — Amazon Web Services memaparkan empat prinsip keamanan untuk sistem AI agentic yang mampu bertindak otonom tanpa menunggu perintah manusia. Kerangka ini dibahas dalam media briefing virtual pada Selasa (15/9/2026), dengan implementasi teknis lewat Amazon Bedrock AgentCore. Pendekatan ini penting karena LLM sebagai mesin penalaran agen membuka risiko eksekusi tindakan sebelum intervensi manusia sempat dilakukan.
Berbeda dari AI generatif yang hanya merespons prompt, AI agentic memakai Large Language Models sebagai mesin penalaran yang tersambung langsung ke API, alat perangkat lunak, dan basis data. Sistem ini bisa merencanakan sekaligus mengeksekusi tindakan secara mandiri.
Karakter otonom itulah yang memunculkan risiko baru. Tindakan yang tidak disengaja dapat terjadi lebih cepat daripada kesempatan manusia untuk menghentikannya.
AWS menegaskan keamanan AI agentic tidak butuh kerangka kerja yang dibangun dari nol. Yang diperlukan adalah perluasan dari praktik keamanan tradisional yang sudah ada.
Prinsip pertama menyangkut SDLC menyeluruh untuk komponen AI dan tradisional. Pengujian perangkat lunak standar digabung dengan pengujian perilaku berkelanjutan, evaluasi adversarial, serta red teaming berkala untuk menguji komponen AI yang bersifat probabilistik.
Prinsip kedua menegaskan kontrol keamanan tradisional tetap diberlakukan penuh. Prinsip hak istimewa minimum, pencegahan pembajakan sesi, dan mitigasi risiko rantai pasok jadi benteng untuk mencegah eskalasi akses.
Prinsip ketiga menyoroti kontrol eksternal deterministik atau Security Box. Penegakan keamanan harus ditempatkan di luar siklus penalaran LLM.
Alasannya, LLM bersifat probabilistik dan bisa ditembus teknik prompt injection. Karena itu, batasan akses dan operasi mesti diatur secara deterministik oleh infrastruktur eksternal, bukan diserahkan ke model.
Prinsip keempat adalah otonomi berbasis evaluasi berkelanjutan atau earned autonomy. Otonomi agen diberikan bertahap, dimulai dari mekanisme human-in-the-loop untuk keputusan berisiko tinggi.
Seiring terbuktinya rekam jejak keandalan, agen bisa bertransformasi menuju otonomi penuh. Bryce Boland, Head of Security Solution Architecture AWS untuk kawasan APJ, menekankan peningkatan otonomi harus diraih lewat evaluasi.
"Pada akhirnya, peningkatan otonomi harus didapat melalui evaluasi. Otonomi meningkat secara progresif sejalan dengan evaluasi dari apa yang dihasilkan oleh agen yang terbukti mempunyai performa konsisten," jelasnya.
Empat prinsip itu diterjemahkan AWS ke dalam fondasi arsitektur Amazon Bedrock AgentCore. Fondasi pertama adalah isolasi komputasi memakai micro-VM Firecracker berbasis Rust dan Linux KVM untuk memisahkan eksekusi antar-agen.
Fondasi kedua menyangkut manajemen identitas dan akses. AgentCore Identity terintegrasi dengan AWS IAM untuk otorisasi hak akses minimal.
Fondasi ketiga adalah penegakan kebijakan lewat AgentCore Gateway dan AgentCore Policy berbasis bahasa otorisasi Cedar. Keduanya mengontrol panggilan API hingga tingkat parameter individual.
Fondasi keempat mencakup observabilitas dan guardrails. Pencatatan log dibuat terisolasi dari manipulasi agen, sementara Amazon Bedrock Guardrails dan Automated Reasoning memverifikasi keluaran model secara presisi.
Bagi pelaku bisnis digital dan pengembang di Indonesia, kerangka ini jadi acuan praktis saat mulai mengeksekusi agen otonom di lingkungan produksi. Pertanyaan soal siapa yang memegang kendali saat agen bertindak di luar skenario masih jadi pekerjaan rumah bersama.