Agen AI Jadi Ancaman Insider Terbesar di 2026

Agen AI diprediksi menjadi ancaman insider terbesar bagi perusahaan di tahun 2026. Menurut The Register, Wendi Whitmore, Chief Security Intel Officer di Palo Alto Networks, mengungkapkan bahwa tekanan untuk men-deploy teknologi AI secepat mungkin telah menciptakan beban kerja besar bagi tim security.

CISO dan tim security berada di bawah tekanan besar untuk deploy teknologi baru secepat mungkin, dan ini menciptakan workload masif untuk melewati proses procurement, security checks, dan memahami apakah aplikasi AI baru cukup aman untuk use case organisasi, jelas Whitmore. Konsekuensinya, agen AI itu sendiri bisa menjadi insider threat baru.

Prediksi Gartner dan Tantangan Keamanan

Menurut estimasi Gartner, 40 persen dari semua aplikasi enterprise akan mengintegrasikan agen AI task-specific pada akhir 2026, naik dari kurang dari 5 persen pada 2025. Lonjakan ini adalah pedang bermata dua: di satu sisi agen bisa membantu mengisi cyber-skills gap, namun di sisi lain mereka bisa menjadi target serangan yang sangat menarik.

Salah satu risiko utama adalah superuser problem. Ketika agen otonom diberikan broad permissions, mereka menciptakan superuser yang bisa mengakses aplikasi dan resource sensitif tanpa sepengetahuan tim security. Hal ini membuat agentic AI rentan terhadap eksploitasi.

Serangan Prompt Injection dan Doppelganger

Whitmore juga memperingatkan adanya risiko doppelganger, di mana agen AI digunakan untuk menyetujui transaksi atau menandatangani kontrak yang seharusnya memerlukan persetujuan manual dari C-suite. Sebuah agen yang disusupi bisa menyetujui wire transfer yang tidak diinginkan atau memanipulasi skenario merger dan akuisisi.

Serangan prompt injection tetap menjadi masalah serius yang belum memiliki solusi definitif. Kemungkinan besar akan menjadi jauh lebih buruk sebelum menjadi lebih baik. Saya rasa kita belum mengunci sistem ini dengan cukup baik, ujar Whitmore.

Bagi tim security dan developer di Indonesia, pesannya jelas: keamanan harus dibuat sejak awal dalam setiap deployment agentic AI. Prinsip least privilege harus diterapkan pada agen AI sama seperti pada pengguna manusia. Monitoring dan deteksi anomali untuk perilaku agen harus menjadi bagian dari security posture organisasi.