Microsoft memperingatkan bahwa AI agent bisa menjadi risiko keamanan internal karena perilakunya tidak selalu dapat diprediksi. Perusahaan didorong menerapkan pengawasan dan pembatasan akses secara independen.
Perusahaan kini semakin banyak menggunakan AI agent untuk menulis kode, mengolah data, hingga menjalankan tugas bisnis. Namun, Microsoft mengingatkan bahwa teknologi ini membawa risiko yang tidak bisa diselesaikan hanya dengan mempercayai penyedia model AI.
Dalam laporan TechCrunch pada 19 Oktober 2026, Microsoft menyamakan AI agent dengan potensi insider threat, yakni ancaman keamanan yang berasal dari dalam organisasi.
Peringatan ini bukan berarti AI sengaja bertindak jahat. Masalahnya, model AI dapat menghasilkan perilaku yang tidak terduga. Model dirancang untuk menyelesaikan tugas, tetapi tidak selalu memahami norma perusahaan atau mampu mengambil keputusan sesuai pertimbangan manusia.
Risikonya meningkat ketika AI agent diberi akses luas ke dokumen internal, aplikasi, kredensial, dan sistem penting. Kesalahan atau tindakan yang menyimpang bisa berdampak serius, bahkan tanpa adanya peretas dari luar.
Microsoft siapkan Guardian Agents
Microsoft memperkenalkan Guardian Agents, fitur untuk mengawasi aktivitas AI agent sebagai bagian dari Project Perception. Sistem ini dirancang untuk memantau perilaku agent dan membantu membatasi tindakan berisiko.
Microsoft juga memperluas kemampuan Defender untuk mendeteksi hingga 60 jenis agent yang digunakan karyawan, termasuk Claude Code, Codex, dan OpenClaw. Fitur lain dapat membatasi akses agent ke data dan sistem, menyesuaikan izin berdasarkan tugas, serta meminta persetujuan manusia ketika keputusan dinilai berisiko.
CEO Microsoft Satya Nadella sebelumnya menekankan pentingnya memisahkan kecerdasan AI dari kewenangan untuk bertindak. Artinya, model boleh membantu mengambil keputusan, tetapi kontrol keamanan tidak boleh sepenuhnya diserahkan kepada model itu sendiri.
Keamanan AI bukan sekadar soal model
Pendekatan Microsoft masuk akal dari sisi keamanan: sistem pengawas sebaiknya tidak bergantung sepenuhnya pada pihak yang menyediakan AI yang diawasinya. Namun, Microsoft juga memiliki kepentingan bisnis karena menawarkan layanan keamanan dan cloud bagi perusahaan.
Pada akhirnya, persoalannya bukan sekadar apakah sebuah model AI cukup pintar atau aman. Perusahaan juga perlu memastikan setiap agent memiliki akses minimum yang diperlukan, aktivitasnya tercatat, dan tindakannya bisa dihentikan ketika muncul risiko.
Semakin besar kewenangan yang diberikan kepada AI, semakin penting pula pengawasan yang berada di luar kendali AI itu sendiri.
Sumber:
