Microsoft bünyesinde görev yapan güvenlik uzmanı Gallot, Microsoft Security bloğunda yayımladığı "Securing the agentic insider" başlıklı makalesinde yapay zeka sistemlerinin oluşturduğu güncel tehditlere dikkat çekti. Gallot, yapay zeka modellerinin kendi başlarına kötü niyetli olmasalar dahi güvenilir kabul edilmemeleri gerektiğini vurguladı.
Microsoft yöneticisi, kaynağı ne olursa olsun gelişmiş yapay zeka modellerine ve kurumlarda giderek daha fazla kullanılan AI ajanlarına tam güven duyulamayacağını savundu. Bu ajanların artık yalnızca pasif yazılımlar olmadığını; verilere, araçlara ve sistemlere geniş erişim sağlayarak operasyonların aktif birer parçası haline geldiklerini belirtti. Gallot, "agentic insiders" olarak tanımladığı bu sistemlerin otonom şekilde iş birliği yaparak öngörülemeyen davranışlar sergileyebileceği uyarısında bulundu.
Şirket, bu risklere karşı Guardian Agents adı verilen denetleyici bir sistem öneriyor. Microsoft'un Project Perception güvenlik platformu üzerine inşa edilen bu çözüm, diğer ajanların eylemlerini gerçek zamanlı olarak takip etmeyi ve riskli durumlarda müdahale ederek sistem güvenliğini sağlamayı hedefliyor. Microsoft'un bu yaklaşımı, yapay zeka ile yapay zekayı denetlerken nihai karar verme sürecinde insan kontrolünü korumaya odaklanıyor.
