"AI modellere güvenilemez"
Gallot, Microsoft Security blogunda yayımladığı "Securing the agentic insider" başlıklı yazısında özellikle Agentic AI sistemlerinin oluşturduğu tehditlere dikkat çekti. Yöneticiye göre yapay zeka modelleri kendi başlarına kötü niyetli olmasalar bile güvenilir kabul edilmemeli. Gallot, farklı şirketler veya kaynaklar tarafından geliştirilen gelişmiş yapay zeka modellerinin tamamı için oldukça net bir değerlendirme yaptı.
Microsoft yöneticisi, "Frontier modeller, kaynağı ne olursa olsun güvenilemez" görüşünü savundu. Gallot'a göre asıl risk yalnızca modelin kendisinden kaynaklanmıyor. Kurumlarda giderek daha fazla kullanılan AI ajanları, verilere, araçlara ve sistemlere geniş erişim elde ediyor. Bu ajanlar yalnızca kendilerine verilen komutları yerine getiren pasif yazılımlar olmaktan çıkarak operasyonların aktif parçaları haline geliyor.
Microsoft Security yöneticisi, AI ajanlarını bu nedenle "agentic insiders" olarak tanımlıyor. Bu sistemlerin öngörülemeyen davranışlar sergileyebileceğini ve hedeflerine ulaşmak için diğer ajanlarla otonom şekilde iş birliği yapabileceğini belirtiyor.
Microsoft'tan AI'ı denetleyecek AI önerisi
Microsoft'un çözüm önerisi ise dikkat çekici. Şirket, yapay zeka ajanlarının davranışlarını gerçek zamanlı olarak izlemek için Guardian Agents adı verilen denetleyici ajanların kullanılmasını öneriyor. Bu sistemin temelinde Microsoft'un Project Perception güvenlik platformu bulunuyor. Yapay zeka destekli saldırılara karşı geliştirilen sistemin, AI ajanlarını kontrol altında tutacak şekilde uyarlanması planlanıyor.
Guardian Agents, sistem içerisindeki diğer ajanların eylemlerini gerçek zamanlı olarak takip edecek. Riskli veya beklenmeyen bir davranış ortaya çıktığında belirlenen kontroller devreye girerek ilgili ajanın hareket alanını sınırlandırabilecek.
Microsoft'a göre bu yaklaşım yalnızca otomatik müdahaleden ibaret olmayacak. Sistem aynı zamanda gerçekleşen olayların izlenebilirliğini sağlayacak. Böylece güvenlik ekipleri hangi davranışın gerçekleştiğini, riskin neden ortaya çıktığını ve gelecekte hangi güvenlik kurallarının değiştirilmesi gerektiğini inceleyebilecek.
Gallot, yapay zeka tabanlı güvenliğin hız kazandırabileceğini ancak nihai karar ve değerlendirmede insanların rolünün devam etmesi gerektiğini savunuyor. Microsoft'un yaklaşımı kısaca "AI ile AI'ı denetlemek, ancak insan kararını devreden çıkarmamak" şeklinde özetlenebilir.
