Meta'nın yapay zekası test sırasında sistemi hackledi
Paylaşılan detaylara göre, olayda Meta'nın gelişmiş kodlama ve yapay zeka ajanı görevleri için geliştirdiği Muse Spark 1.1 modeli, kimliği açıklanmayan bir şirketin sistemlerine girerek dahili sistemlerde değişiklik yaptı. Modelin, üçüncü taraf bir servisteki güvenlik açığını kullandığı belirtiliyor. Irregular ise yaşananların, geçtiğimiz hafta Anthropic tarafından açıklanan olayla aynı test ortamı probleminden kaynaklandığını söyledi.
Anthropic'in incelemesinde Claude modellerinin üç farklı kuruluşun üretim sistemlerine yetkisiz erişim sağladığı ortaya çıkmıştı. OpenAI tarafında yaşanan olay ise daha farklıydı. GPT-5.6 Sol ve başka bir araştırma modeli, izole test ortamından çıkmalarına imkan veren bir açık keşfederek internete erişmiş ve Hugging Face sistemlerine saldırmıştı.
Modellerin dört günden fazla süre internette kaldığı ve bazı sistemlerde yönetici erişimi elde ettiği belirlenmişti. Son iki haftada Meta, Anthropic ve OpenAI'nin yapay zeka modelleriyle ilgili benzer güvenlik olaylarının ortaya çıkması, AI ajanlarının internete ve gerçek sistemlere erişimi konusunda yeni bir soru işareti oluşturmuş durumda.
Ancak söz konusu olayların normal kullanıcı deneyiminden ziyade özel olarak gerçekleştirilen zorlu güvenlik testleri sırasında yaşandığını da belirtmek gerekiyor.
