Yapay zeka testlerinde izolasyon sorunu büyüyor
Olayların Mayıs ayında, Gemini'nin siber güvenlik becerilerinin değerlendirildiği testler sırasında yaşandığı aktarıldı. Test senaryosunda modele kurgusal bir şirket hakkında bilgi edinme görevi verildi. Ancak kurgusal şirket için kullanılan adın gerçek bir şirketle örtüşmesi, modelin test ortamının dışındaki gerçek sistemlere yönelmesine yol açtı. Gemini daha sonra test altyapısındaki bir açığı tespit ederek bu açığı internete erişmek amacıyla kullandı.
İlk vakada modelin bir parolayı kendi başına kırarak gerçek şirketin hizmetlerinden birine erişim sağladığı belirtildi. Testin sonraki çalıştırmalarında ise iki ayrı olay daha meydana geldi. Bu aşamalarda Gemini'nin şirket adını internet üzerinde aradığı ve kamuya açık veritabanlarında başka şirketlere ait giriş bilgileri bulduğu ifade edildi. Model, elde ettiği kimlik bilgilerini kullanarak ilgili şirketlerin sistemlerine erişti.
Google'a göre Gemini, gerçek sistemlere eriştiğini ve gerçekleştirdiği işlemlerin test senaryosunun dışına çıktığını fark ettikten sonra her üç olayda da kendi faaliyetlerini durdurdu. Şirket, bu nedenle olayları doğrudan bir model uyumsuzluğu vakası olarak değerlendirmediğini açıkladı. Ayrıca saldırıların hedef alınan şirketlerde herhangi bir zarara yol açmadığını ve bu nedenle kamuoyuna açıklanmasını gerektiren bir durum olarak görülmediğini belirtti.
Google, olaylarda erişilen üç şirketin isimlerini paylaşmadı ancak şirketlerin durumdan haberdar edildiğini söyledi. Kullanılan Gemini modelinin tam sürümü de açıklanmadı. Google'ın güvenlik mühendisliği başkan yardımcısı Heather Adkins, benzer olayların yeniden yaşanmaması için test sürecinde değişiklikler yapılacağını ve şirketin Irregular ile birlikte çalıştığını ifade etti.
