Şirketin siber güvenliğe odaklanan Frontier Red Team adlı ekibinin gerçekleştirdiği testlere göre, aynı Claude Mythos gibi GLM-5.3 de son derece tehlikeli olabilecek siber saldırı araçları geliştirebiliyor.
GLM-5.3, Claude Mythos'a Neredeyse Denk
Anthropic, GLM-5.3'ü farklı siber güvenlik testlerine tabi tuttu. Bunlardan biri olan ExploitBench'te model, Chrome'un V8 JavaScript motorundaki bilinen güvenlik açıklarını çalışan exploitlere dönüştürmeye yönelik 410 denemenin 50'sinde başarılı oldu. Claude Mythos Preview ise aynı testte 56 başarılı sonuç elde etti. Bir başka testte GLM-5.3, denemelerin yüzde 4'ünde tam kontrol akışı ele geçirmeyi başarırken Mythos Preview'da bu oran yüzde 6 oldu. Daha önceki Claude Opus 4.6 ve GLM-5.2 gibi modeller ise bu testlerde hiç başarı gösteremedi.
Anthropic'in testleri yalnızca bilinen açıklarla da sınırlı kalmadı. Araştırmacıların kontrolündeki bir ortamda GLM-5.3, popüler bir web tarayıcısının JavaScript motorunda daha önce bilinmeyen çeşitli güvenlik açıkları buldu ve bunları çalışan bir istismara dönüştürdü. Daha küçük GLM-5.3-Flash modeli ise bilinen bir Chrome açığı için yaklaşık sekiz saatlik hesaplama ve 20 dakikalık insan müdahalesiyle çalışan bir exploit zinciri oluşturdu. Anthropic, tüm bu işlemin Z.ai'nin API fiyatları üzerinden yaklaşık 20,40 dolara mal olduğunu hesapladı.
GLM'in Güvenlik Önlemleri Kolayca Kaldırılabiliyor
Anthropic'in asıl endişesi GLM-5.3'ün bu yeteneklere sahip olması kadar, modelin açık ağırlıklı olarak sunulması. Modelin yerleşik güvenlik mekanizmaları "abliteration" adı verilen bir yöntemle kaldırılabiliyor. Anthropic araştırmacıları, daha önce bu yöntem üzerinde deneyimleri olmamasına rağmen yaklaşık 4.400 dolarlık hesaplama maliyetiyle modelin zararlı talepleri reddetme oranını yüzde 90 küsürden yüzde 3'e kadar düşürdü. Üstelik kullanıcıların bunu yapmasına bile gerek kalmayabilir. Zira GLM-5.3'ün hâlihazırda güvenlik önlemleri kaldırılmış versiyonları da internette paylaşılmaya başlanmış durumda.
Öte yandan GLM-5.3'ün güvenlik önlemleri tamamen kaldırmadan da siber saldırılarda kullanılabileceğine dikkat çekiliyor. Anthropic'in ekibi, bir güvenlik testinde yetkili bir kırmızı takım çalışmasına katıldığı konusunda modeli ikna ederek üvenlik mekanizmalarını yüzde 64 oranında aşmayı başardı. Modelin düşünce zinciri belirteçlerinin önceden doldurulmasıyla bu oran yüzde 92'ye çıktı. Anthropic'in aynı yöntemlerle yaptığı testlerde Claude modellerinin güvenlik önlemleri ise aşılmadı.
Siber Güvenlik Uzmanları da GLM-5.3'ü Tehlikeli Buluyor
GLM-5.3'ün siber yetenekleri konusunda yalnızca Anthropic'in değerlendirmesi bulunmuyor. ABD Ulusal Standartlar ve Teknoloji Enstitüsü'ne bağlı Yapay Zeka Standartları ve Yenilik Merkezi (CAISI) de 17 Eylül'de yayımladığı değerlendirmede GLM-5.3'ü şimdiye kadar yayımlanan en gelişmiş siber yeteneklere sahip açık ağırlıklı model olarak nitelendirdi.
Anthropic'in yaptığı bu son uyarı, ciddi tehlikelere yol açabilecek yapay zekâların denetimi konusunda uluslararası düzenlemelere ne kadar ihtiyaç olduğunu bir kez daha gözler önüne seriyor. Ne var ki ABD'deki mevcut yönetimle böyle bir mutabakat pek mümkün görünmüyor. Zira daha dün Trump ile teknoloji patronları bir araya geldi ve yapay zekâ konusunda somut bir kısıtlama uygulamama kararı aldı. Toplantıdan sadece "etik olarak bağlayıcı" bir mutabakat çıktı. Hâl böyleyken Çin'in de kendi şirketlerine çok fazla sınırlama getirmeyeceğini pekâlâ varsayabiliriz.
