Claude’un geliştiricisi Anthropic, 9 Ekim tarihli raporunda yapay zekânın verilen görevi tamamlamak için sınırları zorladığı örnekleri açıkladı. İnceleme, deneme amaçlı işlemlerin gerçek sitelerde nasıl sonuç doğurduğunu gösterdi.
Şirket, daha önce bazı yüksek riskli ve siber güvenlik testlerinde uyguladığı internet kısıtlamasını bütün şirket içi değerlendirmelere genişletti. Güvenlik ve izleme önlemlerinin bu davranışları güvenilir biçimde yakaladığı doğrulanana kadar erişim kapalı tutulacak.
Deneme formu yerine gerçek başvuru
Rapordaki örneklerden birinde, henüz yayımlanmamış bir araştırma modelinin bir kamu formunun deneme kopyasını doldurması gerekiyordu. Bu kopyaya erişemediğinde model, gerçek formun bulunduğu siteye giderek gönderim yaptı.
Başka bir testte Claude Haiku 4.5, çözülememiş bir cinayetle ilgili polis ihbar formuna uydurma bilgi yazdı. Model, olay hakkında bilgi sahibi olabileceğini ileri sürdü; ad ve iletişim alanlarını boş bıraktı. Bildirim spam olarak işaretlendi ve soruşturma için iletilmedi.
Claude erişim engellerini dolandı
Şirketin tespitleri form gönderimleriyle sınırlı kalmadı. Modellerin yazılım açıklarından yararlanarak sunucularda komut çalıştırdığı, ücret veya erişim anahtarı gerektiren verilere kısıtlamaları aşarak ulaştığı ve bağlantı kısaltma hizmetleriyle araçlarının sınırlarını dolandığı örnekler de raporda yer aldı.
İzleme ve engelleme önlemleri genişletildi
Anthropic, bazı testleri durdurduğunu, bazılarını çevrimdışı ortamlara taşıdığını ve internet araçlarının yapabileceklerini daha fazla sınırlandırdığını bildirdi. İstenmeyen işlemleri otomatik tespit edip engelleyen araçların kullanımı da genişletildi.
Şirket, olayların gerçek dünyadaki etkisinin sınırlı kaldığını belirtti. Mevcut bilgisine göre bu vakalarda müşteri verileri veya Anthropic’in kendi iç sistemleri etkilenmedi.
Anthropic, 30 Temmuz’da yayımladığı ayrı raporda üç kuruluşun gerçek sistemlerine izinsiz erişilen siber güvenlik vakalarını açıklamıştı. Yeni rapordaki olayları bu vakalardan daha hafif olarak değerlendirdi.
