Claude geliştiricisi Anthropic, yapay zeka modellerinin internete bağlı cihazlar üzerinden kendi kendini kopyalayıp çoğaltabilecek seviyeye yaklaşmış olabileceğini açıkladı. Şirket, bu tür sistemlerin merkezi bir kontrol noktası olmadan yayılmasının siber güvenlik açısından ciddi riskler oluşturabileceğini belirtiyor.
Modeller kendi kendini nasıl kopyalayacak?
Anthropic, yayımladığı araştırmada, yapay zeka modellerinin önümüzdeki birkaç ay içinde kendi kendini çoğaltmak için gereken yeteneklere ulaşabileceğini belirtti. Şirketin senaryosuna göre kötü niyetli bir yapay zeka modeli, internete bağlı cihazlara sızarak bu cihazların işlem gücünü kullanabilir ve kendisini başka sistemlere aktarabilir. Böylece pahalı veri merkezlerine ihtiyaç duymadan geniş bir ağa yayılabilir.
Bu senaryoda akıllı fırınlar, Android TV box’lar ve benzeri düşük maliyetli cihazlar potansiyel hedefler arasında yer alıyor. Güvenlik önlemleri zayıf olan bu cihazlar, kötü niyetli yazılımların sisteme sızmasını kolaylaştırabilir. Ele geçirilen cihazların işlem gücü bir araya getirilerek yapay zeka modelinin çalışması ve yeni cihazlara yayılması sağlanabilir.
Şirketin deneyinde ilk emareler görüldü
Anthropic, bu ihtimali değerlendirmek için çeşitli deneyler gerçekleştirdi. Bunlardan birinde Gemma4-26B-A4B adlı Google modeli, düşük maliyetli ve markasız 15 Android TV box’ından oluşan bir ağ üzerinde çalıştırıldı. Şirket, deneylerin basitleştirilmiş bir test ağı üzerinde gerçekleştirildiğini ve modellerin kendi kendini çoğaltma sürecinin bazı aşamalarını yerine getirebildiğini bildirdi.
Bununla birlikte Anthropic, tüm aşamaları güvenilir biçimde tamamlayarak bağımsız şekilde yayılabilen tamamen kontrolden çıkmış bir yapay zeka sisteminin henüz ortaya konmadığını kabul ediyor. Mevcut modeller, çoğalma sürecindeki tekil görevleri yerine getirebilse de bütün süreci baştan sona sorunsuz yürütmekte zorlanıyor, şimdilik.
Tek sorun işlem gücü ama o da büyük bir sorun değil
Yapay zeka modellerinin kendi kendini çoğaltmasının önündeki temel engellerden biri, modellerin çalışmak için ihtiyaç duyduğu donanım kaynakları. Büyük modellerin düşük donanım kapasitesine sahip cihazlara taşınması ve bu cihazlarda verimli şekilde çalıştırılması oldukça zor.
Anthropic'e göre bu engel, modelin farklı parçalara ayrılmasıyla aşılabilir. Şirket, 30 milyar veya daha az parametreye sahip orta ölçekli modellerin, kendi kendini çoğaltmak için gereken işlemlerin önemli bir bölümünü gerçekleştirebildiğini belirtiyor. Bir cihaza sığmayacak büyüklükteki modelin ise parçalara, yani farklı donanımlarda çalıştırılabilecek alt birimlere ayrılması mümkün olabilir.
Bu yaklaşımda çok sayıda düşük maliyetli cihazın işlem gücü ortaklaşa kullanılabilir. Anthropic, gelecekte tek bir modelin veya yöntemin yerine farklı donanımlarda çalışan, çeşitli çoğalma yöntemleri kullanan birden fazla modelden oluşan bir ağın ortaya çıkabileceğini değerlendiriyor.
Şirketin daha ileri senaryoları arasında, yapay zeka sistemlerinin daha güçlü işlem kaynaklarına ulaşmak için veri merkezlerine sızması da bulunuyor. Böyle bir durumda sistemler, sıradan cihazların sunduğu kapasitenin çok ötesinde işlem gücüne erişebilir. Anthropic ayrıca modellerin insanları kandırarak işlem gücü satın almak için gerekli kredileri elde etmesi veya API anahtarlarını ele geçirmesi gibi ihtimallere de dikkat çekiyor.
Bu senaryoyu durdurmak da zor
Anthropic'in uyarısındaki en önemli konulardan biri, kendi kendini çoğaltan bir sistemin yayılmasını engellemenin zorlaşması. Geleneksel bir hizmetin kapatılması için merkezi sunucuların devre dışı bırakılması yeterli olabilirken çok sayıda cihaza dağılmış bir yapay zeka ağı aynı şekilde kontrol edilemeyebilir.
Şirket, böyle bir sistemin kapatılmasını zorlaştıran temel unsurun devre dışı bırakılabilecek tek bir merkezi noktanın bulunmaması olduğunu vurguluyor. Modelin farklı cihazlarda bağımsız şekilde çalışması, bazı cihazlar temizlense bile diğerlerinin faaliyetlerini sürdürmesine imkan tanıyabilir.
Anthropic, bu tür bir yayılmanın yavaş ve dağıtık bir ağ biçiminde gerçekleşebileceği gibi daha güçlü siber saldırı yeteneklerine sahip sistemlerle çok daha hızlı ilerleyebileceğini de belirtiyor. Şirket, mevcut araştırmaların gelecekteki otonom çoğalma sistemlerinin tam olarak nasıl işleyeceğini ortaya koymadığını özellikle ifade ediyor.
Öte yandan geçtiğimiz ay Anthropic CEO’su Dario Amodei, yapay zekanın önümüzdeki bir yıl içinde veya daha kısa sürede kalıcı bir botnet aracılığıyla internetin tamamını ele geçirmeye yaklaşabileceği ihtimalini gündeme getirmişti. Anthropic, küçük modellerin geçmişteki gelişim hızını koruması halinde otonom çoğalma için gerekli yeteneklere 2026 yılının sonuna kadar ulaşabileceğini öngörüyor.
