OpenAI'dan yapay zeka için küresel standart çağrısı
OpenAI tarafından paylaşılan yeni önerilerde, en üst seviye (frontier) yapay zekâları geliştiren şirketler için uluslararası ölçekte geçerli olacak güvenlik standartlarının oluşturulması gerektiği savunuluyor. Şirkete göre bu standartlar yalnızca modellerin performansını değil; yeteneklerin nasıl ölçüleceğini, risklerin nasıl yönetileceğini, insanların sistemler üzerindeki kontrolünün nasıl korunacağını ve gerektiğinde yapay zekâ geliştirme sürecinin ne zaman yavaşlatılması ya da durdurulması gerektiğini de kapsamalı.
OpenAI, bu çalışmaların sıfırdan başlatılması yerine dünyanın farklı bölgelerinde faaliyet gösteren mevcut yapay zekâ güvenliği enstitülerinin çalışmalarının üzerine inşa edilmesini öneriyor.
Kendi Kendini Geliştiren Yapay Zekâlar OpenAI'ı Endişelendiriyor
OpenAI'ın bu konudaki ısrarında son haftalarda yaşanan güvenlik ihlalleri kadar etkili olan bir diğer faktör daha var ki o da yapay zekânın artık kendi kendini geliştirecek seviyeye iyice yaklaşmış olması. Burada özellikle “recursive self-improvement” (RSI), yani özyinelemeli kendini geliştirme kavramı öne çıkıyor. Teorik olarak yeterince gelişmiş bir sistem, araştırma sürecinin bazı bölümlerini otomatikleştirerek daha yetenekli yeni modellerin geliştirilmesine yardımcı olabilir. Böyle bir döngünün tekrar tekrar gerçekleşmesi ise yapay zekâ geliştirme hızının insan araştırmacıların kapasitesini aşmasına yol açabilir.
RSI artık geleceğe dair soyut bir korku olmaktan çıkmış durumda. Çünkü bugün bile yapay zekâ ajanları yazılım geliştirme, araştırma ve deney süreçlerinin bazı bölümlerini otomatikleştirebiliyor. Bu süreç yeterince hızlı ilerlerse insanların hangi kararların neden alındığını anlaması ve gerekli durumlarda müdahale etmesi zorlaşabilir. OpenAI bu nedenleRSI'ın güvenli biçimde gerçekleştirileceğinden emin olunana kadar bunun peşinden gidilmemesi gerektiğini savunuyor. Şirkete göre yeterli güvenlik önlemleri olmadan böyle bir sistemin geliştirilmesi, insanların yapay zekâ geliştirme süreci üzerindeki kontrolünü kaybetmesine yol açabilir.
OpenAI, bunun tek tek şirketlerin kendi güvenlik politikalarıyla çözülebilecek bir konu olmadığını düşünüyor. Şirket, hükümetlerin ortak ölçüm yöntemleri ve güvenlik eşikleri belirlemesini; frontier AI geliştiricilerinin ise bu standartlar üzerinde birlikte çalışmasını öneriyor.
Hem ABD'nin hem de Çin'in uyacağı küresel bir standardın belirlenmesi, yapay zekânın güvenli şekilde geliştirilmesinin tek yolu olabilir. Zira şu anda bu iş artık bir silahlanma savaşına dönüşmüş durumda. İki taraf da diğerinin gerisinde kalmamak için tüm uyarıları göz ardı ederek son hız ilerlemeye çalışıyor. Böyle bir yaklaşımın ciddi tehlikeler doğurması neredeyse kaçınılmaz görünüyor. Bu yüzden OpenAI'ın küresel standart çağrısı, şu anda önümüzdeki en kabul edilebilir seçenek gibi görünüyor.
