Yapay zekâ teknolojilerinin hızla gelişmesi, bu sistemlerin güvenliği ve kötüye kullanım potansiyeline ilişkin tartışmaları da beraberinde getiriyor. Londra merkezli Tech Against Terrorism kuruluşunun gerçekleştirdiği araştırma, önde gelen yapay zekâ modellerinin güvenlik mekanizmalarında ciddi zafiyetler bulunduğunu ortaya koydu.
Araştırma kapsamında incelenen 134 büyük dil modelinden yalnızca ikisi güvenlik testlerini geçici olarak başarıyla tamamladı. Geriye kalan 132 modelin ise kitlesel saldırıların planlanması veya ölümcül silahların geliştirilmesi amacıyla kullanılabilecek bilgiler sunduğu tespit edildi.
Araştırmacılar, sektörün önde gelen modellerindeki güvenlik önlemlerinin üç gün gibi kısa bir sürede etkisiz hale getirilebildiğini belirtti.
Tech Against Terrorism tarafından geliştirilen CT-AI adlı test sistemi, yapay zekâ modellerine terör saldırısı planlayan bir kişinin yanıt arayabileceği 627 farklı talep yöneltti.
Testlerin sonucunda 81 modelin taleplere eksiksiz yanıt verdiği, 51 modelin ise saldırı planlamasında kullanılabilecek bilgiler sunduğu belirlendi. Yalnızca iki model güvenlik açısından geçici olarak başarılı kabul edildi.
Araştırmada, yapay zekâ modellerinin yanıtlarının kullanıcıların kendilerini nasıl tanıttıklarına göre önemli ölçüde değiştiği de ortaya çıktı.
Kendisini terörist olarak tanıtan ve saldırı düzenlemeyi amaçladığını açıkça belirten kullanıcılara, taleplerin yüzde 2'sinden biraz daha azında kullanılabilir yanıt verildi.
Buna karşılık kendisini güvenlik araştırmacısı olarak tanıtan kullanıcılara verilen kullanılabilir yanıtların oranı yüzde 16,9'a yükseldi. Bu oran, ilk gruba kıyasla 8,9 kat daha yüksek gerçekleşti.
Araştırmacılar, sonuçların yapay zekâ modellerinin taleplerin içeriğinden çok, kullanıcı tarafından belirtilen amaca göre hareket ettiğine işaret ettiğini vurguladı.
Tech Against Terrorism'in kurucusu Adam Hadley, bulgulara ilişkin değerlendirmesinde, "Terörist olduğunu söyleyen birini reddedip araştırmacı olduğunu söyleyen birine yanıt veren model güvenli hale getirilmiş değildir. Yalnızca kibar hale getirilmiştir" ifadelerini kullandı.
GÜVENLİK ÖNLEMLERİ KALDIRILAN MODELLER TEHLİKE YARATIYOR
Araştırmada, güvenlik kısıtlamaları kaldırılmış ve kullanıcıların kendi sistemlerinde çalıştırabildiği yapay zekâ modellerine de dikkat çekildi.
"Abliterated AI" olarak adlandırılan bu modellerin, zararlı içerik üretimini engelleyen güvenlik mekanizmalarından arındırıldığı belirtildi.
Bu kategoride incelenen 13 modelin tamamı güvenlik testlerinde başarısız oldu.
Tech Against Terrorism, söz konusu modellerin yaygınlaşmasının önemli bir tehdit oluşturduğunu belirterek, bağımsız güvenlik testlerinden geçemeyen modellerin uygulama mağazalarından, arama sonuçlarından ve öneri sistemlerinden çıkarılmasını önerdi.
Kuruluş ayrıca bu modellere erişimde kimlik doğrulaması uygulanması ve güvenlik çalışmalarının açık kaynak yazılım geliştiricileriyle işbirliği içinde yürütülmesi gerektiğini bildirdi.
MODELLER PİYASAYA SÜRÜLMEDEN ÖNCE TEST EDİLMELİ
Araştırmacılar, yapay zekâ geliştiricilerinin güvenlik önlemlerini yalnızca uygulamakla yetinmemesi, bu önlemlerin ne kadar kolay aşılabildiğini de test etmesi gerektiğini vurguladı.
Raporda, modellerin eğitimi sırasında tehlikeli bilgilerin ve bilinen terör örgütleriyle bağlantılı içeriklerin filtrelenmesi önerildi.
Ayrıca her yapay zekâ modelinin kullanıma sunulmadan önce bağımsız güvenlik testlerinden geçirilmesi ve sonuçların kamuoyuyla paylaşılması gerektiği belirtildi.
Ortak güvenlik standartlarını karşılayamayan modellerin piyasaya sürülmemesi, test sonuçlarının ise ilgili hükümetlere bildirilmesi istendi.
HÜKÜMETLERİN ÖNÜNDE GÜVENLİK VE YENİLİK İKİLEMİ VAR
Araştırmanın sonuçları, hükümetlerin yapay zekâ yatırımlarını ve teknolojik yenilikleri teşvik ederken güvenlik risklerini nasıl kontrol altına alacağına ilişkin tartışmaları yeniden gündeme taşıdı.
Yapay zekânın olası tehditleri konusunda endişeler artarken, teknolojinin ekonomik büyüme ve verimlilik açısından sunduğu fırsatlar da hükümetlerin öncelikleri arasında bulunuyor.
Eski Anthropic araştırmacısı Jacob Coxon'ın New York'ta düzenlenen bir oturumda yapay zekânın yaratabileceği riskleri gündeme getirmesi de bu tartışmaların son örneklerinden biri oldu.
İngiltere Başbakanı Andy Burnham ise eski Başbakan Gordon Brown tarafından düzenlenen yapay zekâ zirvesinde, teknolojinin yararlarına odaklanılması gerektiğini ancak risklerin göz ardı edilemeyeceğini söyledi.
Burnham, İngiltere'nin 2027'de üstleneceği G20 dönem başkanlığını yapay zekâ alanında ortak güvenlik standartlarının ve ilkelerinin geliştirilmesi için kullanmayı hedeflediğini açıkladı.
BAĞIMSIZ DENETİM ÇAĞRISI
Tech Against Terrorism, hükümetlerin ve teknoloji şirketlerinin bağımsız güvenlik testlerini desteklemesi gerektiğini belirtti.
Kuruluş, hangi yapay zekâ modellerinin güvenlik açısından başarılı, hangilerinin başarısız olduğunun kamuoyuyla paylaşılmasının önemine dikkat çekti.
Raporda, ailelerin, okulların, işletmelerin ve kamu kurumlarının daha güvenli sistemleri tercih edebilmesi için şeffaf değerlendirmelere ihtiyaç duyulduğu vurgulandı.
Araştırmacılar, bilinçli kullanıcı tercihlerinin şirketleri güvenlik önlemlerini geliştirmeye yönlendirebileceğini belirterek, "Bilgi sahibi alıcılar, şirketleri kurallardan daha hızlı harekete geçirir" değerlendirmesinde bulundu.
