Uyarı, J-20 savaş uçağının arkasındaki kuruluş olan ve yeni nesil J-36 programında da görev alan AVIC Chengdu Aircraft Research and Design Institute mühendislerinden geldi. Konuya ilişkin değerlendirmeler, Çin’in devlete ait savunma şirketi Norinco tarafından işletilen Information Studies: Theory & Application dergisinde 20 Haziran’da yayımlanan bir makalede yer aldı.
Yanlış veri tasarımı değiştirebilir
Savaş uçağı geliştirilirken düşmanın radar kapsama alanı ve çalışma frekansları, füze angajman bölgeleri, elektronik harp kabiliyetleri, erken ihbar uçaklarının konumları ve kara konuşlu hava savunmalarının analiz edilmesi gerekiyor. Bu veriler uçağın gizlilik özellikleri, sensörleri, manevra kabiliyeti ve muharebe menzili gibi temel tasarım kararlarını şekillendiriyor.
Chengdu uçak tasarım kuruluşuyla bağlantılı mühendis Zhang Xianzhe, LLM'lerin bu süreçte son derece inandırıcı görünen ancak gerçekte var olmayan bilgiler üretebileceğini belirtti. Zira model, bir savaş uçağının boyutlarını, taşıma kapasitesini, silah kabiliyetlerini, azami hızını veya muharebe yarıçapını uydurabileceği gibi radar tarama mesafeleri ve frekans bantları hakkında da yanlış veriler oluşturabiliyor.
Bu tür hatalar yapay zeka tarafından son derece gerçekçi bir şekilde işlendiği için fark edilmeleri zor olabiliyor. Yapay zeka çıktısı teknik açıdan tutarlı göründüğünde analistler veya mühendisler, yanlış bilgiyi gerçek istihbarat verisi olarak değerlendirebiliyor.
Yapay zeka fizik kurallarını da göz ardı edebilir
Askeri istihbaratta ise gerçekte bulunmayan üsler, birlikler ve birlik hareketleri oluşturulması mümkün. Bu çıktılar simülasyonlara aktarılırsa karşı tarafın askeri kapasitesine ilişkin tamamen hatalı değerlendirmeler ortaya çıkabilir.
İnsan analistlerin son kararı vermesi riski azaltabiliyor ancak yapay zekanın ürettiği bilgi ve önerilerin hacmi arttıkça her bir çıktının ayrıntılı biçimde doğrulanması giderek zorlaşıyor.
Zhang, yapay zekanın halüsinasyon olarak adlandırılan uydurma çıktılar üretme riskini azaltmak için çeşitli öneriler de veriyor. Savunma kuruluşlarının modelleri güvenilir askeri verilerle sınırlandırması ve bilgilerin doğrulanabileceği aranabilir bilgi tabanları oluşturması bunların başında geliyor.
