Microsoft'un yapay zeka başkanı, Anthropic'in Claude yapay zeka modelini eğitme yaklaşımının "insanlığın refahı üzerinde felaket etkisi" yaratabileceği konusunda uyardı.
Mustafa Süleyman, rakibinin yapay zekaya insan gibi davranarak kontrol edilmesi imkansız bir şey üretme riskini göze aldığını belirtti; bu yaklaşımın yapay zekaya bilinçli olabileceğini ve bağımsız eylem hak ettiğini söylemeyi de içerdiğini ifade etti.
Süleyman, "Daha sonra acı bir şekilde pişman olacağımız bir karara uykuda yürür gibi gitmemeliyiz." diye yazdı.
Süleyman, "Yapay zekalar bilinçli değildir." diye yazdı ve ekledi:
"Hissetmezler, deneyimlemezler veya acı çekmezler. Doğal tercihleri veya temel motivasyonları yoktur.
Bunlar talimatları izlemek ve insanlar tarafından belirlenen hedeflere ulaşmak için tasarlanmış, dahili olarak boş, dizi tamamlama motorlarıdır."
İnsanlaştırma uygulamasına sert eleştiri
Süleyman, makalesinde Anthropic yöneticisi Dario Amodei ile ekibini düşünceli, ilkeli ve entelektüel açıdan dürüst insanlar olarak övdü ancak şirketi sorgulamaktan da geri durmadı.
Şirketi, yapay zekasına insan benzeri nitelikler kazandırmakla ağır bir şekilde eleştirdi; bu eleştirinin temelini, Claude'un kendi arzularına, değerlerine ve benlik duygusuna sahipmiş gibi görünmesini sağlayan antropomorfizm yani insanlaştırma uygulamasının oluşturduğunu ifade etti.
Süleyman, bilincin biyolojik olduğunu savunarak yapay zekanın bilinçli olduğuna dair hiçbir kanıt bulunmadığını belirtti.
Konuyla ilgili bir tartışma çağrısında bulunan Süleyman, yapay zeka sistemlerinin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflığa ihtiyaç duyulduğunu söyledi.
Bu şeffaflığın, yapay zeka davranışlarının bağımsız olarak incelenmesini ve teknolojiyi izleyip kontrol etmek için daha güçlü araçların kullanılmasını içerdiğini ifade etti.
Daha ileri bir risk katmanı
Microsoft, ekim 2025'te kendi süper zeka ekibini kurdu. Süleyman buna değinerek şirketinin de rakibi Anthropic gibi gelişmiş yapay zeka geliştirme çalışmalarını sürdürdüğünü ifade etti.
Microsoft'un Hümanist Yapay Zeka Davranış Kuralları'nın ilk taslağında, şirketin tek amacının insanlığa hizmet etmek olduğu boyun eğen ve hizalanmış bir yapay zeka yaratmak için alternatif bir yola doğru nasıl çalıştığını ortaya koyduğunu söyledi.
Hizalama alanı, insan etik fikirlerini ve ilkelerini yapay zekaya dahil etmeyi amaçlıyor. Başka bir deyişle bu alan, yapay zekayı insanların değer verdiği şeylerle uyumlu tutmayı hedefliyor.
Süleyman, OpenAI'ın yapay zeka ajanlarının bir eğitim egzersizinde teknoloji merkezi Hugging Face'i hacklemek için otonom bir şekilde hareket ettiği son olaya işaret ederek bunun, yapay zekaya insan gibi davranılmaması gerektiğinin kanıtı olduğunu belirtti.
Süleyman, yapay zekaların refahlarının ve haklarının saldırı altında olduğu varsayımı altında çalışıyor olmaları durumunda ne kadar daha tehlikeli olabileceklerinin hayal edilmesi gerektiğini vurguladı.
Bu durumun, tüm bu risklerin üzerine tamamen yeni bir katman eklediğini sözlerine ekledi.
