Dünyada teknoloji devlerine yönelik alınan önlemleri de anlatan Babaoğlu, algoritmik şeffaflık, denetim ve dijital hakların korunması konusunda atılması gereken adımlara ilişkin sabah.com.tr'nin sorularını yanıtladı.
Sosyal medya platformlarının algoritma sistemlerini nasıl tasarladığı ve kurulan sistemin felsefesiyle ilgili önemli bilgiler veren Prof. Dr. Cenay Babaoğlu, "Sosyal medya platformlarının ve yapay zekâ araçlarının arkasındaki algoritmik mimarinin bugünkü formuna evrilmesi, dijital ekonominin dayandığı rasyonel kâr maksimizasyonu hırsıyla ve dikkat ekonomisiyle doğrudan ilişkilidir. Platformların tasarımı doğrudan zihin kontrolü hedefli gelişmiş olmasa da gelişim süreçlerinde pek çok negatif etki, toplumsal tasarım hedefi, manipülasyon amaçları ortaya çıkmıştır." dedi.
Cenay Babaoğlu, "Algoritmik sistemlerin temel tasarım felsefesi 'önce piyasaya sür, gerekirse sonra düzelt' ilkesine dayanmaktadır. Bu maksimalist ve hız odaklı yaklaşım etik değerleri, toplumsal normları ve kamusal sorumlulukları ikinci plana itebilmektedir. Dolayısıyla şirketlerin nihai hedefi doğrudan kitlelerin zihnini rehin almak olmasa dahi, uygulanan ticari modeller ve algoritmik tercihler, toplumların zihinsel dünyasını, algı mekanizmalarını ve demokratik reflekslerini dolaylı yoldan manipüle eden yıkıcı sonuçlar doğurmaktadır." ifadelerini kullandı.
ALGORİTMİK TASARIM VE ÜÇ KATMANLI YAPI
Prof. Dr. Cenay Babaoğlu algoritmik tasarımın arkasında 3 katman bulunduğunu belirtti ve kurulan yapıyı şu sözlerle tanımladı:
Birincisi ticari katmandır. Kapitalist piyasa zihniyle bakıldığında şirketler, kullanıcıların doğru ya da ahlaki bilgiye ulaşmasını değil, platformda kalmasını sağlamaya odaklanır. İkinci katmanda öneri sistemleri geçmiş davranışlardan örüntü çıkararak ilerler. Yani önceki paylaşımlarda ilgi, dikkat, tepki çekenler daha fazla öne çıkarılır. Bu da örneğin büyük şiddet olaylarının, gayri ahlaki davranışların hiç durmadan kendi içinde birbirini besleyerek daha fazla öne çıkarılmasına neden olur. Sistem içerisinde bir iç denetim ya da dış denetim olmazsa bu tarz içerikler tüm kullanıcılara daha fazla gösterilmeye devam eder. Burada hiçbir ahlaki ya da toplumsal sınıra dikkat edilmemesi en büyük sorundur.
Üçüncü katmanda ise idari yapı/karar alıcılar bulunmaktadır. Aslında bu katman denetim ve düzenleme aşaması olmalıdır. Ancak daha önce Twitter'ın el değiştirmesi sürecinde de META'ya yönelik soruşturmalarda da görüldüğü üzere sosyal medya yöneticilerinin siyasi, dini, kişisel görüşleri aynı zamanda algoritmaların yönünü belirliyor. Özellikle Twitter ifşalarında hangi görüşlerin öne çıkarılacağının, kimlerin yasaklanacağının, hangi konuların trend olacağının bazı yöneticiler ya da istihbarat teşkilatları eliyle belirlendiği ortaya çıkmıştı.
Prof. Dr. Cenay Babaoğlu, "Yine yakın zamanda ilan edilen Palantir Manifestosunda da dijital dünyanın ayrımcı yönünün, güya salt Batıcı anlayışın ve kendilerinden olmayanı değersiz görme yaklaşımının hala geçerli olduğunu görüldü. Dolayısıyla algoritmayı masum ve pürüzsüz bir cam olarak tanımlamaktan ziyade bize sunulanı gösteren bir mercek olarak tanımlamak daha doğru." dedi.
TEMEL AMAÇ TOPLUMLARIN ZİHNİNİ KONTROL ETMEK Mİ?
Prof. Dr. Cenay Babaoğlu, algoritmaların kullanıcıların zihnini nasıl etkilediğiyle ilgili ise, "Toplumun zihnini kontrol etmek istiyorlar mı? sorusu bu noktada cevabı net olmayan bir başlık. Fakat algoritmaların toplumların zihinlerini yönlendirmeye çalıştığı, olabildiğince kendi güdümünde düşünmesini istediği, başlıkları belirlediği, sınırları çizdiği, seçimlere müdahale ettiği, toplumların beğeni kalıplarını biçimlendirdiği bir düzen aynı zamanda bir kontrol düzenidir." ifadelerini kullandı.
TEKNO-OLİGARŞİNİN PAZAR PAYI MÜCADELESİ
Cenay Babaoğlu, algoritmaların kutuplaştırıcı, kışkırtıcı içerikleri ödüllendirdiğini belirterek, 'tekno-oligarşi' tanımı yaptı ve pazar payı ile veri egemenliği mücadelelerine dikkat çekti.
Babaoğlu şunları söyledi:
Sonuç olarak şirketlerin algoritma tasarımları öncelikle ticari gayeler güderek tasarlanmış olsa da ortaya çıkan ifşalar ya da skandallar arka planda siyasi, toplumsal, dini pek çok saik olduğunu göstermektedir. Algoritmalar; kutuplaştırıcı, kışkırtıcı ve yıkıcı içerikleri ödüllendirerek geniş kitlelerin önüne taşımakta, böylece toplumsal hafızayı ve rasyonel akıl yürütme yetisini aşındırmaktadır. Bu durum, teknolojinin tarafsız bir araç olma iddiasını çürütürken onu tasarlayan iradenin ideolojik, ekonomik ve hegemonik çıkarlarını yansıtan bir tahakküm aracına dönüştürmektedir. Tekno-oligarşinin pazar payı ve veri egemenliği mücadelesi, bireysel hakları ve mahremiyeti sistematik bir baskı altına almaktadır.
Cenay Babaoğlu şunları söyledi:
"MARKALARIN MANEVRA ALANI DARALIYOR"
'DİKKAT' EKONOMİSİ...
Platformlar kullanıcıları uygulamalarında daha fazla tutmak ve zaman geçirmelerini sağlamak için daha sansasyonel/tartışma yaratacak paylaşımları öne çıkarıyor. Prof. Dr. Cenay Babaoğlu, algoritmaların öfke, korku, şok ve skandal üreten içerikleri daha geniş kitlelere taşımasının dikkat ekonomisinin bir sonucu olduğunu kaydetti.
"PSİKOLOJİK EŞİKLER HIZLA TETİKLENİYOR"
Prof. Dr. Cenay Babaoğlu, "Bu tür zararlı, marjinal, suç ve istismar içeren içeriklerin dijital ekosistemde sürekli ön plana çıkarılması, sistemin teknik algoritmik işleyişi ile insani dikkat dürtülerinin örtüşmesinden kaynaklanmaktadır. Sıradan bilgi kullanıcıları az uyarırken marjinal içerikler uzun bakış ve bol yorum üretir. Kullanıcı kınamak için bile yorum yazsa sistem bunu ilgi sayar. Böylece ahlaki reddiye, teknik olarak yayılımı besler." ifadelerini kullandı.
Cenay Babaoğlu, sansasyonel içeriklerin kullanıcıların psikolojik eşiklerini hızla tetiklediğini ve bunun da devasa bir etkileşim ekosistemi ürettiğini kaydederek şunları söyledi:
Toplumun geneli tarafından reddedilenler, beğenilmeyen içerikler aslında algoritmanın beslenmesi için daha fazla etkileşim getirdiğinden en çok talep gören içerik olacaktır. Çünkü yazılı iletişimin doğası gereği empatiyi düşürmesi ve bireylerin fiziksel mesafenin arkasına sığınarak daha cüretkar bir tavır takınması, platformlardaki etkileşim oranlarını tırmandırmaktadır.
Amaç etkileşim olduğu için hangi içerik kullanıcıların ekrana bakma süresini uzatıyor, yorum ve paylaşım üretiyorsa algoritmik akıl o içeriği otomatik olarak ödüllendirir ve daha geniş kitlelerin ön vitrinine taşır. Öfke, korku, skandal, dijital şiddet ve cinselleştirilmiş kurgu görseller bireylerin psikolojik eşiklerini hızla tetiklediği için devasa bir etkileşim üretirler.
"İNSAN ONURU ALGORİTMİK KAR HIRSINA KURBAN EDİLİYOR"
Üretilmesi istenen yüksek veri hırsı dolayısıyla bu tarz içerikler engellenmek yerine desteklenir. Bu noktada, algoritmaların ahlaki, vicdani ya da hukuki bir süzgeci bulunmadığını da unutmamak gerekir. Algoritmalar hedef odaklı çalıştığı için öncelik bu tarz içerikleri kısıtlamak değildir. Diğer taraftan algoritmaları tasarlayanların ahlaki, etik, siyasi ya da dini sınırları da bu içeriklere yönelik kısıtlamaları belirler. İşte kara kutu dediğimiz arka plandaki ekiplerin tasarımında ne derece marjinalize yaklaşım varsa o yaklaşımların küresel ölçeğe dikte edildiğine de şahitlik ediyoruz.
Bu marjinalizm bir yandan platformların kendi içinde yeni bir iç kültür geliştirmesine de neden oluyor. Dolayısıyla beğeniler, eleştiriler, linçler, yönlendirmeler hep bu kültür etrafında şekilleniyor. Platformların geliştirdiği iç kültür gerçek hayattaki toplumsal hassasiyetleri, etik normları ve yazılı olmayan kuralları geçersiz kılmaktadır. Fiziksel mesafenin sağladığı anonimlik ve dokunulmazlık duygusu, bireylerin ve grupların saldırganlaşmasını, empati yoksunu bir dille suç ve istismar unsurlarını yaygınlaştırmasını kolaylaştırmaktadır. Teknoloji şirketlerinin azami özgürlük veya asgari kısıtlama kisvesi altında yürüttüğü politikalar, pratikte tacizi, toplumsal infialleri ve ahlaki erozyonu finanse eden bir ticari modele dönüşmektedir. Denetimsizliğin teknik bir zorunluluktan ziyade ideolojik bir tercih olması, bu tür marjinal içeriklerin sistem tarafından bilinçli birer dikkat çekme aracı olarak beslenmesine de yol açmakta, böylece kamusal vicdan ve insan onuru, algoritmik kâr hırsına kurban edilmektedir.
Bu sınırsızlık ve sınır çizme ihtiyacı devlet–şirket ilişkisinde önemli bir rekabet alanı doğurmaktadır. Platformların sürekli ifade özgürlüğü iddialarıyla kendilerini dokunulmaz kılmaya çalıştığı ortamlarda, devletler vatandaşlarının haklarını korumaya çalışan meşru güç merkezleri olarak sınırlar çizmeye çalışmaktadır.
DÜNYA ÜLKELERİ NASIL ÖNLEMLER ALIYOR?
Peki dünya ülkeleri sosyal medya platformlarının yarattığı, çocukları, gençleri ve toplumları derinden etkileyen bu olumsuz içerik bombardımanına karşı nasıl önlemler alıyor?
Cenay Babaoğlu, "Amerika Birleşik Devletleri dünyada ekol olarak daha şirket lehtarı bir çizgidedir. Şirketlerin serbest gelişim kisvesi ve ifade özgürlüğü şemsiyesi altında vahşi gelişimine müsaade eden bir yaklaşım vardır. Ancak yine de bazı eyaletlerde aşırılıkları sınırlayan ve özellikle çocukların korunması noktasında düzenlemeler yapılmaktadır. Çin ise daha çok devlet güdümünde gelişen şirketler politikasını benimsemekte ve bu süreçte etik ya da ahlaki sınırlar çok öne çıkmamaktadır. Aksine şirketlerin büyümesi için veri sunumu bizzat devlet eliyle sağlanabilmektedir.Endonezya ve Malezya gibi ülkelerin belirli yapay zekâ araçlarını ve platformları tamamen yasaklama yoluna gitmesi, Avustralya'nın yaş sınırları ve sosyal medya kısıtlamaları getirmesi, devletlerin dijital egemenliklerini korumak adına reaktif ve proaktif refleksleri adına diğer örneklerdendir. Ancak bu tedbirlere karşı tekno-oligarşinin güdümünde ABD merkezli siyasi baskılar ortaya çıkmaktadır." ifadelerini kullandı.
TÜRKİYE'NİN ATTIĞI ADIMLAR...
Prof. Dr. Cenay Babaoğlu, "Türkiye'nin dijital özerklik ve algoritmik hakimiyet yolunda atacağı en önemli adımlardan birisi muhakkak tekno-oligarşiye karşı vatandaşlarının haklarını korumaya devam etmek olacaktır" vurgusunu yaptı.
Cenay Babaoğu sözlerini şöyle noktaladı:
Türkiye sınır çizme arayışında oldukça tutarlı ve orta yolcu bir yaklaşım benimsemiş durumdadır. Öncelikle Türkiye'de kişisel verilerin korunması noktasında hassas bir çizgi benimsenmiştir. Bu alanda yakın zamanda yeni düzenlemeler yapılacağı da ifade edilmiştir. Ayrıca gerektiğinde kişilik haklarını korumak için içerik ve erişim engeli gibi düzenlemeler de bulunmaktadır. Aynı şekilde kamu düzeni ve güvenliği önemli bir sınır olarak belirlenmiştir. Platformlara yönelik mali düzenlemeler, sosyal medya içeriklerine yönelik tedbirler, çocuklara yönelik sınırlamalar, dezenformasyona karşı alınan tedbirler Türkiye'nin attığı diğer adımlardandır. Ayrıca yapay zekâya yönelik düzenleme çalışmaları da sosyal medya platformlarını etkileyecektir.
Algoritmaların denetlenebilir kılınması, şirket politikaların şeffaf olarak açıklanması, arka plandaki yapay zekaların hesap verebilir kılınması sosyal medya platformlarına yönelik atılabilecek adımlardandır. Veri işleme süreçlerinin ve denetim mekanizmalarının ulusal hukuk kurallarına tabi kılınması, platformların kamusal hesap verebilirlik ilkelerine uymasının yasal güvenceye bağlanması, yerli ve milli teknoloji girişimlerinin desteklenmeye devam edilmesi, şirketlerin kendi bünyelerinde oluşturdukları göstermelik iç denetim kurulları yerine ulusal sivil ya da karma denetim mekanizmalarıyla şirketlerin takip edilmesi ve son olarak toplumu hedef alan dezenformasyon, manipülasyon ve dijital şiddete karşı dijital okuryazarlığın artırılarak toplumsal direncin güçlendirilmesi önemlidir.
Aksi takdirde insani değerleri hiçe sayan küresel şirketler elinde mahremiyet erozyonuyla bireylerin dijital hakları çiğnenecektir. Türkiye'nin dijital özerklik ve algoritmik hakimiyet yolunda atacağı en önemli adımlardan birisi muhakkak tekno-oligarşiye karşı vatandaşlarının haklarını korumaya devam etmek olacaktır.
