Copilot'ın ürettiği görüntüleri insanlar değerlendiriyor
Yapay zeka modellerinin geliştirilmesinde insan değerlendirmesi yeni bir yöntem değil. İnsanlardan alınan geri bildirimler, modellerin hangi cevaplarının veya görsellerinin daha başarılı olduğunu belirlemek ve sistemleri zaman içerisinde iyileştirmek için uzun süredir kullanılıyor. Ancak Microsoft'un kullanıcıların en mahrem fotoğraflarını bile bu şekilde alıp kullanıyor olması kullanıcılara vadettiği mahremiyet kurallarıyla örtüşmüyor.
404 Media'nın incelediği belgelere ve görüştüğü çalışanların aktardıklarına göre, değerlendirmeye gelen bazı görevlerde cinsel içerikli veya rahatsız edici materyaller bulunuyor. Örneğin kadın bir kullanıcı göğüslerini büyüttürse nasıl olacağını görmek için üstsüz bir fotoğrafını Copilot'a yüklediğinde, bu fotoğraf da insan çalışanların önüne düşüyor. Nitekim 404 Media'ya konuşan çalışanlardan biri deneyimlerini aktarırken tam da bu olayı örnek veriyor. Gizlice çekilmiş etek altı fotoğraflar, istismara girebilecek içerikler, hatta çocuk karakterlerin cinselleştirilmesini isteyen istemler, Microsoft çalışanlarının karşısına çıkan kullanıcı istekleri arasında yer alıyor. Öyle ki bu durum artık Microsoft çalışanlarını da rahatsız etmeye başlamış. Bu bilginin dışarıya çıkmasında da bu rahatsızlık etkili olmuş.
Çoğu kullanıcı kendisinin, bir aile ferdinin ya da tanıdığının fotoğrafını Copilot'a yüklediğinde, bu görüntünün kendisi ile yapay zekâ sistemi arasında kalacağını varsayıyor. Ancak ortaya çıkan belgeler, sanılanın aksine başka insanların da bu fotoğraflara erişim sağlayabildiğini ortaya koyuyor. Hâliyle bu durumun insanların Copilot'a olan güvenini sarsacağı düşünülüyor. Nitekim daha şimdiden tepkiler gelmeye başlamış durumda.
