Yapay zekâ kullanımı iş yerlerinde hızla yaygınlaşırken, şirketlerin yalnızca teknoloji yatırımı yapması yeterli olmuyor. Hal böyle olunca da şirketlerin önündeki soru “Bu teknolojiyi nasıl kullanacağız?” değil, “Çalışan yapay zekâyı kullanırken hangi kurallara uyacak?” sorusuna dönüştü. Kurt Gürler Partners Yönetici Ortağı Avukat Özlem Kurt, yapay zekâ kullanımının kurallara bağlanması gerektiğini belirterek hangi verinin sisteme yükleneceği, AI çıktısının kim tarafından kontrol edileceğinin baştan belirlenmesi gerektiğine dikkati çekiyor.
HERŞEYİ ONA YÜKLEMEK DOĞRU MU?
Müşteri listesi, sözleşme, fiyat bilgisi veya şirket içi raporun üretken yapay zekâya yüklenmesi basit bir araç kullanımı olarak görülemiyor. Kişisel veri içeren bilgilerde KVKK bakımından veri güvenliği, hukuka aykırı işleme veya yurt dışına aktarım sorunları; ticari sır ve gizli bilgilerde ise gizlilik riskleri doğabilir. Kurt’a göre yalnızca bir “AI politikası” hazırlamak yeterli değil. İş sözleşmeleri, görev tanımları, gizlilik ve bilgi güvenliği düzenlemeleri ile disiplin ve performans süreçleri de yeni kullanım biçimleriyle uyumlu hale getirilmeli.Yapay zekânın çalışma hayatına taşıdığı en dikkat çekici risklerden biri deepfake. Tüketicilerin olduğu kadar şirketler için de önemli riskler barındırıyor.
DEEPFAKE İLE CEO TALİMAT VERİRSE
CEO’nun sesi yapay zekâyla taklit edilerek finans departmanındaki çalışana acil ödeme talimatı verildiğini düşünelim. Çalışan talimatı gerçek sanıp ödemeyi gerçekleştirirse sorumluluk yalnızca çalışanın sahte talimatı fark edip edememesine göre değerlendirilemez. Özlem Kurt'a göre, şirketin bu tür sosyal mühendislik saldırılarına karşı güvenlik sistemi kurması da önem kazanıyor. Ödemelerde çift onay, sözlü talimatların başka kanaldan doğrulanması ve çalışanların dolandırıcılması konusunda eğitilmesi gibi önlemler gündeme geliyor.
