Dahil olmak üzere bir dizi şirket Microsoft і Facebook, ve hatta Güney Kaliforniya Üniversitesi'nden araştırmacılar, derin sahtekarlıklarla mücadele etmek ve bunların sarı medya ve genel olarak yanlış bilgilendirme yoluyla yayılmasını önlemek için teknolojiler geliştiriyorlar. Ancak bir grup bilim adamı yine de onları kandırmayı başardı.
San Diego'daki California Üniversitesi'nden bir bilgisayar bilimci ekibi, her video karesine "rekabet eden örnekler" adı verilen girdi verileri ekleyerek mevcut derin sahte algılama sistemlerini kandırmanın hala mümkün olduğu konusunda uyardı. Bilim adamları bulgularını geçen ay çevrimiçi olarak düzenlenen WACV 2021 Bilgisayarla Görü Konferansı'nda sundular.
Rakip örnekler, makine öğrenimi modelleri gibi yapay zeka sistemlerinin hata yapmasına neden olan biraz değiştirilmiş girdilerdir. Ek olarak ekip, videoyu sıkıştırdıktan sonra saldırının hala çalıştığını gösterdi. Yukarıdaki videoda bilim insanları, bir deepfake detektörü olan XceptionNet'in rakip videolarını "gerçek" olarak etiketlediğini gösteriyor.
Bu dedektörlerin çoğu, bir videodaki yüzleri izleyerek ve kırpılan yüz verilerini analiz için bir sinir ağına göndererek çalışır. Sinir ağı daha sonra bu verileri analiz edecek ve titreme gibi derin sahtelerde genellikle zayıf bir şekilde yeniden üretilen öğeleri bulacaktır.
Araştırmacılar, birbirine rakip örnekler ekleyerek, bu deepfake algılayıcıları kandırarak videoların gerçek olduğuna inandırabileceklerini keşfettiler.
Makalede “bu derin sahte dedektörleri pratikte kullanmak için, onları bu korumanın farkında olan ve kasıtlı olarak onu kırmaya çalışan uyarlanabilir bir düşmana karşı değerlendirmek önemlidir. Saldırganın dedektörün tamamen veya kısmen farkında olması durumunda, modern derin sahte algılama yöntemlerinin kolayca atlanabileceğini gösteriyoruz."
Bu bilim adamlarının gösterdiği gibi, dezenformasyonla mücadele için geliştirilen otomasyon teknolojileri henüz bu görevi yerine getirmiş olmayabilir.
Ayrıca okuyun: