Okuma Süresi
Facebook’un yapay zeka ile manipüle edilmiş videoları tespit edecek algoritmaları geliştirilmesine katkı sunmak için başlattığı Deepfake Tespit Yarışması’nın sonuçları belli oldu. Yarışmada kazanan algoritmanın, ortalama yüzde 65,18’lik bir doğrulukla deepfake’i tespit edebildiği görüldü. Facebook yetkililerine göre sonuçlar umut verici olsa da deepfake sosyal medya için ciddi bir sorun olarak varlığını sürdürüyor.
Deepfake’in sosyal medyada bir tehdit aldığı son yıllarda konuşulan bir konuydu. Hatta aralarında ABD Başkanı Donald Trump ve birçok Hollywood starının başı deepfake ile derde girmişti. Bu doğrultuda aralarında Facebook’un da olduğu birçok teknoloji şirketi çözüm üretme çabasına girmişti.
Facebook bu kapsamda, manipüle edilmiş videoları tespit edebilecek algoritmaları bulmak için açık bir yarışma olan Deepfake Tespit Mücadelesi’ni başlatmıştı. Şirket 2 binin üzerinde katılımcının yer aldığı yarışmanın sonuçlarını açıkladı. Şirket yetkililerine göre sonuçlar umut verici olsa da, sonuçlar yapay zekanın deepfake içeriğini güvenilir bir şekilde tespit etmeden önce yapılması gereken çok iş olduğunu ve araştırmacıların sorunu “çözülmemiş bir sorun” olarak tanımladığını gösteriyor.
“Sonuçlar Umut Verici Olsa da Yeterli Değil”
Facebook, yarışmadaki kazanan algoritmanın, ortalama yüzde 65,18’lik bir doğrulukla deepfake’in “zorlu gerçek dünya örneklerini” tespit edebildiğini söylüyor. Bu, uzmanlar tarafından deepfake’in tespiti konusunda umutlu bir veri olarak görülse de yapay zekanın henüz istenilen seviyede olmadığını gösterdi.
Facebook Teknoloji Başkanı (CTO) Mike Schroepfer, sonuçların araştırmacılar için bir ölçüt oluşturacağını ve gelecekte çalışmalarına rehberlik edeceğini belirtti ve mücadelenin sonuçlarından memnun olduğunu söyledi. Schroepfer, “Dürüst olmak gerekirse, yarışma umduğumdan daha başarılı oldu” dedi.
2 bin 114 katılımcı yarışmada 35 binden fazla tespit algoritması sundu. Yaklaşık 100 bin kısa klipten oluşan bir veri kümesinden deepfake videoları tanımlama yetenekleri test edildi. Facebook bu klipleri oluşturmak için 3 binden fazla oyuncu kiraladı. Bazı klipler, diğer oyuncuların yüzlerinin videolarına yapıştırılmasıyla AI (yapay zeka) kullanılarak değiştirildi.
Araştırmacılara algoritmalarını eğitmek için bu verilere erişim izni verildi ve bu malzeme üzerinde test edildiğinde yüzde 82,56 gibi yüksek bir oranda doğruluk oranları ürettiler. Ancak, aynı algoritmalar görünmeyen görüntülerden oluşan bir “kara kutu” veri kümesine karşı test edildiğinde, çok daha kötü performans gösterdiler ve en iyi skorlama modeli yüzde 65,18’lik bir doğruluk oranı elde etti. Günümüz dünyasında ciddi bir sorun olan deepfake’in tespitinde ciddi zorluklar olduğu böylece ortaya çıktı ve sorunun oldukça ciddi olduğu tekrar gözlemlendi.
Facebook Kendi Deepfake Algılama Teknolojisini Geliştiriyor
Schroepfer, Facebook’un şu anda bu yarışmadan ayrı olarak kendi deepfake algılama teknolojisini geliştirdiğini söyledi. Ayrıca şirketin yapılan yarışmadan elde edilen sonuçlarla Facebook’un deepfake algılama teknolojisinin de geliştirileceğini söyledi. Şirket bu yılın başında platformunda deepfake’i yasakladığını duyurmuş ve bu kapsamda çalışmalara başlamıştı.
Meydan okumadan sonucunda kazanan algoritmalar, diğer araştırmacılara yardımcı olmak için açık kaynaklı kod olarak yayınlanacak, ancak Facebook, tersine mühendislik yapılmasını önlemek için kendi algılama teknolojisini gizli tutacağını söyledi.
Schroepfer, deepfake’in Facebook için şu anda büyük bir sorun olmasına rağmen, şirketin bu içeriği gelecekte ne olursa olsun tespit etmeye hazır olması gerektiğini söyledi. Bazı uzmanlar, deepfake’in yaklaşmakta olan 2020 ABD seçimlerinde ciddi siyasi nüfuz için kullanılma tehlikesini hatırlatıyor.
Kaynak: The Verge
İlginizi Çekebilir:
Yandex’in Sesli Asistanı Alisa Dünyanın Resim Çizebilen İlk Asistanı Oldu
Sony, Dünyanın İlk Yapay Zeka ile Desteklenen Akıllı Görüntü Sensörlerini Duyurdu
