Yapay zekâ yapay zekâya karşı

Uzmanlar, yapay zekâ tarafından üretilen deepfake içeriklere karşı mücadele etmek için en iyi aracın yapay zekânın kendisi olduğunu söylüyor. 

Uzmanlara göre, gerçekçiliği giderek artan yapay zekâ destekli 'deepfake' içeriklerle mücadele etmek için yine yapay zekâ araçlarına ihtiyaç duyulacak. 

Dünya Fikri Mülkiyet Örgütü (WIPO), deepfake’i, insan yüzlerinin başka bedenlere yerleştirilmesi ya da seslerin manipüle edilerek gerçeğe çok yakın medya içerikleri üretilmesi olarak tanımlıyor. Veriler ise 2024 yılı boyunca her beş dakikada bir yeni deepfake içerik üretildiğini ortaya koyuyor. Entrust Siber Güvenlik Enstitüsü’nün raporuna göre, bu teknolojiyle ABD Dışişleri Bakanı Marco Rubio, İtalya Savunma Bakanı Guido Crosetto ve Taylor Swift ile Joe Rogan gibi ünlü isimler sahte içeriklerde hedef alındı. Bazı dolandırıcılık girişimlerinde bu kişilerin sesleri kullanılarak halktan para istendi ya da devlet yardımı vaadiyle kandırıldılar.

1 Ağustos’ta yürürlüğe giren Avrupa Birliği Yapay Zekâ Yasası ise tüm yapay zekâ tarafından üretilen içeriklerin – deepfake’ler dahil – etiketlenmesini zorunlu kılıyor. Bu yasa sayesinde AB vatandaşları artık internette karşılaştıkları içeriğin gerçek olup olmadığını anlayabilecek olsa da yapay zekâ destekli 'deepfake' içeriklerle mücadele konusu hala toplumların en önemli sorunlarından biri olarak güncelliğini koruyor. 

DERİN SAHTEKÂRLIĞIN ETKİLERİ NELER?

Peki deepfake içerikler ne tür sorunlara neden olabilir ve nasıl mücadele edilmelidir? Bu tür içerikler, kamu görevlileriyle yapılmış gibi gösterilen sahte konuşmalar yoluyla gizli bilgilerin sızdırılmasına neden olabilir. QiD adlı siber güvenlik şirketinin CEO’su Kinny Chan, bu tür saldırıların genellikle ya hassas bilgilere ulaşmak ya da özel sunuculara erişmek amacı taşıdığını belirtiyor.

Bazı deepfake içerikler ise bireylerin davranışlarını değiştirmeyi hedefliyor. Örneğin, geçtiğimiz yıl dönemin ABD Başkanı Joe Biden’ın sesi taklit edilerek, seçmenlerin eyalet seçimlerine katılmaması yönünde çağrılar yapıldı.

Avrupa Parlamentosu, deepfake’lerin eğlence ve yaratıcılık alanlarında kullanımı mümkün olsa da yalan haber üretimi, rıza dışı içerik oluşturulması ve dijital medyaya olan güvenin sarsılması gibi ciddi sorunlar doğurabileceğini vurguluyor. Kuruma göre, Avrupa Birliği genelinde bu yıl 8 milyon deepfake paylaşımı yapılacak. Bu sayı 2023’te yalnızca 500 bindi.

YAPAY ZEKÂ NASIL KARŞI KOYUYOR?

Yapay zekâ, sahte ve gerçek içerikler arasında ayrım yapacak şekilde eğitilebiliyor. Lüksemburg Üniversitesi’nden araştırmacılar, modellerini etiketlenmiş görsellerle besleyerek, sahte içeriklerin ayırt edilebildiği bir sistem geliştirdiklerini açıkladı.

Araştırmacı Enjie Ghorbel, “Sistemimizi yalnızca gerçek verilere odaklanacak şekilde eğittik. İncelenen veri gerçek veri desenleriyle uyuşmuyorsa, bu onun sahte olduğunu gösteriyor” dedi.

Bir diğer çözüm ise Pindrop Security şirketinin CEO’su Vijay Balasubramaniyan’dan geldi. Balasubramaniyan, insanların sesindeki milyonlarca veriyi analiz eden ve küçük sapmaları dahi tespit edebilen bir sistem önerdi. Bu sistem, mülakatlar ya da çevrimiçi görüşmelerde bir kişinin ses klonlama yazılımı kullanıp kullanmadığını anlayabiliyor.

Deepfake teknolojisinin bir gün e-posta spam'leri gibi, başlangıçta büyük tehdit oluşturan ancak zamanla kontrol altına alınan bir sorun hâline gelebileceğini söyleyen Balasubramaniyan şunları söyledi: “İsterseniz umutsuz bir tablo çizebilirsiniz ama dezenformasyona teslim olmayacağız.”