Deepfake, Türkçe’de kelime anlamı olarak “derin sahte” şeklinde kullanılıyor. Fakat ben bu çeviri içime sinmediği için yazının devamında bu kavrama “deepfake” olarak yer vereceğim.
Deepfake’in tam olarak ne olduğunu anlamak için öncelikli olarak altında yatan teknolojiyi anlamak gerekiyor. Bu nedenle biraz geriye, 2014 yılına gidiyoruz. Ian Goodfllow ve arkadaşları 2014 yılında “Generative Adversarial Nets” başlıklı bir makale yayınlıyor. Bu makalede Generative Adversarial Networks (GAN) adında Oyun Teorisi (Game Theory) ve Nash dengesi (Nash Equilibrium) temel alınarak hazırlanan bir ağ sunuluyor.
GAN (Generative Adversarial Networks) nedir?
GAN, mimarisinde 2 farklı model bulunduran bir ağ olarak düşünülebilir. Bu modellerden birisi generator, diğeri ise discriminator.
- Generator (Üretici): Sürekli olarak yeni bir bilgi üretmeye çalışır.
- Discriminator(Ayrıştırıcı): Generator tarafından üretilen bilginin gerçek olup olmadığına bakar.
Generator ile discriminator, sürekli olarak birbirine zıt çalışır. Generator yeni bilgi üretimi gerçekleştirirken zamanla öğrenir ve bu sayede uzmanlaşarak daha gerçekçi bilgiler üretir. Discriminator da aynı şekilde zamanla öğrenir ve sahte olan bilgiyi gerçekten ayırmakta uzmanlaşır. Bu teknolojinin yaratıcısı Ian Goodfellow çalışma prensibini şu şekilde açıklıyor:
“ Generator, gerçek tablolara benzer tablolar yapmaya çalışan bir ‘kalpazan’ takımı iken, Discriminator ise gerçek ile sahteyi anlamaya çalışan ‘dedektif’ ekibine benzemektedir.”
Yani bir tarafta kaçmakta, diğer tarafta ise yakalamakta uzmanlaşan 2 farklı model bulunuyor. Bu iki model sürekli olarak entegre bir şekilde çalıştığı için ortaya çıkan çalışmalar çok daha gerçeğe yakın oluyor.
Şimdi olayı daha basite indirgemek için bir örnek verelim. Ben kalpazan bir ressamım ve 100×100 boyutunda bir resim oluşturuyorum. Yani toplamda 10.000 kutuyu boyamam gerekiyor. Ben tüm kutuları tek seferde rastgele renkler ile dolduruyorum ve aslında oluşturmak istediğim resimden oldukça alakasız bir sonuca ulaşıyorum. Bu noktada dedektif devreye giriyor ve bana diyor ki “Arkadaşım, resmin saat 10 yönüne yoğunlaşman ve oradaki hataları düzeltmek gerekiyor. En sondaki kutucuklar sarı olması gerekirken sen yeşile ve maviye boyamışsın, olmaz.” Bu uyarının neticesinde ben söylenen noktaya yöneliyorum ve oradaki yanlışlarımı düzeltiyorum. Bu süreç defalarca tekrarlanıyor ve her tekrarda ben yapmak istediğim resme daha çok yaklaşıyorum. Aynı zamanda her tekrar sayesinde hem ben, hem de dedektif işinde uzmanlaşıyor. Sonuç olarak ise daha gerçekçi işler ortaya çıkıyor.
Son dönemde Deepfake teriminin tekrar çok konuşuluyor olmasının sebebi ise Çin’de çıkan Zao Uygulaması. Bu uygulama, aslında bahsettiğim GAN teknolojisinin kullanım alanlarından sadece bir tanesine odaklanıyor. Uygulamaya yüklediğiniz kendi fotoğraflarınızı işliyor ve seçtiğiniz bir filmdeki karaktere sizin yüzünüzü yapıştırıyor. Bu işlemi ise sadece 8 saniyede tamamlıyor. Uygulama, şu an için sadece Çin’de kullanılabiliyor.
Kullanım Alanları
Söylediğim gibi, her ne kadar şu anki popülaritesini videolardaki yüzleri değiştirebilme özelliği sayesinde edinmiş olsa da, bu teknolojinin kullanım alanı oldukça geniş. Bu alanlardan bazıları ise şu şekilde;
- Sisteme birçok köpek resmi yükledikten sonra yapay zekanın kendini eğitmesini sağlayarak hiçbir yerde olmayan köpek resimleri elde edebiliriz.
- Yine aynı şekilde kendi fotoğraflarımızı sisteme yükleyerek, hiç olmayan kendi fotoğraflarımızı elde edebiliriz.
- Mevcut olan bina fotoğraflarını yükleyerek, sistemin hiç olmayan yeni bina tasarımları oluşturmasını sağlayabiliriz. Bunu her alan için düşünebilirsiniz. Yeni kıyafet, ayakkabı, araba vs. gibi aklınıza gelen her sektörde sistemin yaratıcılığını kullanabilirsiniz.
- Oyun geliştirme ve animasyon yapımı oldukça pahalı ve ciddi emek isteyen bir iştir. GAN teknolojisi sayesinde bu zorlukların birçoğundan kurtularak otomatik olarak yeni anime karakterleri oluşturabilirsiniz.
GAN ile oluşturulan anime karakterleri - X ışınlarında daha iyi görüntü almayı sağlar ve aynı zamanda yama etkilerinin de engelleyerek çok daha kaliteli ve doğru sonuçlar sunar. Bu avantajı, özellikle sağlık sektörü üçin oldukça önemlidir.
Deepfake Teknolojisi Neden Tehlikeli?
Aslında bu sorunun cevabı, “Deepfake Teknolojisi Neden Yararlı?” sorusunun cevabı ile aynı. İnsanlar ve onların tercihleri. Onlarca faydalı yanı olmasına rağmen, tercihler nedeniyle böyle bir teknoloji insanlığın korktuğu bir gelecek distopyasına dönüşebiliyor.
Bu teknolojinin günümüzde en sıkıntı veren kullanım şekli ünlülerin veya sıradan insanların yüzlerinin pornografik resim ve videolarda kullanılıyor olması. Güney Carolina Üniversitesi Gazetecilik ve Kitle İletişim Fakültesi Direktörü Andrea Hickerson “En temel düzeyde, deepfake gerçek gibi görünmek için gizlenmiş yatıyor. Onları kanıt veya hakikat olarak kabul edersek, potansiyel olarak feci sonuçlarla karşılaşabiliriz. Eğer bir deepfake videosu siyasi bir liderin şiddete veya paniğe teşviğini içerse bunun sonuçları ne olur? ” diyor.
Seçim öncesinde kitleleri peşinden sürüklemek, insanları silaha, çatışmaya ve ayrışmaya teşvik etmek tek bir deepfake videosu ile mümkün olabilir mi? Bence evet. Genel olarak insnalar zaten sorgulamadan ve araştırmadan uzak yaşıyorlar. Herhangi birinin paylaştığı bir videonun kaynağını araştırmadan, gerçekliğini sorgulamadan inanıp paylaşabiliyorlar. Böyle bir ortamda siyasi bir liderin sahte videosu ile sosyal ağlarda dakikalar içinde kutuplaşmalar ve şiddet zemini sağlanabilir. Ayrıca bu örneği sadece siyaset ile sınırlandırmak da doğru olmaz. Sadece siyasilerin yüzleri değil, şirket yöneticileri de bu kötü amaca hizmet edecek şekilde kullanılabilir. Nitekim böyle bir olay Amerika’da yaşanmış. Bir şirket yöneticisinin yüzünü taklit edip müdürlerini arayan bir grup çalışan toplamda 243 bin dolar dolandırmışlar.
Amerika’da Savunma Bakanlığı’na bağlı bir kurum olan DARPA (The Defence Advanced Research Projects Agency – Savunma İleri Araştırma Projeleri Ajansı) gibi devlet kurumlarının yanı sıra, Carniege Mellon, Washington Üniversitesi, Stanford Üniversitesi gibi okullar da hem GAN teknolojisinin nasıl kullanılacağı, hem de bununla nasıl mücadele edileceği üzerine çalışıyorlar. Yanı aynı zamanda hem uygulamayı daha mükemmel hale getirmek için çabalarken, hem de bu mükemmelleşen uygulamada açık bulmak için çalışıyorlar. (ikilem?)
GAN teknolojisi ve bunun bir uzantısı olan deepfake, günümüzde bir silahlanma yarışı olarak kabul ediliyor.
Sonu gelmeyen bir yarışta, teknoloji ile savaşmak için teknolojiyi kullanıyoruz.
Deepfake Nasıl Tespit Edilir?
Deepfake alanında yaşanan gelişmeler bu teknoloji ile oluşturulmuş videoların tespiti için faydalı olasına rağmen, geç kalınmış olabilir. Teknolojiye olan güven bir kere kaybolursa, bu güveni yeniden sağlamak oldukça zordur. Videoların orjinal ve gerçekliğine olan inanç zedelenirse; TV haberlerine, kliplere, canlı yayınlanan olaylara olan inancınız ne kadar sürede kaybolur?
Özellikle Amerika’da birçok insan haberlere olan inancını yitirdi. Deepfake teknolojisinin zaman içinde gelişmesi beraberinde sahte çığlıkları daha da yükseltecek ve insanların güveni iyice zayıflayacak.
Hükümetler, şirketler veya teknoloji uzmanları bu soruna bir çözüm buluncaya kadar aslında sorumluluk bizlerde. Karşımıza çıkan her görsele veya videoya inanmayacağız, paylaşmayacağız. Doğruluğunu sorgulayacak ve araştıracağız.
Bizlerin sorumluluğu dışında bilim insanlarının deepfake tespiti için üzerinde çalıştıkları bir proje var, fareler. Oregon Üniversitesi’ndeki bilim insanları, fareleri kayıtlı konuşmalardaki usulsüzlükleri tespit edecek şekilde eğitebileceklerini düşünüyorlar. Yapılan deneylerde farelerin konuşma sesleri arasındaki farkı %80 doğrulukla farkedebildikleri tespit edildi. Bu kapsamda, sahte veya gerçek olan konuşmaların eğitilen farelerle tespit edilebileceğine inanılıyor. Bu hipotez doğru çıksa bile, çözümün pratikliği ayrı bir tartışma konusu.
Son dönemde ilgi çeken deepfake videoları
Kullanılan Kaynaklar Goodfellow I. vd. Generative Adversarial Nets. D´epartement d’informatique et de recherche op´erationnelle Universit´e de Montr´eal Montr´eal, QC H3C 3J7 https://papers.nips.cc/paper/5423-generative-adversarial-nets.pdf https://github.com/togheppi/vanilla_GAN https://medium.com/@jonathan_hui/gan-some-cool-applications-of-gans-4c9ecca35900 https://futurism.com/the-byte/mice-could-detect-deepfakes https://ai.facebook.com/blog/deepfake-detection-challenge/ https://www.popularmechanics.com/technology/security/a28691128/deepfake-technology/ https://medium.com/@devnag/generative-adversarial-networks-gans-in-50-lines-of-code-pytorch-e81b79659e3f https://medium.com/@mubuyuk51/generative-adversarial-networks-gan-nedir-t%C3%BCrk%C3%A7e-5819fe9c1fa7 http://guimperarnau.com/blog/2017/03/Fantastic-GANs-and-where-to-find-them
