Korkutan teknoloji: Deepfake
TEKNOLOJİ

Korkutan teknoloji: Deepfake

02-09-2019

Hayatımızın büyük bir bölümünde yer alan internetin birçok faydası olduğu gibi zararları da bulunuyor. Bunlardan biri de son zamanlarda dünyayı korkutan Deepfake teknolojisi. Peki, Deepfake nedir? Detaylar yazımızda.

Deepfake nedir?

Deepfake, gerçek gibi görünen sahte videolar ya da ses kayıtlarıdır.  Yapay zekayı kullanan bu teknoloji, bazen tehlike arz edebiliyor. 2017 yılında ortaya çıkan bu teknolojinin kullanımı kısa sürede yaygınlaştı. Bugün neredeyse her alanda Deepfake teknolojisi ile sahte videolar oluşturuluyor.

Deepfake tehlikeli mi?

Birçok insanı endişelendiren bu teknoloji ne kadar tehlikeli olabilir? Amerikalı politikacı ve ABD'nin Florida Eyaleti senatörü Marco Rubio, Deepfake teknolojisi için nükleer silahların modern eşdeğeri benzetmesini yaptı. Rubio, “Eskiden ABD’yi tehdit etmek için uçak gemilerine, nükleer silahlara, uzun menzilli füzelere ihtiyaç vardı. Bugün ise sadece internet sistemine, bankacılık sistemine, elektrik şebekesine erişmeniz yeterli. Ülkeye zarar verebilecek gerçekçi bir sahte video üretme yeteneği gittikçe artıyor.” diyerek bu teknolojinin büyük bir kriz oluşturabileceğine dikkat çekti.

Deepfake teknolojisini Rubio kadar tehlikeli görmeyenlerde var. MIT Media Laboratuvarı’nda yapay zeka idaresinin müdürü olan Tim Hwang, bu teknolojinin zararsız olduğunu düşünenlerden biri.

Deepfake nasıl çalışıyor?

Deepfake videolarını oluşturmak için makine öğrenme teknolojisinden ve yapay zekadan faydalanılıyor. Birbirine zıt çalışan iki makine öğrenmesi (ML) modelinden oluşan çekişmeli üretici ağlar(GAN) kullanılıyor. Makine öğrenme modellerinden biri (Generator) veri seti üzerinde çalışıyor ve sahte videoları oluşturuyor. Diğer ML modeli (Discriminator) ise sahte videoları tespit etmeye çalışıyor. Videonun sahte olduğu tanımlanırsa, bir sonraki denemede ne yapılması gerektiği hakkında bilgi veriyor.

Eğitim verisinin büyük olması gerçeğe yakın videolar oluşturmada en büyük etkendir. Halka açık birçok videosu bulunan ünlüler, Deepfake videolarının kurbanları oluyor. Bu teknoloji, birçok ünlüyü mağdur etti.

Kısaltması GAN olan çekişmeli üretici ağların faydaları da bulunuyor. Bu ağlar, denetimsiz öğrenmede büyük bir adım olarak görülüyor. Denetimsiz öğrenme aynı zamanda yapay sinir ağları olarak da adlandırılıyor. Denetimsiz öğrenmede bir çıktı ve öğretici bulunmuyor. Algoritmalar, kendi planlarına bırakılıyor. Denetimsiz öğrenme, sürücüsüz araçların yayaları tanıması ve Siri gibi sesle çalışan dijital asistanları daha konuşmacı hale getirme yeteneğini geliştiriyor. GAN’lar, yapay zeka ile yapılan tasarımların yükselişi olarak görülüyor.

Deepfake videolar tespit edilebilir mi?

Deepfake videolarına engel olabilmek için çalışmalar yapılıyor. Ancak amatör videolar haricinde Deepfake videolarını tespit edebilmek oldukça zordur. Deepfake’i oluşturan çekişmeli üretici ağlar zamanla iyileştiriliyor. Bu da demek oluyor ki, sahte videoları tespit etmek gelecekte daha da zor olacak. Sahte videoları tespit etmek için yakında dijital adli tıpa başvurmak zorunda kalacağız gibi gözüküyor. Ancak dijital adli tıpta kesin bir sonuç vermeyebilir. Çünkü çekişmeli üretici ağlar, dijital adli tıptan kaçınmayı öğrenmek için kendilerini eğitebiliyorlar.

 

Yorumlar