Yapay zeka ve makine öğrenmesi ile birlikte gerçeğinden ayrıt edilemeyecek fotoğraflar ve videolar ortaya çıkaran, tehlikeli olarak nitelendirilen bir teknolojik uygulama

Yazar: İrem Öztekin - Sabancı Üniversitesi

Yapay zeka ve makine öğrenmesi dünyamızda oldukça popüler olan teknolojilerden. Günümüzde bu teknolojilerin de çok çeşitli uygulamaları mevcut. Ancak bu uygulamalardan bazıları artık birer tehdit veya tehlike olarak nitelendiriliyor. Tehlikeli olarak nitelendirilen uygulamalardan bir tanesi de Deepfake.

Eye of a futuristic robot

Deepfake Nedir, Ne Demek?

Deepfake, Türkçesiyle “Derin Sahte”, "Derin Öğrenme" ve "sahte" kelimelerinin birleşmesiyle oluşan bir yapay zeka uygulaması. Yapay zeka teknolojisi sayesinde insan yüzlerini değiştirip, bu şekilde fotoğraflar ve videolar hazırlamayı sağlayan teknolojik bir teknik olarak da ifade edilebilir. Bu teknoloji yalnızca insan yüzlerini değiştirmeye ya da montajlamaya olanak sağlamıyor. Aynı zamanda seslendirme konusunda da oldukça başarılı. Bu sayede baştan yepyeni bir insan yaratmak bile mümkün.

Deepfake ilk olarak 2017 yılında karşımıza çıktı. Amerikan sosyal medya sitesi Reddit’de, anonim bir kullanıcı bazı ünlülerin yer aldığı yetişkin içerikli videolar yayınladı. Ancak yayınlanan bu videolar, içinde yer alan ünlülere ait değildi. Bu videolar ünlülerin yüzlerinin başka bedenlere Deepfake teknolojisi ile yerleştirilmesi sonucu oluşmuştu.

Deepfakes: Was darf man heute noch glauben?

İlerleyen zamanlarda ilginç bir Deepfake çalışması daha gündeme oturdu. Amerika'da yer alan Washington Üniversitesi'ndeki araştırmacılar, Amerikan Başkanı Barack Obama'nın aşağıda yer alan Deepfake videosunu hazırladı. Araştırmacılar Başkan Obama'nın videosu üzerinde söylemek istedikleri her şeyi Obama’ya söylettiler.

Barack Obama'nın Deepfake videosu

Sadece politikacıların değil, dünyaca ünlü yıldızların da Deepfake videoları hızla yayıldı. Bu isimlerden bazıları, Tom Cruise, Emma Watson, Taylor Swift, Katy Perry, Scarlett Johansson, Gal Gadot gibi yıldızlar.

Deepfake Nasıl Çalışıyor?

Deepfake 2 temel teknoloji sayesinde çalışıyor. Bunlardan ilki yapay zeka teknolojisi. Bir diğeri ise düşük maliyetle hızlı üretimi mümkün kılan makine öğrenmesi.

Deepfake uygulamaları genel olarak farklı şekillerde çalışabiliyor. Deepfake fotoğraflar veya videolar hazırlanırken GAN (Generative Adversarial Network) yani bir çeşit otomatik öğrenme tekniği kullanılıyor. Bazıları bir kişinin yüz hareketlerini hedef videoya aktarıyor, bazıları ise hedef kişinin yüzünü diğer videolara yerleştiriyor.

Standart bir bilgisayarda iyi bir deepfake yapmak ise zor. Çoğu deepfake ürünü güçlü bir bilgi işlem gücüne sahip üst düzey masaüstü bilgisayarlarda oluşturuluyor.

Deepfake Neden Tehlikeli?

Deepfake kötü kullanıma oldukça açık bir teknoloji olduğundan dolayı tehlikeli olarak anılıyor. Hatta öyle ki Amerika’da 2016 başkan adaylarından ve Cumhuriyetçi Senatör Marco Rubio’ya göre bu teknoloji nükleer silahların modern bir eşdeğeri.

Bu durumun en önemli nedeni, bu teknolojiyle beraber sahte videolar veya fotoğraflar ortaya çıkması, zor ayırt edilmesi ve bunlara konu olan kişilerin zor durumda kalması. Özellikle de politikacılar ve ünlü isimler için büyük bir korku kaynağı. Deepfake, bir kişinin yapmadığı veya söylemediği bir şeyi o kişi onu yapmış veya söylemiş gibi gösterilebiliyor. Böylelikle kişiler tehdit edilebilir hale bile geliyor. Aynı zamanda Deepfake kişisel haklar konusunda ve hukuksal problemlere yol açabiliyor.

Bununla birlikte, Deepfake görüntüler yapay zeka yoluyla oluşturulduğundan, gerçekçi bir video oluşturmak için önemli beceriye ihtiyaç duyulmuyor. Bu da isteyen herkesin bu tarz içerikler hazırlayabileceğini gösteriyor.

Ancak Deepfake eğer iyi amaçlar da kullanılırsa faydalı olabilecek bir ileri teknoloji. Örneğin; Star Wars filminde Leia karakterini canlandıran oyuncu Carrie Fisher geçirdiği kalp krizi sonucu hayatını kaybetmişti. Fakat serinin son filminde Deepfake teknolojisi sayesinde kendisi tekrar canlandırıldı.

Benzer şekilde 2013 yılında geçirdiği trafik kazası sonucu hayatını kaybeden Hızlı ve Öfkeli filminin oyuncusu Paul Walker ile birlikte canlandırdığı karakter ölmedi. Walker’ın kardeşlerinin de desteğiyle Hızlı ve Öfkeli 7 filminde ünlü oyuncu filmde yer aldı ve film tamamlandı.

In too deep?

Star Wars, Deepfake Leia

Facebook’un Deepfake Kararı

Günümüzün en popüler sosyal medya şirketlerinden olan Facebook içerik yönetmelikleri nedeniyle de Amerikalı siyasetçiler tarafından sıkça eleştiriliyor.

Fakat şirket Amerika’da yapılacak olan 2020 başkanlık seçimleri öncesinde sorunlar oluşmaması adına Deepfake gönderler ile ilgili önemli bir karar aldı. Seçimler öncesinde ortaya çıkabilecek sahte içerikleri önlemek adına Deepfake teknolojisi ile hazırlanmış videoların ayırt edilip silineceğini duyurdu. Ayrıca yapay zeka kullanılarak değiştirilmiş diğer bütün içeriklerin de tamamen kaldırılacağını açıklandı.

Advancements in facial mapping and artificial intelligence are making it easy for just about anyone to produce videos of real people appearing to say something they never said.

Deepfake videoların farklı amaçlarda kullanılabilmesinden dolayı özellikle siyaset dünyasında politikacılar tarafından büyük endişe duyuluyor. Ancak bu teknoloji ile üretilen görsellerin ayrıt edilebilmesi için de, yine yapay zeka ve makine öğrenmesine dayalı ürünler geliştiriliyor.

Günümüzde teknolojik gelişmeler takip edilirken ve teknolojik yatırımlar yapılırken teknolojik farkındalığın artması ve insanların bu tarz sahte ürünlere karşı bilinçlendirilmesi, teknolojik gelişmelerin kötü amaçlar doğrultusunda kullanılmaması büyük önem taşıyor.