Deepfake Aslında Bir Siber Tehlike mi?
4 min readDeepfake aslında bir süredir hayatımızda olan bir teknoloji ama insanların çoğu bu teknolojinin varlığından habersiz. Fakat geçenlerde çıkan ve herkes tarafından çok beğenilen Kemal Sunal reklamının bu teknoloji ile yapılması merak edilmesine neden oldu. Bilinçlenmek isteyen insanlar, hemen internette “Deepfake nedir ve nasıl çalışır?” sorularının cevaplarını araştırmaya başladılar.
Sektörel dilde, ‘yapay zeka ile üretilmiş videolar’ veya ‘sentetik medya’ adı ile anılan bu teknoloji, haber, eğlence ve eğitim alanlarında büyük ilgi görüyor. Bunda, teknolojinin her geçen gün daha fazla geliştirilmesinin de payı var.
Deepfake nedir?
Yıllardır hayatımızda olan video düzenleyiciler ve Photoshop gibi programlar görseller üzerinde birtakım değişiklikler yapmamıza olanak sağlıyor. Ancak bu programlar söz konusu teknoloji yanında hiçbir şey desek yeridir. Deepfake, mevcut bir görüntü veya videoda yer alan bir kişinin, yapay sinir ağları kullanarak bir başka kişinin görüntüsü ile değiştirildiği bir medya türüdür. Bu teknoloji ile aslında gerçek olmayan videolar oluşturmak mümkün. Bu nedenle deepfake ile oluşturulan videolar yasaklanıyor. Hatta teknoloji şirketleri videoların sahte olup olmadığını anlayabilmek için programlar yapmaya çalışıyor.
Ticari olarak ilk benimseyenlerden firmalardan biri, küresel reklamcılık şirketi WPP ve iş danışmanlığı şirketi Accenture gibi kişiler için yapay zeka destekli kurumsal eğitim videoları oluşturan Londra merkezli bir şirket olan Synthesia oldu.
Synthesia CEO’su ve kurucu ortağı Victor Riparbelli, “İçerik oluşturmanın geleceği budur” diyor.
Synthesia’nın sistemini kullanarak yapay zeka tarafından oluşturulmuş bir video oluşturmak için, birkaç avatar arasından seçim yapıp, söylemelerini istediğiniz kelimeyi yazmanız yeterlidir ve hemen hemen bu kadar.
Bay Riparbelli, bunun küresel firmaların kurum içi eğitim kursları gibi farklı dillerde çok kolay bir şekilde videolar hazırlayabileceği anlamına geldiğini söylüyor.
“Kuzey Amerika’da 3.000 depo çalışanınız olduğunu varsayalım” diyor. “Bazıları İngilizce konuşuyor, ancak bazıları İspanyolcaya daha aşina olabilir.
“Karmaşık bilgileri onlara iletmeniz gerekiyorsa, dört sayfalık bir PDF harika bir yol değildir. İngilizce ve İspanyolca olarak iki veya üç dakikalık bir video yapmak çok daha iyi olur.
“Bu videoların her birini tek tek kaydetmeniz gerekiyorsa, bu muazzam bir iştir. Şimdi bunu [küçük] prodüksiyon maliyetleri için yapabiliriz ve birisinin senaryoyu yazması ne kadar sürer. teknoloji bugün kullanılıyor. “
Deepfake nasıl çalışır?
Deepfake videolarının oluşturulmasını sağlayan en önemli şey makine öğrenmesi. Bu teknoloji ile bir video oluşturmak için ilk önce kişinin bulunduğu bir videoya ihtiyaç duyuluyor. Daha sonra yapay sinir ağları sayesinde videodan alınan veriler uzun bir süre eğitiliyor. Bu teknik sayesinde kişinin farklı ışık ve açılar karşısında gerçeğe en yakın şekilde görünmesi sağlanıyor. Böylece gerçeğinden ayırt edilmesi çok zor olan videolar oluşturuluyor.
Deepfake teknolojisinden korkmalı mıyız?
Birkaç ay önce, Güney Kore’de yaşayan milyonlarca izleyici, günlük haber bültenini izlemek için MBN kanalını açtı.
Saat başında, sunucu Kim Joo-Ha her akşam olduğu gibi ekrandaydı ve her akşam olduğu gibi sıra ile haberleri aktarmaya başladı. Haberler de 2020 yılına uygun şekilde, Covid-19 salgını ve yürütülen mücadeleye ilişkindi.
Ve fakat bu bülten, sıradan olmaktan çok uzaktı çünkü Kim Joo-Ha o anda ekranda değildi. Yerine ‘deepfake’ teknolojisi ile üretilmiş versiyonu haberleri aktarıyordu. Bilgisayarda üretilen bu ‘sahte’ sunucu, ses, mimik ve surat ifadelerini mükemmel bir şekilde kopyalamıştı.
İzleyicilere daha önce bu gösterinin yapılacağı uyarısı yapılmıştı. Sonrasında yapılan araştırma ise izleyicilerin farklı yorumları olduğunu gösterdi. Bazı kişiler, elde edilen gerçeklik karşısında şaşkınlıklarını dile getirirken bazıları da gerçek Kim Joo-Ha’nın işini kaybetme tehlikesi içinde olduğunu kaydetti. 🙂
İşte Deepfake teknolojisi ile haberler;
Deepfake ile ciddi anlamda çok fazla sahte video üretilebilir ve bu videolar sosyal medyada hızla yayılabilir. Karalama çalışmaları, şantajlar her şey mümkün.
Çoğu insanın aklına, deepfake teknolojisi denildiğinde ünlü isimlerle ilgili videolar geliyor. Hatta Tom Cruise’un yer aldığı sahte video TikTok uygulamasında yayınlandıktan sonra dünyada manşetlere çıkmıştı.
Genellikle sahte pornografi videoları, sahte haberler, finansal sahtekarlıklar, intikam pornoları ve çeşitli aldatmacalar da kullanılıyor. Fakat söz konusu teknoloji firmaların güvenliğini de tehdit ediyor. Deepfake firmalara karşı kullanıldığı takdirde onların itibarını ve istikrarını zedeleyebilir. Gerçek olmasa da gerçeğinden ayırt edilmesi zor olan videolar, hedefteki firmaya zarar vermek için akla gelebilecek her türlü sahtekarlıkta kullanılabilir.
