Mark Zuckerberg'in verilerin çalındığını kabul ettiği ve Barack Obama'nın Donald Trump'ı kötüye kullandığı videoları bir süredir internette dolaşıyor mu?
Bu videolar, Deepfake adlı çok gelişmiş ve fütüristik bir AI teknolojisinin sonucudur.
Basitçe söylemek gerekirse, video için bir photoshop alternatifidir. Bir yandan, gerçek bir kişiye olan ihtiyacı ortadan kaldırarak elektronik ortamda devrim yaratabilir.
Öte yandan, herhangi birinin videoda her şeyi söylemesini sağlayabileceğiniz için kişinin kimliğini ciddi şekilde tehdit ediyor.
Deepfake kullanımı derin öğrenme sahte olayların fotoğraflarını ve videolarını oluşturmak için, bu nedenle deepfake adı. Yalnızca mevcut videolardaki yüzleri değiştiremez, aynı zamanda sıfırdan yeni çerçeveler ve videolar oluşturabilir.
Deepfakes'in Kökeni
Geniş akademik araştırma son birkaç yılda fotoğraf ve video manipülasyonunun sınırlarını zorladı. Deepfake de bu akademik araştırmaların sonucudur.
İlk video manipülasyon vakası 1997'de rapor edildi. Bir kişinin videosu, farklı bir ses parçasında yer alan kelimeleri söyleyecek şekilde değiştirildi. kullanılarak yapılan ilk yüz canlandırma vakasıydı. makine öğrenme teknikleri.
2017'de, eski ABD başkanı Barack Obama'nın bir videosunun farklı bir ses parçasıyla eşleşen farklı kelimeler söyleyecek şekilde değiştirilmesiyle daha da dikkate değer bir ilerleme kaydedildi.
2018'de Berkeley'deki California Üniversitesi'ndeki araştırmacılar, derin öğrenmeyi kullanan sahte dans videosu. Bu, önceki çalışmalar yüzlerle sınırlı olduğundan, derin sahtelerin tüm vücuda yayılmasını işaret ediyordu.
Deepfake'ler Nasıl Oluşturulur?
Bilgi işlemdeki ilerlemeler sayesinde, artık derin sahtekarlıkları nispeten kolay ve düşük bir maliyetle geliştirebilirsiniz. Deepfake oluşturmak için iki ana yöntem kullanılır.
Yöntem 1
eğitmek zorunda kalacaksın sinir ağı kişinin gerçek video görüntüleri üzerinde. Bu, sinir ağı deneğin yüz özelliklerini farklı açılardan ve ışık koşullarında anlamak.
Bundan sonra, kodlayıcı adı verilen bir AI algoritması aracılığıyla hem orijinal yüzü hem de gizli yüzü işleyeceksiniz. İki yüz arasındaki farklılıkları ve benzerlikleri bulup öğrenecek ve her iki yüz de ortak özellikleri paylaşan sıkıştırılmış bir görüntüye indirgenecektir.
Ardından, sıkıştırılmış görüntülerden yüzleri kurtaran kod çözücü adı verilen ikinci AI algoritması gelir. Her iki yüz de iki farklı kod çözücü tarafından kurtarılır.
Yüz takasını gerçekleştirmek için kodlanmış görüntüleri diğer kod çözücüye beslemeniz yeterlidir.
Örneğin, A yüzünün bir kodlayıcı çıktısı, B yüzü üzerinde eğitilmiş kod çözücüye beslenir ve daha sonra B yüzünü A yüzünün yüz özellikleriyle yeniden yapılandırır. İkna edici bir çıktı için bunu videonun her karesinde yapmanız gerekecektir.
Yöntem 2
Deepfake oluşturmanın başka bir yöntemi de Generative Adversarial Network (GAN) yöntemidir.
Deepfakes oluşturmak için iki rakip algoritma kullanmanız gerekecek. İlki, bir görüntü oluşturmak için rastgele gürültü kullanacak ve bu nedenle, üreteç olarak adlandırılacaktır. Bu sentetik görüntü, diskriminatör adı verilen ikinci bir algoritma aracılığıyla gerçek görüntü akışına beslenir.
Ayırıcı, geri bildirime göre başka bir görüntü oluşturan jeneratöre geri bildirim sağlar. Bu şekilde, her iki algoritma da her yinelemede daha iyi sonuçlar verir. Bu işlem, gerekli doğruluk düzeyine ulaşılana kadar birçok kez tekrarlanır.
GAN son derece gerçekçi sonuçlar verir, ancak onunla çalışmak zordur ve çok büyük miktarda eğitim verisi ve bilgi işlem gücü gerektirir. Bu nedenle genellikle video kliplerden ziyade görüntü oluşturmak için tercih edilir.
Deepfakes'in Bazı İkna Edici Örnekleri
İnternette dolaşan çok inandırıcı derin sahtekarlıklar var ve bunların çoğu ünlülerden.
Örneğin, yalnızca Tom Cruise'un derin sahtekarlıklarına adanmış bir TikTok hesabı var. Videolar Cruise'da golf oynamayı veya bir sihirbazlık numarasını gösteriyor.
@deeptomcruise Seyahat! ????
Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas ve Ewan McGregor ile birlikte oldukça karmaşık bir derin sahtekarlık daha YouTube'a yüklendi. Bazı bariz kusurları var, ancak bir videoda aynı anda 3 ila 4 derin sahtekarlığı işlemek başlı başına bir başarı.
Başka bir örnek, eski Başkan Barack Obama'nın derin sahte bir videosu.
Bu, öznenin seslerini ve hareketlerini taklit edebilen taklitçilerin seslerini ve jestlerini kullandığı için şaşırtıcı derecede ikna edici.
Artık modern ana akım eğlence endüstrisinde derin sahtekarlıklar görüyoruz.
Hızlı ve Öfkeli 7'de, oyuncunun beklenmedik ölümünün ardından Paul Walker'ın sahnelerini çekmek için kullanıldı. Deepfake, kardeşi üzerinde dikkate değer bir doğrulukla kullanıldı.
Deepfakes masaya ne getiriyor?
Deepfakes, medya ve eğlence alanında devrim yaratmak için çok güvenilir bir teknoloji olduğunu kanıtladı.
“Man of Steel”de Henry Cavill'in bıyığının CGI tarafından alındığı ve bunun bir felaket olduğu zamanı hatırlıyor musunuz?
Aynısı şimdi birkaç bin dolarlık bilgisayarda çok daha ikna edici sonuçlarla yapılabilir.
Artık ölen atalarınızla ve sevdiklerinizle tanışabilirsiniz. Hatta Albert Einstein'ın kendisinin bir Fizik dersine bile katılabilirsiniz.
Tüm bunların yanı sıra deepfake tam olarak amaçlandığı şekilde kullanılmamıştır. İnternetteki derin sahtekarlıkların yaklaşık %96'sı rıza dışı pornografidir.
Ünlüler için mevcut yüksek miktarda eğitim verisi, onların derin sahtekarlıkların en çok hedeflenen kurbanları olmalarına neden oldu.
Herkesi tehlikeli veya tehlikeye atılabilir senaryolara sokmamızı sağladı ve bu nedenle herkes için büyük bir risk oluşturuyor.
Ses derin sahtekarlıklarının şirketleri dolandırmak için kullanıldığı bildirildi. 2019'da bir taklitçi, İngiltere merkezli bir şirketin CEO'suna firmanın ana şirket yöneticisinin kimliğine bürünerek 220,000 €'yu bir Macar bankasına aktarması talimatını vermek için derin sahte ses kullandı.
Kötü Amaçlı Deepfakes ile nasıl mücadele edilir?
Normalde, derin sahte videoları kare kare dikkatle gözlemleyerek ve artefaktları ve düzensizlikleri arayarak tespit edebilirsiniz.
Ancak, bu sezgisel olmayan bir süreçtir ve birçok şirket, algoritmalar ve yazılımlar üzerinde çalışmaktadır. derin sahteleri tespit et.
Facebook, bir derin sahte dedektörü oluşturmak için Berkeley, Oxford ve diğer kurumlardan araştırmacıları işe aldı. Benzer şekilde YouTube, ABD seçimleri, oylama prosedürleri veya 2020 ABD nüfus sayımı ile ilgili derin sahte videoları kabul etmeyeceklerini duyurdu.
gibi programları da kullanabilirsiniz. Gerçeklik Savunucusu ve derin sahteleri tespit etmek için Deeptrace.
Ülkeler ayrıca genel olarak derin sahtekarlıkların kullanımına ilişkin yasa yapmakla da meşguller. ABD, geçtiğimiz yıl derin sahtekarlıklarla ilgili birkaç yasa çıkardı.
Sarmak
Deepfake, AI'nın ilerlemesinin canlı düzenlemesidir. Geleceğin sınırlarını daha da bulanıklaştırır, ancak internetteki video-grafik içeriğin güvenilirliğine yönelik potansiyel bir tehdittir.
İnsanların internetteki her videodan şüphe duymaya başlayacağı bir zaman olacak ve bizler daha fazla belirsizlik çağına itileceğiz.
Yorum bırak