Video Mark Zuckerberg yang mengakui pencurian data dan Barack Obama menyalahgunakan Donald Trump telah tersebar di internet sejak sekian lama sekarang?
Video ini adalah hasil daripada teknologi AI yang sangat maju dan futuristik bernama Deepfake.
Ringkasnya, ia adalah alternatif photoshop untuk video. Di satu pihak, ia boleh merevolusikan media elektronik dengan menghapuskan keperluan untuk orang sebenar.
Sebaliknya, ia sangat mengancam identiti seseorang kerana anda boleh membuat sesiapa sahaja berkata apa-apa dalam video.
Penggunaan Deepfakes pembelajaran mendalam untuk mencipta foto dan video acara palsu, maka dinamakan deepfake. Ia bukan sahaja boleh menukar muka pada video sedia ada tetapi juga mencipta bingkai dan video baharu dari awal.
Asal Usul Deepfakes
Meluas penyelidikan akademik telah menolak sempadan manipulasi foto dan video sejak beberapa tahun lalu. Deepfake juga merupakan hasil daripada penyelidikan akademik ini.
Kes pertama manipulasi video telah dilaporkan pada tahun 1997. Video seseorang telah diubah suai untuk menyebut perkataan yang terkandung dalam trek audio yang berbeza. Ia adalah kes pertama penggunaan animasi semula muka pembelajaran mesin teknik.
Kemajuan ketara selanjutnya dibuat pada 2017 apabila video bekas presiden AS Barack Obama diubah suai untuk menuturkan perkataan berbeza yang sepadan dengan trek audio yang berbeza.
Pada 2018, penyelidik di University of California, Berkeley, memperkenalkan aplikasi yang boleh mencipta a video tarian palsu menggunakan pembelajaran mendalam. Ini menandakan pengembangan deepfakes ke seluruh badan kerana karya sebelum ini terhad kepada muka.
Bagaimana Deepfakes Dicipta?
Terima kasih kepada kemajuan dalam pengkomputeran, anda kini boleh membangunkan deepfakes dengan agak mudah dan pada kos yang rendah. Dua kaedah utama digunakan untuk menghasilkan deepfakes.
Kaedah 1
Anda perlu melatih a rangkaian neural pada rakaman video sebenar orang itu. Ini akan membolehkan rangkaian neural untuk memahami ciri-ciri wajah subjek pada sudut dan keadaan pencahayaan yang berbeza.
Selepas itu, anda akan memproses kedua-dua muka asal dan muka terpendam melalui algoritma AI yang dipanggil pengekod. Ia akan mencari dan mempelajari perbezaan dan persamaan antara kedua-dua muka dan kedua-dua muka dikurangkan kepada imej termampat yang berkongsi ciri biasa.
Kemudian datang algoritma AI kedua yang dipanggil penyahkod, yang memulihkan wajah daripada imej yang dimampatkan. Kedua-dua muka dipulihkan oleh dua penyahkod berbeza.
Untuk melakukan pertukaran muka, anda hanya suapkan imej yang dikodkan ke dalam penyahkod yang lain.
Sebagai contoh, output pengekod muka A dimasukkan ke dalam penyahkod yang dilatih pada muka B yang kemudian membina semula muka B dengan ciri muka muka A. Anda perlu melakukan ini pada setiap bingkai video untuk output yang meyakinkan.
Kaedah 2
Kaedah lain untuk menjana deepfakes ialah Generative Adversarial Network (GAN).
Anda perlu menggunakan dua algoritma yang bersaing untuk menghasilkan deepfakes. Yang pertama akan menggunakan hingar rawak untuk menghasilkan imej dan oleh itu ia dipanggil penjana. Imej sintetik ini disalurkan kepada aliran imej sebenar melalui algoritma kedua yang dipanggil diskriminator.
Diskriminator memberikan maklum balas kepada penjana yang menghasilkan imej lain mengikut maklum balas. Dengan cara ini, kedua-dua algoritma memberikan hasil yang lebih baik dengan setiap lelaran. Proses ini diulang berkali-kali sehingga tahap ketepatan yang diperlukan dicapai.
GAN memberikan hasil yang benar-benar realistik, tetapi sukar untuk digunakan dan memerlukan sejumlah besar data latihan dan kuasa pengkomputeran. Itulah sebabnya ia lebih disukai untuk menjana imej berbanding klip video.
Beberapa contoh Deepfakes yang meyakinkan
Terdapat beberapa deepfake yang sangat meyakinkan berkisar di internet dan kebanyakannya adalah daripada selebriti.
Sebagai contoh, terdapat akaun TikTok yang didedikasikan semata-mata untuk palsu Tom Cruise. Video menunjukkan Cruise bermain golf atau menunjukkan silap mata.
@deeptomcruise Perjalanan! ????
Satu lagi deepfake yang sangat kompleks telah dimuat naik di YouTube dengan Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas dan Ewan McGregor. Ia mempunyai beberapa kelemahan yang jelas, tetapi untuk memproses 3 hingga 4 deepfakes dalam video secara serentak adalah satu kejayaan tersendiri.
Contoh lain ialah video palsu bekas Presiden Barack Obama.
Yang ini sangat meyakinkan kerana ia menggunakan suara dan gerak isyarat penyamar yang mampu meniru suara dan gerak isyarat subjek.
Kami kini melihat palsu dalam industri hiburan arus perdana moden.
Ia digunakan untuk merakam adegan Paul Walker dalam Fast and Furious 7 selepas kematian pelakon yang tidak dijangka. Deepfake digunakan pada abangnya dengan ketepatan yang luar biasa.
Apa yang Deepfakes bawa ke meja?
Deepfakes telah terbukti sebagai teknologi yang sangat dipercayai untuk membawa revolusi dalam media dan hiburan.
Bolehkah anda ingat apabila misai Henry Cavill dibuang oleh CGI dalam "Man of Steel" dan ia adalah satu bencana?
Perkara yang sama kini boleh dilakukan pada beberapa ribu dolar komputer dengan hasil yang jauh lebih meyakinkan.
Anda kini boleh bertemu dengan arwah nenek moyang dan orang tersayang anda. Anda juga boleh menghadiri kuliah Fizik daripada Albert Einstein sendiri.
Selain semua ini, deepfake tidak digunakan sepenuhnya mengikut cara yang sepatutnya. Sekitar 96% daripada deepfakes di internet adalah pornografi tanpa persetujuan.
Kuantiti data latihan yang tinggi yang tersedia untuk selebriti telah menyebabkan mereka menjadi mangsa yang paling disasarkan oleh deepfake.
Ia telah membolehkan kami meletakkan sesiapa sahaja dalam senario berbahaya atau boleh dikompromi dan oleh itu ia menimbulkan risiko yang besar kepada semua orang.
Audio deepfakes telah dilaporkan digunakan untuk menipu syarikat. Pada 2019, seorang penyamar menggunakan audio palsu yang mendalam untuk mengarahkan CEO firma yang berpangkalan di UK untuk memindahkan €220,000 ke dalam bank Hungary dengan menyamar sebagai eksekutif syarikat induk firma itu.
Bagaimana untuk menentang Deepfakes Berniat jahat?
Biasanya, anda boleh mengesan video palsu dalam dengan memerhati dengan teliti bingkai demi bingkai dan mencari artifak dan penyelewengan.
Walau bagaimanapun, ia adalah proses intuitif balas dan banyak syarikat sedang mengusahakan algoritma dan perisian untuk mengesan deepfakes.
Facebook merekrut penyelidik dari Berkeley, Oxford dan institusi lain untuk membina pengesan deepfake. Begitu juga, YouTube mengumumkan bahawa mereka tidak akan menerima video palsu yang berkaitan dengan pilihan raya AS, prosedur pengundian atau banci AS 2020.
Anda juga boleh menggunakan program seperti Pembela Realiti dan Deeptrace untuk mengesan deepfakes.
Negara-negara juga sibuk dalam penggubalan undang-undang mengenai penggunaan deepfakes secara umum. AS telah melaksanakan beberapa undang-undang berkenaan deepfakes sepanjang tahun lalu.
Wrap Up
Deepfake ialah penjelmaan hidup kemajuan AI. Ia mengaburkan lagi sempadan masa depan, bagaimanapun, ia berpotensi mengancam kredibiliti kandungan video-grafik di internet.
Akan ada masanya orang akan mula meragui setiap video di internet dan kita akan terdorong ke dalam era ketidaktentuan yang lebih lanjut.
Sila tinggalkan balasan anda