Videozapisi Marka Zuckerberga koji priznaje krađu podataka i Baracka Obame kako zlostavlja Donalda Trumpa već duže vrijeme kruže internetom?
Ovi videi su rezultat vrlo napredne i futurističke AI tehnologije pod nazivom Deepfake.
Jednostavno rečeno, to je photoshop alternativa za video. S jedne strane, može revolucionirati elektroničke medije eliminirajući potrebu za stvarnom osobom.
S druge strane, ozbiljno ugrožava nečiji identitet jer na videu možete natjerati bilo koga da kaže bilo što.
Upotreba Deepfakea duboko učenje za stvaranje fotografija i videa lažnih događaja, otuda i naziv deepfake. Ne samo da može zamijeniti lica na postojećim videozapisima, već i stvoriti nove okvire i videozapise od nule.
Podrijetlo Deepfakea
Opsežan akademska istraživanja je u proteklih nekoliko godina pomaknuo granice foto i video manipulacije. Deepfake je također rezultat ovih akademskih istraživanja.
Prvi slučaj manipulacije video zapisom prijavljen je 1997. Video zapis osobe bio je modificiran tako da izgovara riječi sadržane u drugom audio zapisu. Bio je to prvi slučaj primjene reanimacije lica stroj za učenje Tehnike.
Daljnji značajan napredak postignut je 2017. kada je video bivšeg američkog predsjednika Baracka Obame modificiran tako da izgovara različite riječi koje odgovaraju drugom audio zapisu.
Godine 2018. istraživači s kalifornijskog sveučilišta Berkeley predstavili su aplikaciju koja može stvoriti lažni plesni video pomoću dubokog učenja. Ovo je označilo širenje deepfakea na cijelo tijelo jer su prethodni radovi bili ograničeni na lica.
Kako nastaju Deepfakeovi?
Zahvaljujući napretku u računalstvu, sada možete razviti deepfake relativno jednostavno i po niskoj cijeni. Za generiranje deepfakeova koriste se dvije glavne metode.
Metoda 1
Morat ćete trenirati a neuronska mreža na stvarnoj video snimci osobe. Ovo će omogućiti neuronska mreža razumjeti crte lica subjekta pod različitim kutovima i uvjetima osvjetljenja.
Nakon toga ćete obraditi i izvorno lice i latentno lice pomoću AI algoritma koji se zove koder. Pronaći će i naučiti razlike i sličnosti između dva lica, a oba su lica svedena na komprimiranu sliku koja dijeli zajedničke značajke.
Zatim dolazi drugi algoritam umjetne inteligencije koji se zove dekoder, koji vraća lica iz komprimiranih slika. Dva različita dekodera otkrivaju oba lica.
Da biste izvršili promjenu lica, jednostavno ubacite kodirane slike u drugi dekoder.
Na primjer, izlaz kodera lica A unosi se u dekoder obučen za lice B koji zatim rekonstruira lice B s crtama lica lica A. To ćete morati učiniti na svakom kadru videozapisa za uvjerljiv izlaz.
Metoda 2
Druga metoda za generiranje deepfakeova je Generative Adversarial Network (GAN).
Morat ćete koristiti dva konkurentna algoritma za generiranje deepfakeova. Prvi će koristiti nasumični šum za generiranje slike i stoga se naziva generator. Ova sintetička slika se dovodi u tok stvarnih slika kroz drugi algoritam koji se naziva diskriminator.
Diskriminator daje povratnu informaciju generatoru koji generira drugu sliku prema povratnoj informaciji. Na taj način oba algoritma daju poboljšane rezultate sa svakom iteracijom. Ovaj se postupak ponavlja mnogo puta dok se ne postigne potrebna razina točnosti.
GAN daje krajnje realne rezultate, ali s njim je teško raditi i zahtijeva ogromnu količinu podataka za obuku i računalne snage. Zato se općenito preferira za generiranje slika nego video isječaka.
Neki uvjerljivi primjeri Deepfakea
Postoji nekoliko vrlo uvjerljivih deepfakeova koji se vrte po internetu i većina njih su slavne osobe.
Na primjer, postoji TikTok račun posvećen isključivo deepfakeovima Toma Cruisea. Videozapisi prikazuju Cruisea kako igra golf ili demonstrira magični trik.
@deeptomcruise Putovati! ????
Još jedan vrlo složen deepfake postavljen je na YouTube s Tomom Cruiseom, Robertom Downeyjem Jr., Jeffom Goldblumom, Georgeom Lucasom i Ewanom McGregorom. Ima neke očite nedostatke, ali obrada 3 do 4 deepfakea u videu istovremeno je podvig sam po sebi.
Još jedan primjer je deepfake video bivšeg predsjednika Baracka Obame.
Ovaj je zapanjujuće uvjerljiv jer koristi glasove i geste imitatora sposobnih oponašati glasove i geste subjekta.
Sada vidimo deepfake u modernoj mainstream industriji zabave.
Korišten je za snimanje scena Paula Walkera u filmu Brzi i žestoki 7 nakon neočekivane smrti glumca. Deepfake je korišten na njegovom bratu s nevjerojatnom točnošću.
Što Deepfakes donosi na stol?
Deepfakes su se pokazali kao vrlo pouzdana tehnologija koja donosi revoluciju u medijima i zabavi.
Sjećate li se kada je Henryju Cavillu CGI uklonio brkove u "Čovjeku od čelika" i to je bila katastrofa?
Isto se sada može učiniti na računalima od nekoliko tisuća dolara s daleko uvjerljivijim rezultatima.
Sada se možete susresti sa svojim preminulim precima i voljenima. Možete čak i prisustvovati predavanju iz fizike samog Alberta Einsteina.
Uz sve to, deepfake nije u potpunosti iskorišten na način na koji je zamišljeno. Oko 96% deepfakeova na internetu je pornografija bez pristanka.
Velika količina dostupnih podataka o obuci za slavne osobe rezultirala je time da su oni najčešće ciljane žrtve deepfakea.
Omogućio nam je da bilo koga stavimo u opasne ili kompromitirajuće scenarije i stoga predstavlja veliki rizik za sve.
Prijavljeno je da se audio lažiranja koriste za prijevare korporacija. U 2019., imitator je upotrijebio duboki lažni zvuk kako bi uputio glavnog izvršnog direktora tvrtke sa sjedištem u UK-u da prebaci 220,000 eura u mađarsku banku lažno predstavljajući izvršnog direktora matične tvrtke.
Kako se suprotstaviti zlonamjernim Deepfakeovima?
Obično možete otkriti deepfake videozapise pomnim promatranjem kadar po kadar i tražeći artefakte i nepravilnosti.
Međutim, to je kontraintuitivan proces i mnoge tvrtke rade na algoritmima i softveru za to otkriti deepfake.
Facebook je angažirao istraživače s Berkeleya, Oxforda i drugih institucija da naprave detektor dubokih lažnih lažnih sadržaja. Slično tome, YouTube je objavio da neće prihvaćati deepfake videozapise koji se odnose na izbore u SAD-u, procedure glasanja ili popis stanovništva u SAD-u 2020.
Također možete koristiti programe poput Branitelj stvarnosti i Deeptrace za otkrivanje deepfakeova.
Zemlje su također zauzete donošenjem zakona u vezi s upotrebom deepfakea općenito. SAD je proveo nekoliko zakona koji se odnose na deepfake tijekom prošle godine.
Zamotati
Deepfake je živo utjelovljenje napretka umjetne inteligencije. Dodatno briše granice budućnosti, no potencijalna je prijetnja vjerodostojnosti video-grafičkog sadržaja na internetu.
Doći će vrijeme kada će ljudi početi sumnjati u svaki video na internetu i bit ćemo gurnuti u eru daljnje neizvjesnosti.
Ostavi odgovor