Internetom već neko vrijeme kruže video snimci Marka Zuckerberga koji priznaje krađu podataka i Baracka Obame koji zlostavlja Donalda Trumpa?
Ovi videozapisi su rezultat vrlo napredne i futurističke AI tehnologije pod nazivom Deepfake.
Jednostavno rečeno, to je Photoshop alternativa za video. S jedne strane, može revolucionirati elektronske medije eliminirajući potrebu za stvarnom osobom.
S druge strane, to ozbiljno ugrožava nečiji identitet jer na snimku možete natjerati bilo koga da kaže bilo šta.
Upotreba Deepfakesa duboko učenje za kreiranje fotografija i video zapisa lažnih događaja, otuda i naziv deepfake. Ne samo da može mijenjati lica na postojećim videozapisima, već i kreirati nove okvire i video zapise od nule.
Poreklo Deepfakesa
Opsežan akademska istraživanja je pomaknuo granice foto i video manipulacije u posljednjih nekoliko godina. Deepfake je također rezultat ovih akademskih istraživanja.
Prvi slučaj video manipulacije prijavljen je 1997. Video snimak osobe je modifikovan da izgovori reči sadržane u drugom audio zapisu. Bio je to prvi slučaj korištenja reanimacije lica mašinsko učenje tehnike.
Daljnji značajan napredak postignut je 2017. godine kada je video snimak bivšeg američkog predsjednika Baracka Obame modificiran tako da govori različite riječi koje odgovaraju različitim audio zapisima.
2018. istraživači sa Univerziteta Kalifornije u Berkliju predstavili su aplikaciju koja bi mogla stvoriti a lažni plesni video koji koristi duboko učenje. Ovo je označilo širenje deepfakesa na cijelo tijelo jer su prethodni radovi bili ograničeni na lica.
Kako nastaju Deepfakes?
Zahvaljujući napretku u računarstvu, sada možete relativno lako i po niskoj cijeni razviti deepfakes. Dvije glavne metode se koriste za generiranje deepfakesa.
Način 1
Moraćete da trenirate a neuronska mreža na stvarnom video snimku osobe. Ovo će omogućiti neuronska mreža da biste razumeli crte lica subjekta pod različitim uglovima i uslovima osvetljenja.
Nakon toga ćete obraditi i originalno i latentno lice putem AI algoritma koji se zove enkoder. Pronaći će i naučiti razlike i sličnosti između dva lica, a oba lica se svode na komprimiranu sliku koja dijeli zajedničke karakteristike.
Zatim dolazi drugi AI algoritam nazvan dekoder, koji obnavlja lica iz komprimiranih slika. Oba lica se vraćaju pomoću dva različita dekodera.
Da biste izvršili zamjenu lica, jednostavno ubacite kodirane slike u drugi dekoder.
Na primjer, izlaz enkodera lica A se dovodi u dekoder obučen na licu B koji zatim rekonstruiše lice B sa crtama lica A. To ćete morati učiniti na svakom kadru videa za uvjerljiv izlaz.
Način 2
Druga metoda za generiranje deepfakesa je Generativna adversarial Network (GAN).
Morat ćete koristiti dva konkurentna algoritma za generiranje deepfakesa. Prvi će koristiti nasumični šum za generiranje slike i stoga se zove generator. Ova sintetička slika se dovodi u tok stvarnih slika kroz drugi algoritam koji se zove diskriminator.
Diskriminator daje povratnu informaciju generatoru koji generiše drugu sliku u skladu sa povratnom spregom. Na ovaj način oba algoritma daju poboljšane rezultate sa svakom iteracijom. Ovaj proces se ponavlja mnogo puta dok se ne postigne potreban nivo tačnosti.
GAN daje potpuno realne rezultate, ali je teško raditi s njim i zahtijeva ogromnu količinu podataka za obuku i računarsku snagu. Zbog toga je općenito poželjniji za generiranje slika, a ne video klipova.
Neki uvjerljivi primjeri Deepfakesa
Postoje neki vrlo uvjerljivi deepfakes koji se vrte oko interneta, a većina njih su poznate ličnosti.
Na primjer, postoji TikTok nalog koji je isključivo posvećen dubokim lažnjacima Toma Cruisea. Videozapisi prikazuju kako Cruise igra golf ili demonstrira magični trik.
@deeptomcruise Putovanje! ????
Još jedan veoma složen deepfake postavljen je na YouTube sa Tomom Cruiseom, Robertom Downeyjem Jr., Jeffom Goldblumom, Georgeom Lucasom i Ewanom McGregorom. Ima neke očigledne nedostatke, ali istovremeno obraditi 3 do 4 deepfakesa u videu je podvig sam po sebi.
Drugi primjer je deepfake video bivšeg predsjednika Baracka Obame.
Ovaj je zapanjujuće uvjerljiv jer koristi glasove i gestove imitatora sposobnih da oponašaju glasove i gestove subjekta.
Sada vidimo deepfakes u modernoj mainstream industriji zabave.
Korišćen je za snimanje scena Pola Vokera u Fast and Furious 7 nakon neočekivane smrti glumca. Deepfake je korišćen na njegovom bratu sa izuzetnom tačnošću.
Šta Deepfakes donosi na stol?
Deepfakes su se pokazali kao vrlo pouzdana tehnologija koja donosi revoluciju u medijima i zabavi.
Možete li se sjetiti kada je Henry Cavillu uklonio brkove od strane CGI u “Čovjeku od čelika” i to je bila katastrofa?
Isto se sada može učiniti na računarima od nekoliko hiljada dolara sa daleko uvjerljivijim rezultatima.
Sada možete upoznati svoje preminule pretke i voljene osobe. Možete čak prisustvovati i predavanju iz fizike samog Alberta Ajnštajna.
Pored svega ovoga, deepfake nije u potpunosti iskorišten na način na koji je zamišljen. Oko 96% deepfakesa na internetu je pornografija bez pristanka.
Velika količina dostupnih podataka o obuci za slavne osobe dovela je do toga da su one najciljanije žrtve deepfakesa.
To nam je omogućilo da bilo koga dovedemo u opasne ili kompromitujuće situacije i stoga predstavlja veliki rizik za sve.
Prijavljeno je da se audio-fajkovi koriste za prevaru korporacija. U 2019., imitator je koristio duboki lažni zvuk kako bi uputio izvršnog direktora britanske firme da prebaci 220,000 eura u mađarsku banku lažno predstavljajući izvršnog direktora matične kompanije.
Kako se suprotstaviti zlonamjernim Deepfakesima?
Obično možete otkriti duboke lažne videozapise tako što ćete pažljivo promatrati kadar po kadar i tražiti artefakte i nepravilnosti.
Međutim, to je kontra-intuitivan proces i mnoge kompanije rade na algoritmima i softveru za to otkriti deepfakes.
Facebook je angažovao istraživače iz Berkeleya, Oxforda i drugih institucija da naprave detektor za duboke lažne. Slično, YouTube je najavio da neće prihvatiti duboke lažne video zapise vezane za američke izbore, procedure glasanja ili popis stanovništva u SAD-u 2020.
Možete koristiti i programe poput Reality Defender i Deeptrace za otkrivanje deepfakesa.
Zemlje su takođe zauzete donošenjem zakona u vezi sa upotrebom deepfake-a uopšte. Sjedinjene Američke Države su u protekloj godini implementirale nekoliko zakona koji se odnose na deepfake.
Zamotati
Deepfake je živo oličenje napretka AI. To dodatno zamagljuje granice budućnosti, međutim, to je potencijalna prijetnja kredibilitetu video-grafičkog sadržaja na internetu.
Doći će vrijeme kada će ljudi početi sumnjati u svaki video na internetu i bit ćemo gurnuti u eru dalje neizvjesnosti.
Ostavite odgovor