Videá Marka Zuckerberga priznávajúceho krádež údajov a Baracka Obamu zneužívajúceho Donalda Trumpa kolujú internetom už pomerne dlho?
Tieto videá sú výsledkom veľmi pokročilej a futuristickej technológie AI s názvom Deepfake.
Jednoducho povedané, je to photoshopová alternatíva pre video. Na jednej strane môže spôsobiť revolúciu v elektronických médiách odstránením potreby skutočnej osoby.
Na druhej strane to vážne ohrozuje identitu človeka, pretože na videu môžete kohokoľvek prinútiť povedať čokoľvek.
Použitie Deepfakes hlboké vzdelávanie na vytváranie fotografií a videí z falošných udalostí, odtiaľ názov deepfake. Dokáže nielen vymieňať tváre na existujúcich videách, ale aj vytvárať nové snímky a videá od začiatku.
Pôvod Deepfakes
rozsiahly akademického výskumu posunula hranice manipulácie s fotografiami a videom za posledných pár rokov. Deepfake je tiež výsledkom týchto akademických výskumov.
Prvý prípad manipulácie s videom bol ohlásený v roku 1997. Video s osobou bolo upravené tak, aby hovorilo slová obsiahnuté v inej zvukovej stope. Bol to prvý prípad použitia reanimácie tváre strojové učenie techniky.
Ďalší významný pokrok sa dosiahol v roku 2017, keď bolo video bývalého prezidenta USA Baracka Obamu upravené tak, aby hovorilo rôzne slová zodpovedajúce inej zvukovej stope.
V roku 2018 vedci z Kalifornskej univerzity v Berkeley predstavili aplikáciu, ktorá by mohla vytvoriť a falošné tanečné video využívajúce hlboké učenie. To znamenalo rozšírenie deepfakes na celé telo, keďže predchádzajúce diela boli obmedzené na tváre.
Ako vznikajú Deepfakes?
Vďaka pokrokom vo výpočtovej technike môžete teraz vyvíjať deepfakes relatívne jednoducho a za nízku cenu. Na generovanie deepfakes sa používajú dve hlavné metódy.
Metóda 1
Budete musieť trénovať a neurónové sieť na skutočných videozáznamoch danej osoby. To umožní neurónové sieť porozumieť črtám tváre objektu pri rôznych uhloch a svetelných podmienkach.
Potom spracujete pôvodnú aj latentnú tvár pomocou algoritmu AI nazývaného kodér. Nájde a naučí sa rozdiely a podobnosti medzi týmito dvoma tvárami a obe tváre sa zredukujú na komprimovaný obrázok zdieľajúci spoločné črty.
Potom prichádza druhý algoritmus AI nazývaný dekodér, ktorý obnovuje tváre z komprimovaných obrázkov. Obe tváre obnovujú dva rôzne dekodéry.
Ak chcete vykonať výmenu tváre, jednoducho vložte zakódované obrázky do druhého dekodéra.
Napríklad výstup z kódovača tváre A sa privedie do dekodéra natrénovaného na tvár B, ktorý potom zrekonštruuje tvár B s črtami tváre A. Pre presvedčivý výstup to budete musieť urobiť na každej snímke videa.
Metóda 2
Ďalšou metódou na generovanie deepfakes je Generative Adversarial Network (GAN).
Na generovanie deepfakes budete musieť použiť dva konkurenčné algoritmy. Prvý z nich použije náhodný šum na generovanie obrazu, a preto sa nazýva generátor. Tento syntetický obraz sa privádza do prúdu skutočných obrazov prostredníctvom druhého algoritmu nazývaného diskriminátor.
Diskriminátor poskytuje spätnú väzbu generátoru, ktorý generuje ďalší obraz podľa spätnej väzby. Týmto spôsobom oba algoritmy poskytujú lepšie výsledky pri každej iterácii. Tento proces sa mnohokrát opakuje, kým sa nedosiahne požadovaná úroveň presnosti.
GAN poskytuje úplne realistické výsledky, ale je ťažké s ním pracovať a vyžaduje si obrovské množstvo tréningových dát a výpočtového výkonu. Preto sa vo všeobecnosti uprednostňuje skôr na vytváranie obrázkov ako videoklipov.
Niekoľko presvedčivých príkladov Deepfakes
Okolo internetu sa točí niekoľko veľmi presvedčivých deepfakes a väčšina z nich sú celebrity.
Napríklad existuje účet TikTok, ktorý sa venuje výhradne falšovaniu Toma Cruisa. Videá ukazujú Cruise golf alebo predvádzanie kúzelníckeho triku.
@deeptomcruise Cestovanie! ????
Ďalší vysoko komplexný deepfake bol nahraný na YouTube s Tomom Cruisom, Robertom Downeym Jr., Jeffom Goldblumom, Georgeom Lucasom a Ewanom McGregorom. Má niekoľko zjavných nedostatkov, ale spracovať 3 až 4 hlboké falšovanie vo videu súčasne je výkon sám o sebe.
Ďalším príkladom je deepfake video bývalého prezidenta Baracka Obamu.
Tento je neuveriteľne presvedčivý, pretože využíva hlasy a gestá napodobiteľov schopných napodobňovať hlasy a gestá subjektu.
V modernom mainstreamovom zábavnom priemysle sme teraz svedkami deepfakes.
Bol použitý na natáčanie scén Paula Walkera v Rýchlo a zbesilo 7 po nečakanej smrti herca. Deepfake bol použitý na jeho brata s pozoruhodnou presnosťou.
Čo prinášajú Deepfakes na stôl?
Deepfakes sa ukázali ako veľmi spoľahlivá technológia, ktorá prináša revolúciu do médií a zábavy.
Pamätáte si, keď CGI odstránil fúzy Henryho Cavilla v „Man of Steel“ a bola to katastrofa?
To isté možno teraz urobiť na počítačoch za niekoľko tisíc dolárov s oveľa presvedčivejšími výsledkami.
Teraz sa môžete stretnúť so svojimi zosnulými predkami a blízkymi. Môžete sa dokonca zúčastniť prednášky o fyzike od samotného Alberta Einsteina.
Okrem toho všetkého, deepfake nebol úplne použitý tak, ako bol zamýšľaný. Približne 96 % deepfakeov na internete tvorí nekonsenzuálna pornografia.
Veľké množstvo tréningových údajov dostupných pre celebrity viedlo k tomu, že sa stali najcielenejšími obeťami deepfakes.
Umožnil nám dostať kohokoľvek do nebezpečných alebo kompromitujúcich scenárov, a preto predstavuje veľké riziko pre každého.
Bolo hlásené, že falšovanie zvuku sa používa na podvodné korporácie. V roku 2019 použil imitátor hlboko falošný zvuk, aby dal pokyn generálnemu riaditeľovi britskej firmy, aby previedol 220,000 XNUMX EUR do maďarskej banky tak, že sa vydával za výkonného riaditeľa materskej spoločnosti.
Ako bojovať proti škodlivému Deepfakes?
Za normálnych okolností môžete odhaliť hlboké falošné videá pozorným pozorovaním snímku po snímke a hľadaním artefaktov a nepravidelností.
Je to však neintuitívny proces a mnoho spoločností pracuje na algoritmoch a softvéri odhaliť deepfakes.
Facebook naverboval výskumníkov z Berkeley, Oxfordu a ďalších inštitúcií, aby vytvorili detektor hlbokých falošných správ. Podobne YouTube oznámil, že nebude akceptovať hlboko falošné videá súvisiace s americkými voľbami, hlasovacími postupmi alebo sčítaním ľudu v USA v roku 2020.
Môžete použiť aj programy ako napr Reality Defender a Deeptrace na detekciu deepfakes.
Krajiny sú tiež zaneprázdnené tvorbou zákonov, pokiaľ ide o používanie deepfakes vo všeobecnosti. USA zaviedli za posledný rok niekoľko zákonov týkajúcich sa deepfakes.
Zabaliť
Deepfake je živým stelesnením pokroku AI. Ďalej stiera hranice budúcnosti, je však potenciálnou hrozbou pre dôveryhodnosť videografického obsahu na internete.
Príde čas, keď ľudia začnú pochybovať o každom videu na internete a budeme tlačení do éry ďalšej neistoty.
Nechaj odpoveď