Videa Marka Zuckerberga přiznávajícího krádež dat a Baracka Obamy, jak zneužívá Donalda Trumpa, kolují internetem už pěkně dlouho?
Tato videa jsou výsledkem velmi pokročilé a futuristické technologie umělé inteligence s názvem Deepfake.
Jednoduše řečeno, je to photoshopová alternativa pro video. Na jedné straně může způsobit revoluci v elektronických médiích tím, že eliminuje potřebu skutečné osoby.
Na druhou stranu to vážně ohrožuje něčí identitu, protože na videu můžete kohokoli přimět říct cokoli.
Použití Deepfakes hluboké učení k vytváření fotografií a videí falešných událostí, odtud název deepfake. Dokáže nejen vyměňovat tváře na stávajících videích, ale také vytvářet nové snímky a videa od začátku.
Původ Deepfakes
Rozsáhlý akademický výzkum za posledních několik let posunula hranice manipulace s fotografiemi a videem. Deepfake je také výsledkem těchto akademických výzkumů.
První případ manipulace s videem byl hlášen v roce 1997. Video s osobou bylo upraveno tak, aby vyslovovalo slova obsažená v jiné zvukové stopě. Byl to první případ použití reanimace obličeje strojové učení techniky.
K dalšímu výraznému pokroku došlo v roce 2017, kdy bylo video bývalého amerického prezidenta Baracka Obamy upraveno tak, aby mluvilo různými slovy odpovídajícími jiné zvukové stopě.
V roce 2018 představili vědci z Kalifornské univerzity v Berkeley aplikaci, která by mohla vytvořit a falešné taneční video pomocí hlubokého učení. To znamenalo rozšíření deepfakes na celé tělo, protože předchozí práce byly omezeny na tváře.
Jak vznikají Deepfakes?
Díky pokrokům v oblasti výpočetní techniky můžete nyní vyvíjet deepfakes relativně snadno a za nízkou cenu. Ke generování deepfakes se používají dvě hlavní metody.
Metoda 1
Budete muset trénovat a nervová síť na skutečných videozáznamech dané osoby. To umožní nervová síť porozumět rysům obličeje subjektu v různých úhlech a světelných podmínkách.
Poté zpracujete původní i latentní obličej pomocí algoritmu AI zvaného kodér. Najde a naučí se rozdíly a podobnosti mezi těmito dvěma tvářemi a obě tváře se zredukují na komprimovaný obrázek sdílející společné rysy.
Pak přichází druhý algoritmus umělé inteligence zvaný dekodér, který obnovuje tváře z komprimovaných obrázků. Obě tváře jsou obnoveny dvěma různými dekodéry.
Chcete-li provést záměnu tváří, jednoduše vložte zakódované obrázky do druhého dekodéru.
Například výstup z kodéru obličeje A je přiveden do dekodéru natrénovaného na obličeji B, který pak rekonstruuje obličej B s rysy obličeje A. Budete to muset udělat na každém snímku videa, abyste získali přesvědčivý výstup.
Metoda 2
Další metodou generování deepfakes je Generative Adversarial Network (GAN).
Ke generování deepfakes budete muset použít dva konkurenční algoritmy. První z nich bude používat náhodný šum ke generování obrázku, a proto se nazývá generátor. Tento syntetický obraz je přiváděn do proudu skutečných obrazů prostřednictvím druhého algoritmu zvaného diskriminátor.
Diskriminátor poskytuje zpětnou vazbu generátoru, který generuje další obraz podle zpětné vazby. Tímto způsobem oba algoritmy poskytují lepší výsledky při každé iteraci. Tento proces se mnohokrát opakuje, dokud není dosaženo požadované úrovně přesnosti.
GAN poskytuje naprosto realistické výsledky, ale je těžké s ním pracovat a vyžaduje enormní množství trénovacích dat a výpočetního výkonu. To je důvod, proč je obecně preferován pro generování obrázků spíše než videoklipů.
Některé přesvědčivé příklady Deepfakes
Existuje několik velmi přesvědčivých deepfakes točících se kolem internetu a většina z nich jsou celebrity.
Například existuje účet TikTok, který se věnuje výhradně deepfakes Toma Cruise. Videa ukazují, jak Cruise hraje golf nebo předvádí kouzelnický trik.
@deeptomcruise Cestovat! ????
Další vysoce komplexní deepfake byl nahrán na YouTube s Tomem Cruisem, Robertem Downeym Jr., Jeffem Goldblumem, Georgem Lucasem a Ewanem McGregorem. Má to několik zjevných nedostatků, ale zpracovat 3 až 4 deepfakes ve videu současně je výkon sám o sobě.
Dalším příkladem je deepfake video bývalého prezidenta Baracka Obamy.
Tento je úžasně přesvědčivý, protože využívá hlasy a gesta napodobitelů schopných napodobit hlasy a gesta subjektu.
Nyní jsme svědky deepfakes v moderním mainstreamovém zábavním průmyslu.
Byl použit k natáčení scén Paula Walkera v Rychle a zběsile 7 po nečekané smrti herce. Deepfake byl použit na jeho bratra s pozoruhodnou přesností.
Co přináší Deepfakes na stůl?
Deepfakes se ukázaly jako velmi spolehlivá technologie, která přináší revoluci do médií a zábavy.
Pamatujete si, kdy byl Henry Cavill odstraněn knír CGI v „Man of Steel“ a byla to katastrofa?
Totéž lze nyní provést na počítačích za několik tisíc dolarů s mnohem přesvědčivějšími výsledky.
Nyní se můžete setkat se svými zesnulými předky a blízkými. Můžete dokonce navštívit přednášku z fyziky od samotného Alberta Einsteina.
Kromě toho všeho nebyl deepfake zcela použit způsobem, jakým bylo zamýšleno. Přibližně 96 % deepfakes na internetu tvoří nekonsensuální pornografie.
Velké množství tréninkových dat dostupných pro celebrity vedlo k tomu, že se staly nejvíce cílenými oběťmi deepfakes.
Umožnil nám dostat kohokoli do nebezpečných nebo kompromitujících scénářů, a proto představuje velké riziko pro každého.
Bylo hlášeno, že audio deepfakes byly používány k podvodným korporacím. V roce 2019 použil imitátor hluboce falešný zvuk, aby dal pokyn generálnímu řediteli britské firmy, aby převedl 220,000 XNUMX EUR do maďarské banky tím, že se vydával za výkonného ředitele mateřské společnosti.
Jak čelit Malicious Deepfakes?
Normálně můžete hluboce falešná videa odhalit pozorným sledováním snímek po snímku a hledáním artefaktů a nepravidelností.
Je to však neintuitivní proces a mnoho společností pracuje na algoritmech a softwaru detekovat deepfakes.
Facebook naverboval výzkumníky z Berkeley, Oxfordu a dalších institucí, aby postavili detektor hloubek. Podobně YouTube oznámilo, že nebude přijímat hluboce falešná videa související s americkými volbami, volebními postupy nebo sčítáním lidu v USA v roce 2020.
Můžete také použít programy jako Reality Defender a Deeptrace pro detekci deepfakes.
Země jsou také zaneprázdněny tvorbou zákonů ohledně používání deepfakes obecně. USA za poslední rok zavedly několik zákonů týkajících se deepfakes.
Zabalit
Deepfake je živým ztělesněním pokroku AI. Hranice budoucnosti se tím dále stírá, je to však potenciální hrozba pro důvěryhodnost videografického obsahu na internetu.
Přijde doba, kdy lidé začnou pochybovat o každém videu na internetu a my budeme tlačeni do éry další nejistoty.
Napsat komentář