Videoclipurile cu Mark Zuckerberg care recunoaște furtul de date și Barack Obama care îl abuzează pe Donald Trump circulă pe internet de ceva timp acum?
Aceste videoclipuri sunt rezultatul unei tehnologii AI foarte avansate și futuriste numite Deepfake.
Mai simplu spus, este o alternativă pentru Photoshop pentru video. Pe de o parte, poate revoluționa media electronică eliminând nevoia unei persoane reale.
Pe de altă parte, amenință grav identitatea cuiva, deoarece puteți face pe oricine să spună orice în videoclip.
Utilizarea deepfakes învățare profundă pentru a crea fotografii și videoclipuri cu evenimente false, de unde și numele deepfake. Nu numai că poate schimba fețele pe videoclipurile existente, ci și poate crea noi cadre și videoclipuri de la zero.
Originea Deepfakes-urilor
Extensiv cercetare academica a depășit limitele manipulării foto și video în ultimii ani. Deepfake este și rezultatul acestor cercetări academice.
Primul caz de manipulare video a fost raportat în 1997. Un videoclip al unei persoane a fost modificat pentru a rosti cuvintele conținute într-o pistă audio diferită. A fost primul caz de reanimare facială folosind masina de învățare tehnici.
Alte progrese notabile au fost realizate în 2017, când un videoclip al fostului președinte american Barack Obama a fost modificat pentru a rosti cuvinte diferite care corespund unei piese audio diferite.
În 2018, cercetătorii de la Universitatea din California, Berkeley, au introdus o aplicație care ar putea crea un videoclip fals de dans folosind învățarea profundă. Acest lucru a marcat extinderea deepfake-urilor la întregul corp, deoarece lucrările anterioare erau limitate la fețe.
Cum sunt create Deepfake-urile?
Datorită progreselor în calcul, acum puteți dezvolta deepfake relativ ușor și la un cost scăzut. Două metode principale sunt utilizate pentru a genera deepfake-uri.
Metoda 1
Va trebui să antrenezi a rețele neuronale pe înregistrări video reale ale persoanei. Acest lucru va permite rețele neuronale pentru a înțelege trăsăturile faciale ale subiectului în diferite unghiuri și condiții de iluminare.
După aceea, veți procesa atât fața originală, cât și fața latentă printr-un algoritm AI numit codificator. Acesta va găsi și învăța diferențele și asemănările dintre cele două fețe, iar ambele fețe sunt reduse la o imagine comprimată care împărtășește caracteristicile comune.
Apoi urmează al doilea algoritm AI numit decodor, care recuperează fețele din imagini comprimate. Ambele fețe sunt recuperate de două decodoare diferite.
Pentru a efectua schimbarea feței, pur și simplu introduceți imaginile codificate în celălalt decodor.
De exemplu, o ieșire de codificare a feței A este introdusă în decodorul antrenat pe fața B care apoi reconstruiește fața B cu trăsăturile faciale ale feței A. Va trebui să faceți acest lucru pe fiecare cadru al videoclipului pentru o ieșire convingătoare.
Metoda 2
O altă metodă de a genera deepfakes este Generative Adversarial Network (GAN).
Va trebui să utilizați doi algoritmi concurenți pentru a genera deepfake-uri. Primul va folosi zgomot aleatoriu pentru a genera o imagine și, prin urmare, se numește generator. Această imagine sintetică este alimentată într-un flux de imagini reale printr-un al doilea algoritm numit discriminator.
Discriminatorul furnizează feedback generatorului care generează o altă imagine conform feedback-ului. În acest fel, ambii algoritmi oferă rezultate îmbunătățite cu fiecare iterație. Acest proces se repetă de mai multe ori până la atingerea nivelului necesar de precizie.
GAN oferă rezultate absolut realiste, dar este greu de lucrat și necesită o cantitate enormă de date de antrenament și putere de calcul. De aceea este, în general, preferat pentru generarea de imagini decât de clipuri video.
Câteva exemple convingătoare de Deepfakes
Există câteva deepfake-uri foarte convingătoare care se învârt în jurul internetului și majoritatea sunt de celebrități.
De exemplu, există un cont TikTok dedicat exclusiv deepfake-urilor lui Tom Cruise. Videoclipurile arată Cruise jucând golf sau demonstrând un truc magic.
@deeptomcruise Voiaj! ????
Un alt deepfake extrem de complex a fost încărcat pe YouTube cu Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas și Ewan McGregor. Are unele defecte evidente, dar procesarea a 3 până la 4 deepfake într-un videoclip simultan este o ispravă în sine.
Un alt exemplu este un videoclip deepfake al fostului președinte Barack Obama.
Acesta este uimitor de convingător, deoarece folosește vocile și gesturile imitatorilor capabili să mimeze vocile și gesturile subiectului.
Acum vedem deepfake-uri în industria modernă a divertismentului.
A fost folosit pentru a filma scene cu Paul Walker din Fast and Furious 7 după moartea neașteptată a actorului. Deepfake-ul a fost folosit pe fratele său cu o acuratețe remarcabilă.
Ce aduc Deepfakes la masă?
Deepfake-urile s-au dovedit a fi o tehnologie foarte fiabilă pentru a aduce revoluție în media și divertisment.
Vă amintiți când mustața lui Henry Cavill a fost îndepărtată de CGI în „Man of Steel” și a fost un dezastru?
Același lucru se poate face acum pe computere de câteva mii de dolari, cu rezultate mult mai convingătoare.
Acum vă puteți întâlni cu strămoșii tăi decedați și pe cei dragi. Puteți chiar să participați la o prelegere de fizică de la Albert Einstein însuși.
Pe lângă toate acestea, deepfake-ul nu a fost folosit în întregime în modul în care trebuia să fie. Aproximativ 96% dintre deepfake-urile de pe internet sunt pornografii neconsensuale.
Cantitatea mare de date de antrenament disponibile pentru celebrități a făcut ca acestea să fie cele mai vizate victime ale deepfake-urilor.
Ne-a permis să punem pe oricine în scenarii periculoase sau compromise și, prin urmare, reprezintă un mare risc pentru toată lumea.
S-a raportat că deepfake-urile audio sunt folosite pentru a înșela corporațiile. În 2019, un imitator a folosit un sunet fals profund pentru a instrui un CEO al unei firme din Marea Britanie să transfere 220,000 de euro într-o bancă maghiară, uzurpând identitatea directorului companiei-mamă.
Cum să contracarezi Deepfakes rău intenționați?
În mod normal, puteți detecta videoclipuri deepfake observând cu atenție cadru cu cadru și căutând artefacte și nereguli.
Cu toate acestea, este un proces contra-intuitiv și multe companii lucrează la algoritmi și software pentru detecta deepfake-urile.
Facebook a recrutat cercetători de la Berkeley, Oxford și alte instituții pentru a construi un detector de deepfake. În mod similar, YouTube a anunțat că nu va accepta videoclipuri deepfake legate de alegerile din SUA, procedurile de vot sau recensământul american din 2020.
De asemenea, puteți utiliza programe precum Apărătorul Realității și Deeptrace pentru a detecta deepfake-urile.
Țările sunt, de asemenea, ocupate cu legislația în ceea ce privește utilizarea deepfake-urilor în general. SUA au implementat mai multe legi privind deepfake-urile în ultimul an.
Învelire
Deepfake este întruchiparea vie a progresului AI. Aceasta estompează și mai mult granița viitorului, cu toate acestea, este o potențială amenințare la adresa credibilității conținutului video-grafic de pe internet.
Va fi un moment în care oamenii vor începe să se îndoiască de fiecare videoclip de pe internet și vom fi împinși într-o eră a incertitudinii ulterioare.
Lasă un comentariu