Els vídeos de Mark Zuckerberg reconeixent el robatori de dades i Barack Obama abusant de Donald Trump circulen per internet des de fa temps?
Aquests vídeos són el resultat d'una tecnologia d'IA molt avançada i futurista anomenada Deepfake.
En poques paraules, és una alternativa de Photoshop per al vídeo. D'una banda, pot revolucionar els mitjans electrònics eliminant la necessitat d'una persona real.
D'altra banda, amenaça greument la identitat, ja que podeu fer que qualsevol digui qualsevol cosa al vídeo.
Ús de deepfakes aprenentatge profund per crear fotos i vídeos d'esdeveniments falsos, d'aquí el nom deepfake. No només pot intercanviar cares en vídeos existents, sinó que també pot crear nous fotogrames i vídeos des de zero.
L'origen dels Deepfakes
Extens la investigació acadèmica ha empès els límits de la manipulació de fotos i vídeos durant els últims anys. Deepfake també és el resultat d'aquestes investigacions acadèmiques.
El primer cas de manipulació de vídeo es va informar l'any 1997. Es va modificar un vídeo d'una persona per pronunciar les paraules contingudes en una pista d'àudio diferent. Va ser el primer cas d'utilització de reanimació facial màquina d'aprenentatge tècniques.
El 2017 es va fer un avenç més notable quan es va modificar un vídeo de l'expresident dels Estats Units Barack Obama per dir paraules diferents que coincideixen amb una pista d'àudio diferent.
El 2018, investigadors de la Universitat de Califòrnia, Berkeley, van presentar una aplicació que podria crear un vídeo de ball fals amb aprenentatge profund. Això va marcar l'expansió dels deepfakes a tot el cos, ja que els treballs anteriors es limitaven a les cares.
Com es creen els Deepfakes?
Gràcies als avenços en informàtica, ara podeu desenvolupar deepfakes amb relativa facilitat i a baix cost. S'utilitzen dos mètodes principals per generar deepfakes.
Mètode 1
Haureu d'entrenar a xarxa neural en vídeos reals de la persona. Això permetrà el xarxa neural per comprendre els trets facials del subjecte en diferents angles i condicions d'il·luminació.
Després d'això, processareu tant la cara original com la cara latent mitjançant un algorisme d'IA anomenat codificador. Trobarà i aprendrà les diferències i semblances entre les dues cares i les dues cares es redueixen a una imatge comprimida que comparteix les característiques comunes.
Després ve el segon algorisme d'IA anomenat descodificador, que recupera cares d'imatges comprimides. Les dues cares són recuperades per dos descodificadors diferents.
Per realitzar l'intercanvi de cares, simplement introduïu les imatges codificades a l'altre descodificador.
Per exemple, una sortida del codificador de la cara A s'alimenta al descodificador entrenat a la cara B que després reconstrueix la cara B amb els trets facials de la cara A. Haureu de fer-ho a cada fotograma del vídeo per obtenir una sortida convincent.
Mètode 2
Un altre mètode per generar deepfakes és Generative Adversarial Network (GAN).
Haureu d'utilitzar dos algorismes competidors per generar deepfakes. El primer utilitzarà soroll aleatori per generar una imatge i, per tant, s'anomena generador. Aquesta imatge sintètica s'alimenta a un flux d'imatges reals mitjançant un segon algorisme anomenat discriminador.
El discriminador proporciona retroalimentació al generador que genera una altra imatge segons la retroalimentació. D'aquesta manera, ambdós algorismes donen resultats millorats amb cada iteració. Aquest procés es repeteix moltes vegades fins que s'aconsegueix el nivell de precisió requerit.
GAN ofereix resultats totalment realistes, però és difícil de treballar i requereix una quantitat enorme de dades d'entrenament i potència de càlcul. És per això que generalment es prefereix per generar imatges en lloc de videoclips.
Alguns exemples convincents de Deepfakes
Hi ha alguns deepfakes molt convincents que giren al voltant d'Internet i la majoria són de celebritats.
Per exemple, hi ha un compte de TikTok dedicat exclusivament als deepfakes de Tom Cruise. Els vídeos mostren un creuer jugant al golf o demostrant un truc de màgia.
@deeptomcruise Viatja! ????
Un altre deepfake molt complex es va penjar a YouTube amb Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas i Ewan McGregor. Té alguns defectes evidents, però processar de 3 a 4 deepfakes en un vídeo simultàniament és una proesa en si mateixa.
Un altre exemple és un vídeo deepfake de l'expresident Barack Obama.
Aquest és sorprenentment convincent, ja que utilitza veus i gestos d'imitadors capaços d'imitar les veus i els gestos del subjecte.
Ara estem veient deepfakes a la indústria moderna de l'entreteniment.
Va ser utilitzat per rodar escenes de Paul Walker a Fast and Furious 7 després de la mort inesperada de l'actor. El deepfake es va utilitzar al seu germà amb una precisió notable.
Què aporten els Deepfakes a la taula?
Els deepfakes han demostrat ser una tecnologia molt fiable per revolucionar els mitjans de comunicació i l'entreteniment.
Recordes quan el bigoti d'Henry Cavill va ser eliminat per CGI a "Man of Steel" i va ser un desastre?
Ara es pot fer el mateix en ordinadors d'uns quants milers de dòlars amb resultats molt més convincents.
Ara pots conèixer els teus avantpassats i els teus éssers estimats difunts. Fins i tot podeu assistir a una conferència de Física del mateix Albert Einstein.
A més de tot això, el deepfake no s'ha utilitzat del tot de la manera que havia de ser. Al voltant del 96% dels deepfakes a Internet són pornografia no consentida.
L'elevada quantitat de dades d'entrenament disponibles per a celebritats ha fet que siguin les víctimes més específiques dels deepfakes.
Ens ha permès posar qualsevol persona en escenaris perillosos o compromesos i, per tant, suposa un gran risc per a tothom.
S'ha informat que les falsificacions d'àudio s'utilitzen per estafar a les corporacions. El 2019, un imitador va utilitzar un àudio fals profund per instruir a un conseller delegat d'una empresa amb seu al Regne Unit que transferís 220,000 euros a un banc hongarès fent-se passar per l'executiu de la companyia matriu de l'empresa.
Com contrarestar els Deepfakes maliciosos?
Normalment, podeu detectar vídeos deepfake observant amb atenció fotograma a fotograma i buscant artefactes i irregularitats.
No obstant això, és un procés contra-intuïtiu i moltes empreses estan treballant en algorismes i programari detectar deepfakes.
Facebook va reclutar investigadors de Berkeley, Oxford i altres institucions per construir un detector de deepfake. De la mateixa manera, YouTube va anunciar que no acceptarà vídeos deepfake relacionats amb les eleccions nord-americanes, els procediments de votació o el cens dels EUA del 2020.
També podeu utilitzar programes com Defensor de la realitat i Deeptrace per detectar deepfakes.
Els països també estan ocupats en la legislació sobre l'ús de deepfakes en general. Els EUA han implementat diverses lleis sobre deepfakes durant l'últim any.
Embolicar
Deepfake és l'encarnació viva de l'avenç de la IA. Desdibuixa encara més els límits del futur, però és una amenaça potencial per a la credibilitat del contingut videogràfic a Internet.
Hi haurà un moment en què la gent començarà a dubtar de tots els vídeos d'Internet i serem empès a una era de més incertesa.
Deixa un comentari