Os vídeos de Mark Zuckerberg recoñecendo o roubo de datos e Barack Obama abusando de Donald Trump circulan por internet dende hai tempo?
Estes vídeos son o resultado dunha tecnoloxía de intelixencia artificial moi avanzada e futurista chamada Deepfake.
En pocas palabras, é unha alternativa de Photoshop para vídeos. Por unha banda, pode revolucionar os medios electrónicos eliminando a necesidade dunha persoa real.
Por outra banda, ameaza gravemente a propia identidade xa que podes facer que calquera diga calquera cousa no vídeo.
Uso de deepfakes aprendizaxe profunda para crear fotos e vídeos de eventos falsos, de aí o nome deepfake. Non só pode intercambiar as caras dos vídeos existentes, senón que tamén pode crear novos fotogramas e vídeos desde cero.
A orixe dos Deepfakes
Extenso investigación académica superou os límites da manipulación de fotografías e vídeos nos últimos anos. Deepfake tamén é o resultado destas investigacións académicas.
O primeiro caso de manipulación de vídeo foi denunciado en 1997. Un vídeo dunha persoa foi modificado para pronunciar as palabras contidas nunha pista de audio diferente. Foi o primeiro caso de uso de reanimación facial aprendizaxe de máquina técnicas.
En 2017 produciuse un avance notable máis cando se modificou un vídeo do expresidente dos Estados Unidos, Barack Obama, para dicir palabras diferentes que coincidan cunha pista de audio diferente.
En 2018, investigadores da Universidade de California, Berkeley, presentaron unha aplicación que podería crear un vídeo de baile falso usando aprendizaxe profunda. Isto marcou a expansión dos deepfakes a todo o corpo xa que os traballos anteriores limitáronse a caras.
Como se crean os Deepfakes?
Grazas aos avances na informática, agora podes desenvolver deepfakes con relativa facilidade e a un baixo custo. Utilízanse dous métodos principais para xerar deepfakes.
Método 1
Terás que adestrar a rede neural en imaxes de vídeo reais da persoa. Isto permitirá que o rede neural comprender os trazos faciais do suxeito en diferentes ángulos e condicións de iluminación.
Despois diso, procesará tanto a cara orixinal como a latente mediante un algoritmo de IA chamado codificador. Atopará e aprenderá as diferenzas e semellanzas entre as dúas caras e as dúas caras redúcense a unha imaxe comprimida que comparte as características comúns.
Despois vén o segundo algoritmo de IA chamado decodificador, que recupera as caras das imaxes comprimidas. Ambas caras son recuperadas por dous decodificadores diferentes.
Para realizar o intercambio de caras, basta con introducir as imaxes codificadas no outro descodificador.
Por exemplo, unha saída do codificador da cara A introdúcese no decodificador adestrado na cara B que despois reconstrúe a cara B coas características faciais da cara A. Terás que facelo en cada fotograma do vídeo para obter unha saída convincente.
Método 2
Outro método para xerar deepfakes é Generative Adversarial Network (GAN).
Terás que usar dous algoritmos competidores para xerar deepfakes. O primeiro usará ruído aleatorio para xerar unha imaxe e, polo tanto, chámase xerador. Esta imaxe sintética é alimentada a un fluxo de imaxes reais a través dun segundo algoritmo chamado discriminador.
O discriminador proporciona feedback ao xerador que xera outra imaxe segundo o feedback. Deste xeito, ambos algoritmos dan resultados mellores con cada iteración. Este proceso repítese moitas veces ata acadar o nivel de precisión requirido.
GAN ofrece resultados totalmente realistas, pero é difícil traballar e require unha enorme cantidade de datos de adestramento e potencia informática. É por iso que xeralmente se prefire para xerar imaxes en lugar de videoclips.
Algúns exemplos convincentes de Deepfakes
Hai algúns deepfakes moi convincentes que xiran arredor de Internet e a maioría deles son de famosos.
Por exemplo, hai unha conta de TikTok dedicada exclusivamente aos deepfakes de Tom Cruise. Os vídeos mostran un cruceiro xogando ao golf ou demostrando un truco de maxia.
@deeptomcruise Viaxa! ????
Outro deepfake moi complexo foi cargado en YouTube con Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas e Ewan McGregor. Ten algúns defectos obvios, pero procesar de 3 a 4 deepfakes nun vídeo ao mesmo tempo é unha fazaña en si.
Outro exemplo é un vídeo deepfake do ex presidente Barack Obama.
Este é abraiantemente convincente xa que utiliza voces e xestos de imitadores capaces de imitar as voces e os xestos do suxeito.
Agora estamos vendo deepfakes na industria moderna do entretemento.
Utilizouse para rodar escenas de Paul Walker en Fast and Furious 7 tras a inesperada morte do actor. O deepfake foi usado no seu irmán cunha precisión notable.
Que aportan os Deepfakes á mesa?
Os deepfakes demostraron ser unha tecnoloxía moi fiable para traer a revolución nos medios de comunicación e entretemento.
Podes lembrar cando o bigote de Henry Cavill foi eliminado por CGI en "Man of Steel" e foi un desastre?
O mesmo pódese facer agora nuns poucos miles de ordenadores con resultados moito máis convincentes.
Agora podes coñecer aos teus antepasados e seres queridos falecidos. Incluso podes asistir a unha conferencia de Física do propio Albert Einstein.
Ademais de todo isto, o deepfake non se utilizou completamente da forma que se pretendía. Ao redor do 96% dos deepfakes en internet son pornografía non consentida.
A gran cantidade de datos de adestramento dispoñibles para as celebridades fixo que sexan as vítimas máis apuntadas dos deepfakes.
Permitiunos poñer a calquera en escenarios perigosos ou comprometidos e, polo tanto, supón un gran risco para todos.
Informes que os deepfakes de audio se utilizan para estafar ás corporacións. En 2019, un suplantador utilizou audio falso profundo para indicarlle a un conselleiro delegado dunha empresa con sede no Reino Unido que transferise 220,000 euros a un banco húngaro suplantando a identidade do executivo da empresa matriz da empresa.
Como contrarrestar os Deepfakes maliciosos?
Normalmente, pode detectar vídeos deepfake observando coidadosamente fotograma a fotograma e buscando artefactos e irregularidades.
Non obstante, é un proceso contra-intuitivo e moitas empresas están a traballar en algoritmos e software para detectar deepfakes.
Facebook reclutou investigadores de Berkeley, Oxford e outras institucións para construír un detector de deepfake. Do mesmo xeito, YouTube anunciou que non aceptará vídeos deepfake relacionados coas eleccións estadounidenses, os procedementos de votación ou o censo estadounidense de 2020.
Tamén podes usar programas como Defensor da realidade e Deeptrace para detectar deepfakes.
Os países tamén están ocupados na lexislación sobre o uso de deepfakes en xeral. Estados Unidos implementou varias leis sobre deepfakes durante o ano pasado.
Envolver
Deepfake é a encarnación viva do avance da IA. Difumina aínda máis a fronteira do futuro, pero é unha ameaza potencial para a credibilidade do contido videográfico en Internet.
Haberá un momento no que a xente comezará a dubidar de cada vídeo en internet e nos verá empuxado a unha era de maior incerteza.
Deixe unha resposta