¿Los videos de Mark Zuckerberg reconociendo el robo de datos y Barack Obama abusando de Donald Trump han estado circulando en Internet desde hace bastante tiempo?
Estos videos son el resultado de una tecnología de inteligencia artificial muy avanzada y futurista llamada Deepfake.
En pocas palabras, es una alternativa de Photoshop para video. Por un lado, puede revolucionar los medios electrónicos al eliminar la necesidad de una persona real.
Por otro lado, amenaza gravemente la identidad de uno, ya que puede hacer que cualquiera diga cualquier cosa en un video.
Uso de deepfakes deep learning para crear fotos y videos de eventos falsos, de ahí el nombre deepfake. No solo puede intercambiar caras en videos existentes, sino también crear nuevos marcos y videos desde cero.
El origen de las falsificaciones profundas
Cursos la investigación académica ha empujado los límites de la manipulación de fotos y videos en los últimos años. Deepfake también es el resultado de estas investigaciones académicas.
El primer caso de manipulación de video se informó en 1997. Se modificó un video de una persona para que pronunciara las palabras contenidas en una pista de audio diferente. Fue el primer caso de reanimación facial utilizando máquina de aprendizaje técnicas.
Se logró un avance notable adicional en 2017 cuando se modificó un video del expresidente de EE. UU. Barack Obama para que pronunciara diferentes palabras que coincidían con una pista de audio diferente.
En 2018, investigadores de la Universidad de California, Berkeley, introdujeron una aplicación que podría crear un video de baile falso usando aprendizaje profundo. Esto marcó la expansión de las falsificaciones profundas a todo el cuerpo, ya que los trabajos anteriores se limitaban a los rostros.
¿Cómo se crean los deepfakes?
Gracias a los avances en la informática, ahora puede desarrollar deepfakes con relativa facilidad y bajo costo. Se utilizan dos métodos principales para generar deepfakes.
Método 1
Tendrás que entrenar un red neural en imágenes de video reales de la persona. Esto permitirá que el red neural para comprender las características faciales del sujeto en diferentes ángulos y condiciones de iluminación.
Después de eso, procesará tanto la cara original como la cara latente a través de un algoritmo de IA llamado codificador. Encontrará y aprenderá las diferencias y similitudes entre las dos caras y ambas caras se reducen a una imagen comprimida que comparte las características comunes.
Luego viene el segundo algoritmo de IA llamado decodificador, que recupera rostros de imágenes comprimidas. Ambas caras son recuperadas por dos decodificadores diferentes.
Para realizar el intercambio de rostros, simplemente introduce las imágenes codificadas en el otro decodificador.
Por ejemplo, la salida de un codificador de la cara A se alimenta al decodificador entrenado en la cara B, que luego reconstruye la cara B con los rasgos faciales de la cara A. Tendrá que hacer esto en cada cuadro del video para obtener una salida convincente.
Método 2
Otro método para generar deepfakes es Generative Adversarial Network (GAN).
Tendrá que usar dos algoritmos competitivos para generar deepfakes. El primero usará ruido aleatorio para generar una imagen y, por lo tanto, se llama generador. Esta imagen sintética se alimenta a un flujo de imágenes reales a través de un segundo algoritmo llamado discriminador.
El discriminador proporciona retroalimentación al generador que genera otra imagen de acuerdo con la retroalimentación. De esta forma, ambos algoritmos dan mejores resultados con cada iteración. Este proceso se repite muchas veces hasta que se alcanza el nivel de precisión requerido.
GAN ofrece resultados totalmente realistas, pero es difícil trabajar con él y requiere una enorme cantidad de datos de entrenamiento y poder de cómputo. Es por eso que generalmente se prefiere para generar imágenes en lugar de videoclips.
Algunos ejemplos convincentes de Deepfakes
Hay algunos deepfakes muy convincentes que giran en Internet y la mayoría de ellos son de celebridades.
Por ejemplo, hay una cuenta de TikTok dedicada exclusivamente a los deepfakes de Tom Cruise. Los videos muestran a Cruise jugando al golf o demostrando un truco de magia.
crucero profundo ¡Viajar! ????
Otro deepfake muy complejo se subió a YouTube con Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas y Ewan McGregor. Tiene algunas fallas obvias, pero procesar 3 o 4 deepfakes en un video simultáneamente es una hazaña en sí misma.
Otro ejemplo es un video falso del expresidente Barack Obama.
Este es asombrosamente convincente ya que utiliza las voces y los gestos de imitadores capaces de imitar las voces y los gestos del sujeto.
Ahora estamos viendo deepfakes en la industria del entretenimiento convencional moderna.
Se utilizó para rodar escenas de Paul Walker en Fast and Furious 7 tras la inesperada muerte del actor. El deepfake se usó con su hermano con notable precisión.
¿Qué aportan los Deepfakes a la mesa?
Deepfakes ha demostrado ser una tecnología muy confiable para revolucionar los medios y el entretenimiento.
¿Recuerdas cuando CGI le quitó el bigote a Henry Cavill en “Man of Steel” y fue un desastre?
Ahora se puede hacer lo mismo en unas pocas computadoras de miles de dólares con resultados mucho más convincentes.
Ahora puede conocer a sus antepasados fallecidos y seres queridos. Incluso puedes asistir a una conferencia de física del propio Albert Einstein.
Además de todo esto, deepfake no se ha utilizado en su totalidad de la manera en que se pretendía. Alrededor del 96% de las falsificaciones profundas en Internet son pornografía no consentida.
La gran cantidad de datos de entrenamiento disponibles para las celebridades ha hecho que sean las víctimas más específicas de las falsificaciones profundas.
Nos ha permitido poner a cualquiera en situaciones peligrosas o comprometidas y, por lo tanto, representa un gran riesgo para todos.
Se ha informado que las falsificaciones profundas de audio se utilizan para estafar a las corporaciones. En 2019, un imitador usó un audio falso para indicarle al director ejecutivo de una empresa con sede en el Reino Unido que transfiriera 220,000 XNUMX € a un banco húngaro haciéndose pasar por el ejecutivo de la empresa matriz de la empresa.
¿Cómo contrarrestar los deepfakes maliciosos?
Normalmente, puede detectar videos falsos profundos observando atentamente cuadro por cuadro y buscando artefactos e irregularidades.
Sin embargo, es un proceso contrario a la intuición y muchas empresas están trabajando en algoritmos y software para detectar falsificaciones profundas.
Facebook reclutó investigadores de Berkeley, Oxford y otras instituciones para construir un detector de falsificación profunda. De manera similar, YouTube anunció que no aceptará videos falsos relacionados con las elecciones de EE. UU., los procedimientos de votación o el censo de EE. UU. de 2020.
También puedes usar programas como Defensor de la realidad y Deeptrace para detectar deepfakes.
Los países también están ocupados legislando sobre el uso de deepfakes en general. EE. UU. ha implementado varias leyes con respecto a las falsificaciones profundas durante el año pasado.
Envolver
Deepfake es la encarnación viva del avance de la IA. Desdibuja aún más el límite del futuro, sin embargo, es una amenaza potencial para la credibilidad del contenido videográfico en Internet.
Habrá un momento en que la gente comenzará a dudar de cada video en Internet y seremos empujados a una era de mayor incertidumbre.
Deje un comentario