Des vidéos de Mark Zuckerberg reconnaissant le vol de données et de Barack Obama abusant de Donald Trump circulent depuis un certain temps sur Internet ?
Ces vidéos sont le résultat d'une technologie d'IA très avancée et futuriste nommée Deepfake.
En termes simples, il s'agit d'une alternative à Photoshop pour la vidéo. D'un côté, il peut révolutionner les médias électroniques en éliminant le besoin d'une personne réelle.
D'un autre côté, cela menace gravement l'identité d'une personne car vous pouvez faire dire n'importe quoi à n'importe qui sur vidéo.
Utilisation de deepfakes l'apprentissage en profondeur pour créer des photos et des vidéos de faux événements, d'où le nom de deepfake. Il peut non seulement échanger des visages sur des vidéos existantes, mais également créer de nouvelles images et vidéos à partir de zéro.
L'origine des deepfakes
Étendu recherche universitaire a repoussé les limites de la manipulation de photos et de vidéos au cours des dernières années. Deepfake est aussi le résultat de ces recherches académiques.
Le premier cas de manipulation vidéo a été signalé en 1997. Une vidéo d'une personne a été modifiée pour prononcer les mots contenus dans une piste audio différente. C'était le premier cas de réanimation faciale utilisant machine learning Techniques.
Une autre avancée notable a été réalisée en 2017 lorsqu'une vidéo de l'ancien président américain Barack Obama a été modifiée pour prononcer des mots différents correspondant à une piste audio différente.
En 2018, des chercheurs de l'Université de Californie à Berkeley ont lancé une application capable de créer un fausse vidéo de danse utilisant l'apprentissage en profondeur. Cela a marqué l'expansion des deepfakes à l'ensemble du corps, les travaux précédents se limitant aux visages.
Comment les deepfakes sont-ils créés ?
Grâce aux progrès de l'informatique, vous pouvez désormais développer des deepfakes relativement facilement et à moindre coût. Deux méthodes principales sont utilisées pour générer des deepfakes.
Méthode 1
Vous devrez former un Réseau neuronal sur de vraies séquences vidéo de la personne. Cela permettra au Réseau neuronal pour comprendre les traits du visage du sujet sous différents angles et conditions d'éclairage.
Après cela, vous traiterez à la fois le visage d'origine et le visage latent via un algorithme d'intelligence artificielle appelé l'encodeur. Il trouvera et apprendra les différences et les similitudes entre les deux visages et les deux visages sont réduits à une image compressée partageant les caractéristiques communes.
Vient ensuite le deuxième algorithme d'IA appelé le décodeur, qui récupère les visages à partir d'images compressées. Les deux faces sont récupérées par deux décodeurs différents.
Pour effectuer l'échange de visage, il vous suffit d'alimenter les images encodées dans l'autre décodeur.
Par exemple, une sortie d'encodeur du visage A est introduite dans le décodeur formé sur le visage B qui reconstruit ensuite le visage B avec les traits du visage du visage A. Vous devrez le faire sur chaque image de la vidéo pour une sortie convaincante.
Méthode 2
Une autre méthode pour générer des deepfakes est le Generative Adversarial Network (GAN).
Vous devrez utiliser deux algorithmes concurrents pour générer des deepfakes. Le premier utilisera un bruit aléatoire pour générer une image et s'appelle donc le générateur. Cette image synthétique est introduite dans un flux d'images réelles via un deuxième algorithme appelé le discriminateur.
Le discriminateur fournit une rétroaction au générateur qui génère une autre image en fonction de la rétroaction. De cette façon, les deux algorithmes donnent des résultats améliorés à chaque itération. Ce processus est répété plusieurs fois jusqu'à ce que le niveau de précision requis soit atteint.
GAN fournit des résultats tout à fait réalistes, mais il est difficile de travailler avec et nécessite une énorme quantité de données de formation et de puissance de calcul. C'est pourquoi il est généralement préféré pour générer des images plutôt que des clips vidéo.
Quelques exemples convaincants de Deepfakes
Il existe des deepfakes très convaincants qui tournent autour d'Internet et la plupart d'entre eux sont des célébrités.
Par exemple, il existe un compte TikTok uniquement dédié aux deepfakes de Tom Cruise. Des vidéos montrent Cruise jouant au golf ou démontrant un tour de magie.
croisière profonde Voyage! ????
Un autre deepfake très complexe a été mis en ligne sur YouTube avec Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas et Ewan McGregor. Il a quelques défauts évidents, mais traiter simultanément 3 à 4 deepfakes dans une vidéo est un exploit en soi.
Un autre exemple est une vidéo deepfake de l'ancien président Barack Obama.
Celui-ci est étonnamment convaincant car il utilise les voix et les gestes d'imitateurs capables d'imiter les voix et les gestes du sujet.
Nous voyons maintenant des deepfakes dans l'industrie moderne du divertissement grand public.
Il a été utilisé pour tourner des scènes de Paul Walker dans Fast and Furious 7 après la mort inattendue de l'acteur. Le deepfake a été utilisé sur son frère avec une précision remarquable.
Qu'est-ce que Deepfakes apporte à la table ?
Les deepfakes se sont révélés être une technologie très fiable pour révolutionner les médias et le divertissement.
Vous souvenez-vous quand la moustache d'Henry Cavill a été enlevée par CGI dans "Man of Steel" et que c'était un désastre ?
La même chose peut maintenant être faite sur des ordinateurs de quelques milliers de dollars avec des résultats beaucoup plus convaincants.
Vous pouvez maintenant rencontrer vos ancêtres décédés et vos proches. Vous pouvez même assister à une conférence de physique d'Albert Einstein lui-même.
En plus de tout cela, le deepfake n'a pas été entièrement utilisé de la manière dont il était censé l'être. Environ 96% des deepfakes sur Internet sont de la pornographie non consensuelle.
La grande quantité de données de formation disponibles pour les célébrités a fait d'elles les victimes les plus ciblées des deepfakes.
Cela nous a permis de mettre n'importe qui dans des scénarios dangereux ou compromettants et donc cela représente un grand risque pour tout le monde.
Des deepfakes audio ont été signalés comme étant utilisés pour escroquer des entreprises. En 2019, un imitateur a utilisé un faux son profond pour demander à un PDG d'une entreprise basée au Royaume-Uni de transférer 220,000 XNUMX € dans une banque hongroise en se faisant passer pour le dirigeant de la société mère de l'entreprise.
Comment contrer les deepfakes malveillants ?
Normalement, vous pouvez détecter les vidéos deepfake en observant attentivement image par image et en recherchant des artefacts et des irrégularités.
Cependant, c'est un processus contre-intuitif et de nombreuses entreprises travaillent sur des algorithmes et des logiciels pour détecter les deepfakes.
Facebook a recruté des chercheurs de Berkeley, d'Oxford et d'autres institutions pour construire un détecteur de deepfake. De même, YouTube a annoncé qu'il n'accepterait pas les vidéos deepfake liées aux élections américaines, aux procédures de vote ou au recensement américain de 2020.
Vous pouvez également utiliser des programmes comme Défenseur de la réalité et Deeptrace pour détecter les deepfakes.
Les pays sont également occupés à légiférer concernant l'utilisation des deepfakes en général. Les États-Unis ont mis en œuvre plusieurs lois concernant les deepfakes au cours de l'année écoulée.
Emballer
Deepfake est l'incarnation vivante de l'avancement de l'IA. Cela brouille davantage les frontières de l'avenir, cependant, c'est une menace potentielle pour la crédibilité du contenu vidéo-graphique sur Internet.
Il y aura un moment où les gens commenceront à douter de chaque vidéo sur Internet et nous serons poussés dans une ère d'incertitude supplémentaire.
Soyez sympa! Laissez un commentaire