Er circuleren al geruime tijd video's van Mark Zuckerberg die het stelen van gegevens erkent en Barack Obama die Donald Trump beledigt?
Deze video's zijn het resultaat van een zeer geavanceerde en futuristische AI-technologie genaamd Deepfake.
Simpel gezegd, het is een Photoshop-alternatief voor video. Aan de ene kant kan het een revolutie teweegbrengen in elektronische media door de behoefte aan een echt persoon weg te nemen.
Aan de andere kant vormt het een ernstige bedreiging voor iemands identiteit, aangezien je iedereen op video alles kunt laten zeggen.
gebruik van deepfakes diepgaand leren om foto's en video's te maken van nepgebeurtenissen, vandaar de naam deepfake. Het kan niet alleen gezichten op bestaande video's verwisselen, maar ook helemaal nieuwe frames en video's maken.
De oorsprong van deepfakes
Uitgebreid academisch onderzoek heeft de afgelopen jaren de grenzen van foto- en videomanipulatie verlegd. Deepfake is ook het resultaat van deze academische onderzoeken.
Het eerste geval van videomanipulatie werd gemeld in 1997. Een video van een persoon werd aangepast om de woorden in een ander audiospoor uit te spreken. Het was het eerste geval van gezichtsreanimatie met behulp van machine learning technieken.
Verdere opmerkelijke vooruitgang werd geboekt in 2017 toen een video van de voormalige Amerikaanse president Barack Obama werd aangepast om verschillende woorden uit te spreken die overeenkomen met een ander audionummer.
In 2018 introduceerden onderzoekers van de University of California, Berkeley, een app die een nep-dansvideo met behulp van deep learning. Dit markeerde de uitbreiding van deepfakes naar het hele lichaam, aangezien eerdere werken beperkt waren tot gezichten.
Hoe worden deepfakes gemaakt?
Dankzij de vooruitgang in de informatica kun je nu relatief eenvoudig en tegen lage kosten deepfakes ontwikkelen. Er worden twee hoofdmethoden gebruikt om deepfakes te genereren.
Methode 1
Je moet trainen a neuraal netwerk op echte videobeelden van de persoon. Hierdoor kan de neuraal netwerk om de gelaatstrekken van het onderwerp onder verschillende hoeken en lichtomstandigheden te begrijpen.
Daarna verwerk je zowel het originele gezicht als het latente gezicht via een AI-algoritme dat de encoder wordt genoemd. Het zal de verschillen en overeenkomsten tussen de twee gezichten vinden en leren en beide gezichten worden gereduceerd tot een gecomprimeerde afbeelding die de gemeenschappelijke kenmerken deelt.
Dan komt het tweede AI-algoritme, de decoder genaamd, dat gezichten herstelt van gecomprimeerde afbeeldingen. Beide gezichten worden hersteld door twee verschillende decoders.
Om de face-swap uit te voeren, voert u eenvoudig de gecodeerde afbeeldingen in de andere decoder in.
Een encoderuitvoer van gezicht A wordt bijvoorbeeld ingevoerd in de decoder die is getraind op gezicht B, die vervolgens gezicht B reconstrueert met de gezichtskenmerken van gezicht A. Je zult dit op elk frame van de video moeten doen voor een overtuigende uitvoer.
Methode 2
Een andere methode om deepfakes te genereren is Generative Adversarial Network (GAN).
U moet twee concurrerende algoritmen gebruiken om deepfakes te genereren. De eerste gebruikt willekeurige ruis om een afbeelding te genereren en wordt daarom de generator genoemd. Dit synthetische beeld wordt via een tweede algoritme, de discriminator, aan een stroom echte beelden toegevoerd.
De discriminator geeft feedback aan de generator die op basis van de feedback een ander beeld genereert. Op deze manier geven beide algoritmen bij elke iteratie verbeterde resultaten. Dit proces wordt vele malen herhaald totdat het vereiste nauwkeurigheidsniveau is bereikt.
GAN levert uiterst realistische resultaten, maar is moeilijk om mee te werken en vereist een enorme hoeveelheid trainingsgegevens en rekenkracht. Daarom heeft het over het algemeen de voorkeur voor het genereren van afbeeldingen in plaats van videoclips.
Enkele overtuigende voorbeelden van deepfakes
Er zijn een aantal zeer overtuigende deepfakes op internet en de meeste zijn van beroemdheden.
Er is bijvoorbeeld een TikTok-account dat uitsluitend is gewijd aan de deepfakes van Tom Cruise. Video's laten zien hoe Cruise golft of een goocheltruc demonstreert.
@deeptomcruise Reis! ????
Een andere zeer complexe deepfake werd op YouTube geüpload met Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas en Ewan McGregor. Het heeft enkele duidelijke gebreken, maar om 3 tot 4 deepfakes tegelijk in een video te verwerken is een huzarenstukje op zich.
Een ander voorbeeld is een deepfake-video van voormalig president Barack Obama.
Deze is verbluffend overtuigend omdat het de stemmen en gebaren gebruikt van imitators die in staat zijn om de stemmen en gebaren van het onderwerp na te bootsen.
We zien nu deepfakes in de moderne reguliere entertainmentindustrie.
Het werd gebruikt om scènes op te nemen van Paul Walker in Fast and Furious 7 na de onverwachte dood van de acteur. De deepfake werd met opmerkelijke nauwkeurigheid op zijn broer gebruikt.
Wat brengen deepfakes naar de tafel?
Deepfakes hebben bewezen een zeer betrouwbare technologie te zijn om een revolutie teweeg te brengen in media en entertainment.
Kun je je herinneren dat de snor van Henry Cavill door CGI werd verwijderd in "Man of Steel" en dat het een ramp was?
Hetzelfde kan nu worden gedaan op computers van een paar duizend dollar met veel overtuigendere resultaten.
U kunt nu uw overleden voorouders en dierbaren ontmoeten. Je kunt zelfs een natuurkundecollege van Albert Einstein zelf bijwonen.
Daarnaast is deepfake niet helemaal gebruikt zoals het bedoeld was. Ongeveer 96% van de deepfakes op internet is pornografie zonder wederzijds goedvinden.
De grote hoeveelheid beschikbare trainingsgegevens voor beroemdheden heeft ertoe geleid dat zij de meest gerichte slachtoffers van deepfakes zijn.
Het heeft ons in staat gesteld om iedereen in gevaarlijke of compromitterende scenario's te plaatsen en vormt daarom een groot risico voor iedereen.
Er is gemeld dat audio-deepfakes worden gebruikt om bedrijven op te lichten. In 2019 gebruikte een nabootser diepe nepaudio om een CEO van een in het VK gevestigd bedrijf te instrueren om € 220,000 over te maken naar een Hongaarse bank door zich voor te doen als de directeur van het moederbedrijf.
Hoe kwaadaardige deepfakes tegen te gaan?
Normaal gesproken kun je deepfake-video's detecteren door frame voor frame scherp te observeren en te zoeken naar artefacten en onregelmatigheden.
Het is echter een contra-intuïtief proces en veel bedrijven werken aan algoritmen en software om detecteer deepfakes.
Facebook rekruteerde onderzoekers uit Berkeley, Oxford en andere instellingen om een deepfake-detector te bouwen. Evenzo heeft YouTube aangekondigd dat ze geen deepfake-video's zullen accepteren die verband houden met de Amerikaanse verkiezingen, stemprocedures of de Amerikaanse volkstelling van 2020.
Je kunt ook programma's gebruiken zoals Reality verdediger en Deeprace om deepfakes op te sporen.
Landen zijn ook druk bezig met wetgeving rond het gebruik van deepfakes in het algemeen. De VS hebben het afgelopen jaar verschillende wetten geïmplementeerd met betrekking tot deepfakes.
verpakken
Deepfake is de levende belichaming van de vooruitgang van AI. Het vervaagt verder de grens van de toekomst, maar het vormt een potentiële bedreiging voor de geloofwaardigheid van videografische inhoud op internet.
Er komt een tijd dat mensen aan elke video op internet gaan twijfelen en we zullen in een tijdperk van verdere onzekerheid worden geduwd.
Laat een reactie achter