Videor av Mark Zuckerberg som erkänner stöld av data och Barack Obama som missbrukar Donald Trump har cirkulerat på internet ganska länge nu?
Dessa videor är resultatet av en mycket avancerad och futuristisk AI-teknik vid namn Deepfake.
Enkelt uttryckt är det ett photoshop-alternativ för video. Å ena sidan kan det revolutionera elektroniska medier genom att eliminera behovet av en verklig person.
Å andra sidan hotar det ens identitet allvarligt då man kan få vem som helst att säga vad som helst på video.
Användning av Deepfakes djupt lärande att skapa foton och videor av falska händelser, därav namnet deepfake. Det kan inte bara byta ansikten på befintliga videor utan också skapa nya ramar och videor från grunden.
Ursprunget till Deepfakes
Omfattande akademisk forskning har flyttat gränserna för foto- och videomanipulation under de senaste åren. Deepfake är också resultatet av dessa akademiska undersökningar.
Det första fallet av videomanipulation rapporterades 1997. En video av en person modifierades för att tala orden i ett annat ljudspår. Det var det första fallet av ansiktsreanimering med användning av maskininlärning tekniker.
Ytterligare anmärkningsvärda framsteg gjordes 2017 när en video av USA:s förre president Barack Obama modifierades för att tala olika ord som matchade ett annat ljudspår.
2018 introducerade forskare vid University of California, Berkeley, en app som kunde skapa en falsk dansvideo med djupinlärning. Detta markerade expansionen av deepfakes till hela kroppen eftersom tidigare verk var begränsade till ansikten.
Hur Deepfakes skapas?
Tack vare framsteg inom datoranvändning kan du nu utveckla deepfakes relativt enkelt och till en låg kostnad. Två huvudmetoder används för att generera deepfakes.
Förfarande 1
Du måste träna en neurala nätverk på riktiga videofilmer av personen. Detta kommer att tillåta neurala nätverk att förstå motivets ansiktsdrag vid olika vinklar och ljusförhållanden.
Efter det kommer du att bearbeta både det ursprungliga ansiktet och det latenta ansiktet genom en AI-algoritm som kallas kodaren. Den kommer att hitta och lära sig skillnaderna och likheterna mellan de två ansiktena och båda ansiktena reduceras till en komprimerad bild som delar de gemensamma funktionerna.
Sedan kommer den andra AI-algoritmen som kallas avkodaren, som återställer ansikten från komprimerade bilder. Båda ytorna återställs av två olika avkodare.
För att utföra ansiktsbytet matar du helt enkelt in de kodade bilderna i den andra avkodaren.
Till exempel matas en kodarutgång från ansikte A in i avkodaren som tränas på ansikte B som sedan rekonstruerar ansikte B med ansiktsdragen för ansikte A. Du måste göra detta på varje bildruta i videon för en övertygande utdata.
Förfarande 2
En annan metod för att generera deepfakes är Generative Adversarial Network (GAN).
Du måste använda två konkurrerande algoritmer för att generera deepfakes. Den första kommer att använda slumpmässigt brus för att generera en bild och därför kallas den generatorn. Denna syntetiska bild matas till en ström av verkliga bilder genom en andra algoritm som kallas diskriminatorn.
Diskriminatorn ger återkoppling till generatorn som genererar en annan bild enligt återkopplingen. På detta sätt ger båda algoritmerna förbättrade resultat med varje iteration. Denna process upprepas många gånger tills den erforderliga noggrannhetsnivån uppnås.
GAN levererar helt realistiska resultat, men det är svårt att arbeta med och kräver en enorm mängd träningsdata och datorkraft. Det är därför det i allmänhet är att föredra för att generera bilder snarare än videoklipp.
Några övertygande exempel på Deepfakes
Det finns några mycket övertygande deepfakes som kretsar kring internet och de flesta av dem är av kändisar.
Till exempel finns det ett TikTok-konto enbart dedikerat till Tom Cruises djupa förfalskningar. Videor visar Cruise golf eller visar ett magiskt trick.
@deeptomcruise Resa! ????
En annan mycket komplex deepfake laddades upp på YouTube med Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas och Ewan McGregor. Den har några uppenbara brister, men att bearbeta 3 till 4 deepfakes i en video samtidigt är en bedrift i sig.
Ett annat exempel är en deepfake-video av förre presidenten Barack Obama.
Den här är häpnadsväckande övertygande eftersom den använder röster och gester från imitatörer som kan efterlikna motivets röster och gester.
Vi ser nu deepfakes i den moderna mainstream underhållningsindustrin.
Den användes för att spela in scener av Paul Walker i Fast and Furious 7 efter skådespelarens oväntade död. Deepfake användes på hans bror med anmärkningsvärd noggrannhet.
Vad tillför Deepfakes till bordet?
Deepfakes har visat sig vara en mycket pålitlig teknik för att skapa revolution inom media och underhållning.
Kommer du ihåg när Henry Cavills mustasch togs bort av CGI i "Man of Steel" och det var en katastrof?
Samma sak kan nu göras på datorer för några tusen dollar med mycket mer övertygande resultat.
Du kan nu träffa dina avlidna förfäder och nära och kära. Du kan till och med gå på en fysikföreläsning från Albert Einstein själv.
Förutom allt detta har deepfake inte använts helt på det sätt som det var tänkt att vara. Cirka 96% av deepfakes på internet är pornografi utan samtycke.
Den stora mängden träningsdata som finns tillgänglig för kändisar har resulterat i att de är de mest riktade offren för deepfakes.
Det har gjort det möjligt för oss att försätta vem som helst i farliga eller kompromissbara scenarier och utgör därför en stor risk för alla.
Deepfakes har rapporterats användas för att lura företag. Under 2019 använde en imitatör djupt falskt ljud för att instruera en VD för ett brittiskt företag att överföra 220,000 XNUMX € till en ungersk bank genom att imitera företagets moderbolagschef.
Hur motverkar man skadliga Deepfakes?
Normalt kan du upptäcka deepfake-videor genom att noggrant observera ruta för ruta och leta efter artefakter och oegentligheter.
Det är dock en kontraintuitiv process och många företag arbetar med algoritmer och mjukvara för att upptäcka deepfakes.
Facebook rekryterade forskare från Berkeley, Oxford och andra institutioner för att bygga en deepfake-detektor. På liknande sätt meddelade YouTube att de inte kommer att acceptera deepfake-videor relaterade till det amerikanska valet, röstningsförfaranden eller 2020 års folkräkning i USA.
Du kan också använda program som Reality Defender och Deeptrace för att upptäcka deepfakes.
Länder är också upptagna med lagstiftning när det gäller användningen av deepfakes i allmänhet. USA har implementerat flera lagar angående deepfakes under det senaste året.
Sammanfatta
Deepfake är den levande gestaltningen av AI:s framsteg. Det suddar ut gränsen för framtiden ytterligare, men det är ett potentiellt hot mot trovärdigheten för videografiskt innehåll på internet.
Det kommer att finnas en tid då folk kommer att börja tvivla på varje video på internet och vi kommer att drivas in i en era av ytterligare osäkerhet.
Kommentera uppropet