Már jó ideje keringenek az interneten azok a videók, amelyeken Mark Zuckerberg elismeri az adatlopást, és Barack Obama bántalmazza Donald Trumpot?
Ezek a videók egy nagyon fejlett és futurisztikus mesterséges intelligencia technológia, a Deepfake eredménye.
Egyszerűen fogalmazva, ez egy Photoshop alternatíva a videókhoz. Egyrészt forradalmasíthatja az elektronikus médiát azáltal, hogy nincs szükség tényleges személyre.
Másrészt súlyosan veszélyezteti az identitást, mivel bárki bármit rávehet a videóra.
Deepfakes használata mély tanulás hamis eseményekről fotókat és videókat készíthet, innen ered a deepfake elnevezés. Nemcsak arcot cserélhet a meglévő videókon, hanem új képkockákat és videókat is létrehozhat a semmiből.
A mélyhamisítások eredete
Kiterjedt tudományos kutatás az elmúlt néhány évben kitágította a fotó- és videómanipuláció határait. A Deepfake is ezeknek az akadémiai kutatásoknak az eredménye.
Az első videomanipulációs esetet 1997-ben jelentették. Egy személyről készült videót úgy módosítottak, hogy kimondja a másik hangsávban található szavakat. Ez volt az első arc-reanimációs eset gépi tanulás technikákat.
További figyelemre méltó előrelépés történt 2017-ben, amikor egy Barack Obama volt amerikai elnökről készült videót úgy módosítottak, hogy más szavakat beszéljen, amelyek egy másik hangsávhoz illeszkedtek.
2018-ban a Kaliforniai Egyetem (Berkeley) kutatói bemutattak egy alkalmazást, amely képes létrehozni a hamis táncos videó mély tanulással. Ez a mélyhamisítások kiterjesztését jelentette az egész testre, mivel a korábbi munkák az arcokra korlátozódtak.
Hogyan készülnek a mélyhamisítványok?
A számítástechnika fejlődésének köszönhetően ma már viszonylag egyszerűen és alacsony költséggel fejleszthet mélyhamisításokat. Két fő módszert használnak a mélyhamisítások generálására.
Módszer 1
Edzened kell a neurális hálózat a személyről készült valódi videofelvételeken. Ez lehetővé teszi a neurális hálózat hogy megértse az alany arcvonásait különböző szögekből és fényviszonyok mellett.
Ezt követően az eredeti és a látens arcot is feldolgozza a kódoló nevű AI algoritmuson keresztül. Megkeresi és megtanulja a különbségeket és a hasonlóságokat a két arc között, és mindkét arc tömörített képpé redukálódik, amely megosztja a közös jellemzőket.
Ezután jön a második mesterséges intelligencia-algoritmus, a dekóder, amely helyreállítja az arcokat a tömörített képekből. Mindkét oldalt két különböző dekóder állítja helyre.
Az arccsere végrehajtásához egyszerűen be kell töltenie a kódolt képeket a másik dekóderbe.
Például az A arc kódoló kimenete a B arcra betanított dekóderbe kerül, amely ezután rekonstruálja a B arcot az A arc arcvonásaival. Ezt a videó minden képkockáján meg kell tennie a meggyőző kimenet érdekében.
Módszer 2
Egy másik módszer a mélyhamisítás generálására a Generatív Adversarial Network (GAN).
Két egymással versengő algoritmust kell használnia mélyhamisítások generálásához. Az első véletlen zajt használ a kép létrehozásához, ezért generátornak nevezik. Ezt a szintetikus képet egy másik, megkülönböztetőnek nevezett algoritmuson keresztül valós képek folyamára táplálják.
A diszkriminátor visszacsatolást ad a generátornak, amely a visszacsatolásnak megfelelően újabb képet generál. Ily módon mindkét algoritmus jobb eredményeket ad minden iterációval. Ezt a folyamatot többször megismételjük, amíg el nem érjük a kívánt pontossági szintet.
A GAN teljesen reális eredményeket biztosít, de nehéz vele dolgozni, és hatalmas mennyiségű képzési adatot és számítási teljesítményt igényel. Ez az oka annak, hogy általában inkább képek generálására használják, mint videoklipek.
Néhány meggyőző példa a Deepfakes-re
Vannak nagyon meggyőző mélyhamisítások az internet körül, és ezek többsége hírességeké.
Például van egy TikTok-fiók, amelyet kizárólag Tom Cruise mélyhamisításainak szenteltek. A videók Cruise golfozását vagy egy varázstrükk bemutatását mutatják be.
@deeptomcruise Utazás! ????
Egy másik rendkívül összetett mélyhamisítványt töltöttek fel a YouTube-ra Tom Cruise, Robert Downey Jr., Jeff Goldblum, George Lucas és Ewan McGregor társaságában. Van néhány nyilvánvaló hibája, de 3-4 mélyhamisítás egyidejű feldolgozása egy videóban önmagában bravúr.
Egy másik példa egy mélyhamisított videó Barack Obama volt elnökről.
Ez elképesztően meggyőző, mivel olyan megszemélyesítők hangjait és gesztusait használja, amelyek képesek utánozni az alany hangját és gesztusait.
Most mélyhamisításokat látunk a modern szórakoztatóiparban.
Paul Walker jeleneteinek forgatására használták a Fast and Furious 7-ben a színész váratlan halála után. A mélyhamisítást figyelemre méltó pontossággal használták a bátyjára.
Mit hoznak a Deepfakes az asztalra?
A Deepfakes nagyon megbízható technológiának bizonyult a média és a szórakoztatás forradalmához.
Emlékszel, amikor Henry Cavill bajuszát eltávolította a CGI az „Acélember”-ben, és az katasztrófa volt?
Ugyanez most néhány ezer dolláros számítógépeken is megtehető, sokkal meggyőzőbb eredménnyel.
Most már találkozhat elhunyt őseivel és szeretteivel. Akár maga Albert Einstein fizika előadásán is részt vehet.
Mindezek mellett a deepfake-et nem használták teljesen úgy, ahogyan azt tervezték. Az interneten található mélyhamisítások körülbelül 96%-a nem konszenzusos pornográfia.
A hírességek számára rendelkezésre álló képzési adatok nagy mennyisége azt eredményezte, hogy ők a mélyhamisítások leginkább célzott áldozatai.
Lehetővé tette számunkra, hogy bárkit veszélyes vagy kompromittálható forgatókönyvek elé állítsunk, és ezért mindenki számára nagy kockázatot jelent.
A jelentések szerint a mélyhamisításokat a vállalatok átverésére használták. 2019-ben egy megszemélyesítő mély hamis hanggal utasította az egyesült királyságbeli székhelyű cég vezérigazgatóját, hogy utaljon át 220,000 XNUMX eurót egy magyar bankba, a cég anyavállalatának vezetőjének kiadva.
Hogyan védekezzünk a rosszindulatú mélyhamisítások ellen?
Normális esetben úgy észlelheti a mélyhamisított videókat, hogy alaposan megfigyeli képkockánként, és keresi a műtermékeket és a szabálytalanságokat.
Ez azonban nem intuitív folyamat, és sok vállalat dolgozik algoritmusokon és szoftvereken mélyhamisítások észlelése.
A Facebook Berkeleyből, Oxfordból és más intézményekből toborzott kutatókat egy mélyhamisítás-detektor megépítéséhez. Hasonlóképpen, a YouTube bejelentette, hogy nem fogad el az amerikai választásokkal, szavazási eljárásokkal vagy a 2020-as amerikai népszámlálással kapcsolatos hamisított videókat.
Használhat olyan programokat is, mint pl Valóságvédő és Deeptrace a mélyhamisítások észleléséhez.
Az országok általában a mélyhamisítások használatával kapcsolatos törvényalkotásban is elfoglaltak. Az Egyesült Államok több törvényt is végrehajtott a mélyhamisításokkal kapcsolatban az elmúlt évben.
Wrap Up
A Deepfake a mesterséges intelligencia fejlődésének élő megtestesülése. Tovább homályosítja a jövő határait, ugyanakkor potenciális veszélyt jelent az interneten megjelenő videografikus tartalmak hitelességére.
Eljön majd az idő, amikor az emberek elkezdenek kételkedni minden internetes videóban, és a további bizonytalanság korszakába fogunk taszítani.
Hagy egy Válaszol