Filmy Marka Zuckerberga przyznającego się do kradzieży danych i Baracka Obamy znęcającego się nad Donaldem Trumpem krążą po Internecie od dłuższego czasu?
Te filmy są wynikiem bardzo zaawansowanej i futurystycznej technologii sztucznej inteligencji o nazwie Deepfake.
Mówiąc najprościej, jest to alternatywa Photoshopa dla wideo. Z jednej strony może zrewolucjonizować media elektroniczne, eliminując potrzebę posiadania rzeczywistej osoby.
Z drugiej strony poważnie zagraża czyjejś tożsamości, ponieważ możesz zmusić każdego do powiedzenia czegokolwiek na wideo.
Wykorzystanie deepfake'ów głęboka nauka do tworzenia zdjęć i filmów z fałszywych wydarzeń, stąd nazwa deepfake. Może nie tylko zamieniać twarze w istniejących filmach, ale także tworzyć nowe klatki i filmy od podstaw.
Pochodzenie deepfake'ów
Obszerny badania naukowe przesunął granice manipulacji zdjęciami i wideo w ciągu ostatnich kilku lat. Deepfake jest również wynikiem tych badań akademickich.
Pierwszy przypadek manipulacji wideo został zgłoszony w 1997 roku. Wideo przedstawiające osobę zostało zmodyfikowane tak, aby wypowiadało słowa zawarte w innej ścieżce dźwiękowej. Był to pierwszy przypadek użycia reanimacji twarzy uczenie maszynowe Techniki.
Dalszy znaczący postęp nastąpił w 2017 r., kiedy zmodyfikowano wideo przedstawiające byłego prezydenta USA Baracka Obamę, aby wypowiadał różne słowa pasujące do innej ścieżki dźwiękowej.
W 2018 roku naukowcy z Uniwersytetu Kalifornijskiego w Berkeley wprowadzili aplikację, która może tworzyć fałszywe wideo z tańcem przy użyciu głębokiego uczenia się. Oznaczało to ekspansję deepfake'ów na całe ciało, ponieważ poprzednie prace ograniczały się do twarzy.
Jak powstają deepfake'i?
Dzięki postępowi w informatyce można teraz stosunkowo łatwo i niewielkim kosztem opracowywać deepfake. Do generowania deepfake'ów wykorzystywane są dwie główne metody.
Metoda 1
Będziesz musiał trenować A sieci neuronowe na prawdziwym materiale wideo osoby. Pozwoli to na sieci neuronowe zrozumieć rysy twarzy fotografowanej osoby pod różnymi kątami iw różnych warunkach oświetleniowych.
Następnie przetworzysz zarówno pierwotną, jak i ukrytą twarz za pomocą algorytmu AI zwanego koderem. Znajdzie i pozna różnice i podobieństwa między dwiema twarzami, a obie twarze zostaną zredukowane do skompresowanego obrazu o wspólnych cechach.
Następnie pojawia się drugi algorytm AI zwany dekoderem, który odzyskuje twarze ze skompresowanych obrazów. Obie twarze są odtwarzane przez dwa różne dekodery.
Aby wykonać zamianę twarzy, wystarczy wprowadzić zakodowane obrazy do drugiego dekodera.
Na przykład dane wyjściowe kodera twarzy A są podawane do dekodera przeszkolonego na twarzy B, który następnie rekonstruuje twarz B z rysami twarzy A. Będziesz musiał to zrobić w każdej klatce wideo, aby uzyskać przekonujący wynik.
Metoda 2
Inną metodą generowania deepfake'ów jest Generative Adversarial Network (GAN).
Będziesz musiał użyć dwóch konkurujących ze sobą algorytmów, aby wygenerować deepfake. Pierwszy będzie używał losowego szumu do generowania obrazu i dlatego nazywa się go generatorem. Ten syntetyczny obraz jest przesyłany do strumienia rzeczywistych obrazów za pośrednictwem drugiego algorytmu zwanego dyskryminatorem.
Dyskryminator dostarcza sprzężenie zwrotne do generatora, który generuje kolejny obraz zgodnie z tym sprzężeniem zwrotnym. W ten sposób oba algorytmy dają lepsze wyniki z każdą iteracją. Proces ten jest powtarzany wiele razy, aż do osiągnięcia wymaganego poziomu dokładności.
GAN zapewnia całkowicie realistyczne wyniki, ale jest trudny w obsłudze i wymaga ogromnej ilości danych treningowych oraz mocy obliczeniowej. Dlatego jest ogólnie preferowany do generowania obrazów, a nie klipów wideo.
Kilka przekonujących przykładów Deepfake'ów
W Internecie krąży kilka bardzo przekonujących deepfake'ów, a większość z nich dotyczy celebrytów.
Na przykład istnieje konto TikTok poświęcone wyłącznie deepfake'om Toma Cruise'a. Filmy pokazują, jak Cruise gra w golfa lub demonstruje magiczną sztuczkę.
@głęboki rejs Podróż! ????
Kolejny bardzo złożony deepfake został przesłany na YouTube z udziałem Toma Cruise'a, Roberta Downeya Jr., Jeffa Goldbluma, George'a Lucasa i Ewana McGregora. Ma pewne oczywiste wady, ale jednoczesne przetwarzanie 3 do 4 deepfake'ów w filmie to wyczyn sam w sobie.
Innym przykładem jest deepfake wideo byłego prezydenta Baracka Obamy.
Ten jest oszałamiająco przekonujący, ponieważ wykorzystuje głosy i gesty odtwórców, którzy są w stanie naśladować głosy i gesty podmiotu.
Obecnie obserwujemy deepfake'i we współczesnym przemyśle rozrywkowym głównego nurtu.
Był używany do kręcenia scen Paula Walkera w Szybkich i wściekłych 7 po nieoczekiwanej śmierci aktora. Deepfake został użyty na jego bracie z niezwykłą dokładnością.
Co wnoszą Deepfake do stołu?
Deepfake okazał się bardzo niezawodną technologią, która zrewolucjonizowała media i rozrywkę.
Czy pamiętasz, kiedy wąsy Henry'ego Cavilla zostały usunięte przez CGI w „Człowieku ze stali” i była to katastrofa?
To samo można teraz zrobić na komputerach za kilka tysięcy dolarów, uzyskując znacznie bardziej przekonujące wyniki.
Możesz teraz spotkać swoich zmarłych przodków i bliskich. Możesz nawet uczestniczyć w wykładzie z fizyki samego Alberta Einsteina.
Poza tym, deepfake nie został do końca wykorzystany w sposób, w jaki miał być. Około 96% deepfake'ów w Internecie to pornografia bez zgody.
Duża ilość danych szkoleniowych dostępnych dla celebrytów sprawiła, że są oni najczęściej atakowanymi ofiarami deepfake'ów.
Umożliwiło nam to umieszczenie kogokolwiek w niebezpiecznych lub kompromitujących scenariuszach, a zatem stanowi wielkie ryzyko dla wszystkich.
Zgłoszono, że deepfake audio jest używany do oszukiwania korporacji. W 2019 roku podszywacz użył głębokiego fałszywego dźwięku, aby poinstruować dyrektora generalnego brytyjskiej firmy, aby przelał 220,000 XNUMX euro do węgierskiego banku, podszywając się pod dyrektora firmy macierzystej.
Jak przeciwdziałać złośliwym deepfake'om?
Zwykle można wykryć fałszywe filmy, uważnie obserwując klatka po klatce i szukając artefaktów i nieprawidłowości.
Jest to jednak proces sprzeczny z intuicją i wiele firm pracuje nad algorytmami i oprogramowaniem, aby wykrywaj deepfake.
Facebook zwerbował badaczy z Berkeley, Oksfordu i innych instytucji do zbudowania wykrywacza deepfake. Podobnie YouTube ogłosił, że nie będzie akceptować fałszywych filmów związanych z wyborami w USA, procedurami głosowania lub spisem powszechnym w USA w 2020 roku.
Możesz także skorzystać z programów np Obrońca rzeczywistości i Deeptrace do wykrywania deepfake'ów.
Kraje są również zajęte tworzeniem prawa w odniesieniu do używania deepfake'ów w ogóle. W ciągu ostatniego roku Stany Zjednoczone wdrożyły kilka przepisów dotyczących deepfake'ów.
Zamotać
Deepfake to żywe ucieleśnienie postępu AI. To dodatkowo zaciera granicę przyszłości, jednak jest potencjalnym zagrożeniem dla wiarygodności treści wideo-graficznych w internecie.
Nadejdzie czas, kiedy ludzie zaczną wątpić w każdy film w Internecie i zostaniemy zepchnięci w erę dalszej niepewności.
Dodaj komentarz