Видеоклипове на Марк Зукърбърг, който признава кражбата на данни и Барак Обама, който злоупотребява с Доналд Тръмп, се разпространяват в интернет от доста време?
Тези видеоклипове са резултат от много напреднала и футуристична AI технология, наречена Deepfake.
Просто казано, това е алтернатива на Photoshop за видео. От една страна, той може да революционизира електронните медии, като елиминира нуждата от действителен човек.
От друга страна, това сериозно застрашава нечия самоличност, тъй като можете да накарате всеки да каже каквото и да било на видео.
Използване на Deepfakes дълбоко учене за създаване на снимки и видеоклипове на фалшиви събития, откъдето идва и името deepfake. Той може не само да разменя лица на съществуващи видеоклипове, но и да създава нови кадри и видеоклипове от нулата.
Произходът на Deepfakes
Обширен академични изследвания разшири границите на фото и видео манипулацията през последните няколко години. Deepfake също е резултат от тези академични изследвания.
Първият случай на видео манипулация е докладван през 1997 г. Видео на човек е модифицирано, за да произнася думите, съдържащи се в различен аудио запис. Това беше първият случай на използване на лицева реанимация машинно обучение техники.
Допълнителен забележителен напредък беше постигнат през 2017 г., когато видеоклипът на бившия президент на САЩ Барак Обама беше модифициран, за да говори различни думи, съответстващи на различен аудио запис.
През 2018 г. изследователи от Калифорнийския университет в Бъркли представиха приложение, което може да създаде a фалшиво танцуващо видео с помощта на дълбоко обучение. Това отбеляза разширяването на дълбоките фалшификати до цялото тяло, тъй като предишните творби бяха ограничени до лица.
Как се създават Deepfakes?
Благодарение на напредъка в изчисленията, сега можете да разработвате дълбоки фалшификати сравнително лесно и на ниска цена. Два основни метода се използват за генериране на дълбоки фалшификати.
Метод 1
Ще трябва да тренирате а невронна мрежа на реални видеозаписи на лицето. Това ще позволи на невронна мрежа за да разберете чертите на лицето на обекта под различни ъгли и условия на осветление.
След това ще обработите както оригиналното лице, така и латентното лице чрез алгоритъм на AI, наречен енкодер. Той ще намери и научи разликите и приликите между двете лица и двете лица се свеждат до компресирано изображение, споделящо общите черти.
След това идва вторият AI алгоритъм, наречен декодер, който възстановява лица от компресирани изображения. И двете лица се възстановяват от два различни декодера.
За да извършите размяната на лицето, просто подавате кодираните изображения в другия декодер.
Например, изход от енкодера на лице А се подава в декодера, обучен върху лице B, който след това реконструира лице B с чертите на лицето на лице A. Ще трябва да направите това на всеки кадър от видеото за убедителен изход.
Метод 2
Друг метод за генериране на дълбоки фалшификати е Generative Adversarial Network (GAN).
Ще трябва да използвате два конкуриращи се алгоритма, за да генерирате дълбоки фалшификати. Първият ще използва произволен шум за генериране на изображение и следователно се нарича генератор. Това синтетично изображение се подава към поток от реални изображения чрез втори алгоритъм, наречен дискриминатор.
Дискриминаторът предоставя обратна връзка към генератора, който генерира друго изображение според обратната връзка. По този начин и двата алгоритма дават подобрени резултати с всяка итерация. Този процес се повтаря много пъти, докато се постигне необходимото ниво на точност.
GAN предоставя напълно реалистични резултати, но е труден за работа и изисква огромно количество данни за обучение и изчислителна мощност. Ето защо обикновено се предпочита за генериране на изображения, а не на видеоклипове.
Някои убедителни примера за Deepfakes
В интернет се въртят някои много убедителни дълбоки фалшификати и повечето от тях са на знаменитости.
Например, има акаунт в TikTok, посветен единствено на дълбоките фалшификати на Том Круз. Видеоклиповете показват как Круз играе голф или демонстрира магически трик.
@deeptomcruise Пътуване! ????
Друг изключително сложен дипфейк беше качен в YouTube с Том Круз, Робърт Дауни-младши, Джеф Голдблум, Джордж Лукас и Юън Макгрегър. Той има някои очевидни недостатъци, но едновременното обработване на 3 до 4 дълбоки фалшификати във видеоклип е постижение само по себе си.
Друг пример е дълбоко фалшиво видео на бившия президент Барак Обама.
Този е зашеметяващо убедителен, тъй като използва гласовете и жестовете на имитатори, способни да имитират гласовете и жестовете на субекта.
Сега виждаме дълбоки фалшификати в съвременната масова развлекателна индустрия.
Използван е за заснемане на сцени на Пол Уокър в Бързи и яростни 7 след неочакваната смърт на актьора. Deepfake е използван за брат му със забележителна точност.
Какво носят Deepfakes на масата?
Deepfakes се оказаха много надеждна технология за революция в медиите и развлеченията.
Спомняте ли си, когато мустаците на Хенри Кавил бяха премахнати от CGI в “Man of Steel” и това беше катастрофа?
Същото вече може да се направи на компютри за няколко хиляди долара с много по-убедителни резултати.
Вече можете да се срещнете с починалите си предци и близки. Можете дори да присъствате на лекция по физика от самия Алберт Айнщайн.
Освен всичко това, deepfake не е използван изцяло по начина, по който е предназначено да бъде. Около 96% от дълбоките фалшификати в интернет са порнография без съгласие.
Голямото количество налични данни за обучение за известни личности доведе до това, че те са най-целенасочените жертви на дълбоки фалшификати.
Това ни позволи да поставим всеки в опасни или компрометиращи сценарии и следователно представлява голям риск за всички.
Съобщава се, че аудио фалшификатите се използват за измама на корпорации. През 2019 г. имитатор използва дълбоко фалшиво аудио, за да инструктира главен изпълнителен директор на базирана в Обединеното кралство фирма да преведе 220,000 XNUMX евро в унгарска банка, като се представя за изпълнителен директор на компанията майка на фирмата.
Как да се противопоставим на злонамерените Deepfakes?
Обикновено можете да откриете дълбоки фалшиви видеоклипове, като внимателно наблюдавате кадър по кадър и търсите артефакти и нередности.
Това обаче е контраинтуитивен процес и много компании работят върху алгоритми и софтуер, за да откриване на deepfakes.
Facebook нае изследователи от Бъркли, Оксфорд и други институции, за да изградят детектор за дълбоки фалшификати. По същия начин YouTube обяви, че няма да приема фалшиви видеоклипове, свързани с изборите в САЩ, процедурите за гласуване или преброяването на населението в САЩ през 2020 г.
Можете също да използвате програми като Защитник на реалността и Deeptrace за откриване на дълбоки фалшификати.
Държавите също са заети с законотворчеството по отношение на използването на дълбоки фалшификати като цяло. САЩ приложиха няколко закона относно дълбоките фалшификати през последната година.
Облечи
Deepfake е живото въплъщение на напредъка на AI. Това допълнително размива границите на бъдещето, но е потенциална заплаха за достоверността на видео-графичното съдържание в интернет.
Ще настъпи момент, когато хората ще започнат да се съмняват във всяко видео в интернет и ще бъдем тласнати в ера на по-нататъшна несигурност.
Оставете коментар