馬克扎克伯格承認竊取數據和巴拉克奧巴馬濫用唐納德特朗普的視頻已經在互聯網上流傳了很長一段時間了?
這些視頻是一種名為 Deepfake 的非常先進和未來主義的人工智能技術的成果。
簡而言之,它是視頻的 Photoshop 替代品。 一方面,它可以通過消除對真人的需求來徹底改變電子媒體。
另一方面,它嚴重威脅到一個人的身份,因為你可以讓任何人在視頻上說任何話。
Deepfake 使用 深入學習 創建虛假事件的照片和視頻,因此得名 deepfake。 它不僅可以在現有視頻上交換面孔,還可以從頭開始創建新的幀和視頻。
Deepfake 的起源
廣泛 學術研究 在過去的幾年裡,它突破了照片和視頻處理的界限。 Deepfake 也是這些學術研究的成果。
1997 年報導了第一起視頻操縱案例。一個人的視頻被修改為說出不同音軌中包含的單詞。 這是第一個使用面部復活的案例 機器學習 技術。
2017 年取得了進一步顯著進步,當時美國前總統巴拉克奧巴馬的視頻被修改為說出與不同音軌匹配的不同單詞。
2018 年,加州大學伯克利分校的研究人員推出了一款可以創建 使用深度學習的假跳舞視頻. 這標誌著深度偽造擴展到整個身體,因為以前的作品僅限於面部。
Deepfake 是如何產生的?
由於計算技術的進步,您現在可以相對輕鬆且低成本地開發 deepfakes。 兩種主要方法用於生成深度偽造。
方法1
你必須訓練一個 神經網絡 在這個人的真實視頻片段上。 這將允許 神經網絡 了解拍攝對像在不同角度和光照條件下的面部特徵。
之後,您將通過稱為編碼器的 AI 算法處理原始人臉和潛在人臉。 它將發現並學習兩張臉之間的差異和相似之處,並將兩張臉簡化為共享共同特徵的壓縮圖像。
然後是稱為解碼器的第二種 AI 算法,它從壓縮圖像中恢復人臉。 兩張臉都由兩個不同的解碼器恢復。
要執行面部交換,您只需將編碼圖像輸入另一個解碼器。
例如,將人臉 A 的編碼器輸出饋送到在人臉 B 上訓練的解碼器,然後解碼器使用人臉 A 的人臉特徵重建人臉 B。您必須在視頻的每一幀上都這樣做才能獲得令人信服的輸出。
方法2
另一種生成深度偽造的方法是生成對抗網絡(GAN)。
您將不得不使用兩種相互競爭的算法來生成 deepfakes。 第一個將使用隨機噪聲來生成圖像,因此稱為生成器。 該合成圖像通過稱為鑑別器的第二種算法饋送到真實圖像流中。
鑑別器向生成器提供反饋,生成器根據反饋生成另一幅圖像。 通過這種方式,兩種算法在每次迭代時都給出了改進的結果。 此過程重複多次,直到達到所需的準確度。
GAN 提供了完全真實的結果,但它很難使用,並且需要大量的訓練數據和計算能力。 這就是為什麼通常首選生成圖像而不是視頻剪輯的原因。
Deepfake 的一些令人信服的例子
互聯網上有一些非常令人信服的深度偽造,其中大多數是名人。
例如,有一個 TikTok 帳戶專門用於湯姆克魯斯的 deepfakes。 視頻顯示克魯斯打高爾夫球或展示魔術。
@deeptomcruise 旅行! ????
另一個高度複雜的 deepfake 與 Tom Cruise、Robert Downey Jr.、Jeff Goldblum、George Lucas 和 Ewan McGregor 一起上傳到 YouTube。 它有一些明顯的缺陷,但同時處理視頻中的 3 到 4 個 deepfakes 本身就是一項壯舉。
另一個例子是前總統巴拉克奧巴馬的深度偽造視頻。
這個令人震驚的令人信服,因為它使用模仿者的聲音和手勢,能夠模仿主體的聲音和手勢。
我們現在在現代主流娛樂業中看到了 deepfakes。
在演員意外死亡後,它被用來拍攝《速度與激情7》中保羅沃克的場景。 deepfake 非常準確地用於他的兄弟。
Deepfakes 帶來了什麼?
事實證明,Deepfakes 是一種非常可靠的技術,可以帶來媒體和娛樂領域的革命。
你還記得亨利卡維爾的小鬍子在《鋼鐵俠》中被 CGI 去除,那是一場災難嗎?
現在可以在幾千美元的計算機上進行同樣的操作,結果更加令人信服。
您現在可以見到已故的祖先和親人。 您甚至可以參加愛因斯坦本人的物理講座。
除此之外,deepfake 並沒有完全按照預期的方式使用。 互聯網上大約 96% 的 deepfakes 是未經同意的色情內容。
名人可用的大量訓練數據導致他們成為深度偽造最有針對性的受害者。
它使我們能夠將任何人置於危險或妥協的場景中,因此它對每個人都構成了巨大的風險。
據報導,音頻深度偽造被用來欺騙公司。 2019 年,一名冒充者使用深度偽造音頻指示英國公司的首席執行官通過冒充該公司的母公司高管將 220,000 歐元轉入一家匈牙利銀行。
如何對抗惡意 Deepfake?
通常,您可以通過逐幀仔細觀察並尋找偽影和不規則之處來檢測深度偽造視頻。
然而,這是一個反直覺的過程,許多公司正在研究算法和軟件 檢測深度偽造.
Facebook 從伯克利、牛津和其他機構招募了研究人員來構建深度偽造檢測器。 同樣,YouTube 宣布他們將不接受與美國大選、投票程序或 2020 年美國人口普查相關的 deepfake 視頻。
您還可以使用類似的程序 現實防御者 和 Deeptrace 來檢測 deepfake。
各國也忙於製定有關使用深度偽造的立法。 在過去的一年裡,美國已經實施了幾項關於深度造假的法律。
包起來
Deepfake 是人工智能進步的活生生的體現。 它進一步模糊了未來的界限,然而,它對互聯網上視頻圖像內容的可信度構成潛在威脅。
總有一天,人們會開始懷疑互聯網上的每一個視頻,我們將被推入一個更加不確定的時代。
發表評論