マーク・ザッカーバーグ氏がデータ窃盗を認め、バラク・オバマ氏がドナルド・トランプ氏を罵倒する動画がかなり前からインターネット上で出回っている?
これらのビデオは、ディープフェイクと呼ばれる非常に先進的で未来的な AI テクノロジーの成果です。
簡単に言えば、ビデオ用の Photoshop の代替品です。 一方で、実際の人間の必要性を排除することで、電子メディアに革命を起こすことができます。
その一方で、ビデオ上では誰にでも何でも言わせることができるため、個人のアイデンティティが大きく脅かされます。
ディープフェイクの使用 深い学習 偽のイベントの写真やビデオを作成するため、ディープフェイクという名前が付けられました。 既存のビデオの顔を交換するだけでなく、新しいフレームやビデオを最初から作成することもできます。
ディープフェイクの起源
広範 学術研究 は、過去数年間で写真とビデオの操作の限界を押し広げてきました。 Deepfake も、これらの学術研究の成果です。
ビデオ操作の最初のケースは 1997 年に報告されました。ある人物のビデオが、別のオーディオ トラックに含まれる単語を話すように変更されました。 これは、顔面蘇生の最初のケースでした。 機械学習
2017 年には、バラク・オバマ元米国大統領のビデオが、別の音声トラックに合わせて別の言葉を話すように変更され、さらに注目に値する進歩が見られました。
2018 年、カリフォルニア大学バークレー校の研究者は、 ディープラーニングを使用した偽のダンスビデオ。 これまでの作品は顔に限定されていたのに対し、これはディープフェイクの対象が全身に拡大したことを示しています。
ディープフェイクはどのように作成されるのでしょうか?
コンピューティングの進歩のおかげで、ディープフェイクを比較的簡単かつ低コストで開発できるようになりました。 ディープフェイクの生成には主に XNUMX つの方法が使用されます。
方法1
トレーニングする必要があります ニューラルネットワーク その人の実際のビデオ映像について。 これにより、 ニューラルネットワーク さまざまな角度や照明条件での被写体の顔の特徴を理解するために。
その後、エンコーダーと呼ばれる AI アルゴリズムを通じて、元の顔と潜在的な顔の両方を処理します。 XNUMX つの顔の違いと類似点を見つけて学習し、両方の顔が共通の特徴を共有する圧縮画像に縮小されます。
次に、圧縮画像から顔を復元するデコーダーと呼ばれる XNUMX 番目の AI アルゴリズムが登場します。 両方の顔が XNUMX つの異なるデコーダによって復元されます。
顔の交換を実行するには、エンコードされた画像を他のデコーダにフィードするだけです。
たとえば、顔 A のエンコーダ出力は、顔 B でトレーニングされたデコーダに入力され、デコーダが顔 A の顔の特徴を使って顔 B を再構築します。説得力のある出力を得るには、ビデオのすべてのフレームでこれを行う必要があります。
方法2
ディープフェイクを生成するもう XNUMX つの方法は、敵対的生成ネットワーク (GAN) です。
ディープフェイクを生成するには、XNUMX つの競合するアルゴリズムを使用する必要があります。 XNUMX つ目はランダム ノイズを使用して画像を生成するため、ジェネレーターと呼ばれます。 この合成画像は、ディスクリミネーターと呼ばれる XNUMX 番目のアルゴリズムを通じて実際の画像のストリームに供給されます。
弁別器は生成器にフィードバックを提供し、生成器はフィードバックに従って別の画像を生成する。 このようにして、どちらのアルゴリズムでも反復ごとに改善された結果が得られます。 このプロセスは、必要なレベルの精度が達成されるまで何度も繰り返されます。
GAN は非常に現実的な結果を提供しますが、操作が難しく、膨大な量のトレーニング データと計算能力を必要とします。 そのため、一般にビデオ クリップではなく画像の生成に適しています。
ディープフェイクの説得力のある例
インターネット上には非常に説得力のあるディープフェイクがいくつか存在しており、そのほとんどは有名人のものです。
たとえば、トム・クルーズのディープフェイク専用の TikTok アカウントがあります。 動画では、クルーズがゴルフをしたり、手品を実演したりする様子が映っている。
@ディープトムクルーズ 旅行! ????
トム・クルーズ、ロバート・ダウニー・ジュニア、ジェフ・ゴールドブラム、ジョージ・ルーカス、ユアン・マクレガーによる別の非常に複雑なディープフェイクが YouTube にアップロードされました。 明らかな欠陥がいくつかありますが、ビデオ内で 3 ~ 4 つのディープフェイクを同時に処理すること自体が偉業です。
もう一つの例は、バラク・オバマ前大統領のディープフェイク動画です。
これは、被写体の声や身振りを模倣できるものまね者の声や身振りを使用しているため、驚くほど説得力があります。
私たちは現在、現代の主流のエンターテイメント業界でディープフェイクを目にしています。
この施設は、『ワイルド・スピード 7』で俳優の予期せぬ死の後、ポール・ウォーカーのシーンを撮影するために使用されました。 ディープフェイクは驚くべき精度で彼の兄弟に使用されました。
ディープフェイクは何をもたらすのでしょうか?
ディープフェイクは、メディアとエンターテインメントに革命をもたらす非常に信頼できるテクノロジーであることが証明されています。
『マン・オブ・スティール』でヘンリー・カヴィルの口ひげがCGIによって除去され、大惨事になったときのことを覚えていますか?
同じことを数千ドルのコンピュータでも実行できるようになり、はるかに説得力のある結果が得られます。
亡くなったご先祖様や愛する人たちに今すぐ会うことができます。 アルバート アインシュタイン自身による物理学の講義に参加することもできます。
これらすべてに加えて、ディープフェイクは意図された方法で完全には使用されていません。 インターネット上のディープフェイクの約 96% は、同意のないポルノです。
有名人は大量のトレーニング データを利用できるため、ディープフェイクの最も標的となる被害者となっています。
これにより、誰もが危険な、または危険なシナリオに陥る可能性があり、したがって、誰にとっても大きなリスクとなります。
音声ディープフェイクは、企業を詐欺するために使用されていると報告されています。 2019年、なりすまし者がディープフェイク音声を使用して、英国に本拠を置く企業のCEOに対し、親会社幹部になりすまして220,000万ユーロをハンガリーの銀行に送金するよう指示した。
悪意のあるディープフェイクに対抗するにはどうすればよいですか?
通常、ディープフェイクビデオは、フレームごとに注意深く観察し、アーティファクトや不規則性を探すことで検出できます。
ただし、これは直感に反するプロセスであり、多くの企業がアルゴリズムとソフトウェアに取り組んでいます。 ディープフェイクを検出する.
Facebookはディープフェイク検出器を構築するためにバークレー、オックスフォード、その他の機関から研究者を採用した。 同様に、YouTube は、米国選挙、投票手続き、2020 年の米国国勢調査に関連するディープフェイク動画を受け入れないと発表しました。
次のようなプログラムを使用することもできます リアリティディフェンダー ディープフェイクを検出するための Deeptrace です。
各国はディープフェイクの使用全般に関する法制定にも忙しい。 米国は過去 XNUMX 年間にディープフェイクに関するいくつかの法律を施行しました。
要約
ディープフェイクは AI の進歩を体現したものです。 これは将来の境界をさらに曖昧にしますが、インターネット上のビデオグラフィックコンテンツの信頼性に対する潜在的な脅威です。
人々はインターネット上のすべてのビデオを疑い始め、私たちはさらなる不確実性の時代に押し込まれるでしょう。
コメントを残す