马克扎克伯格承认窃取数据和巴拉克奥巴马滥用唐纳德特朗普的视频已经在互联网上流传了很长一段时间了?
这些视频是一种名为 Deepfake 的非常先进和未来主义的人工智能技术的成果。
简而言之,它是视频的 Photoshop 替代品。 一方面,它可以通过消除对真人的需求来彻底改变电子媒体。
另一方面,它严重威胁到一个人的身份,因为你可以让任何人在视频上说任何话。
Deepfake 使用 深入学习 创建虚假事件的照片和视频,因此得名 deepfake。 它不仅可以在现有视频上交换面孔,还可以从头开始创建新的帧和视频。
Deepfake 的起源
广泛 学术研究 在过去的几年里,它突破了照片和视频处理的界限。 Deepfake 也是这些学术研究的成果。
1997 年报道了第一起视频操纵案例。一个人的视频被修改为说出不同音轨中包含的单词。 这是第一个使用面部复活的案例 机器学习 技术。
2017 年取得了进一步显着进步,当时美国前总统巴拉克奥巴马的视频被修改为说出与不同音轨匹配的不同单词。
2018 年,加州大学伯克利分校的研究人员推出了一款可以创建 使用深度学习的假跳舞视频. 这标志着深度伪造扩展到整个身体,因为以前的作品仅限于面部。
Deepfake 是如何产生的?
由于计算技术的进步,您现在可以相对轻松且低成本地开发 deepfakes。 两种主要方法用于生成深度伪造。
方法1
你必须训练一个 神经网络 在这个人的真实视频片段上。 这将允许 神经网络 了解被摄对象在不同角度和光照条件下的面部特征。
之后,您将通过称为编码器的 AI 算法同时处理原始人脸和潜在人脸。 它将发现并学习两张脸之间的差异和相似之处,并将两张脸简化为共享共同特征的压缩图像。
然后是称为解码器的第二种 AI 算法,它从压缩图像中恢复人脸。 两张脸都由两个不同的解码器恢复。
要执行面部交换,您只需将编码图像输入另一个解码器。
例如,将面部 A 的编码器输出馈送到在面部 B 上训练的解码器,然后解码器使用面部 A 的面部特征重建面部 B。您必须对视频的每一帧都执行此操作以获得令人信服的输出。
方法2
另一种生成深度伪造的方法是生成对抗网络(GAN)。
您将不得不使用两种相互竞争的算法来生成 deepfakes。 第一个将使用随机噪声来生成图像,因此称为生成器。 该合成图像通过称为鉴别器的第二种算法馈送到真实图像流中。
鉴别器向生成器提供反馈,生成器根据反馈生成另一幅图像。 通过这种方式,两种算法在每次迭代时都给出了改进的结果。 此过程重复多次,直到达到所需的准确度。
GAN 提供了完全真实的结果,但它很难使用,并且需要大量的训练数据和计算能力。 这就是为什么通常首选生成图像而不是视频剪辑的原因。
Deepfake 的一些令人信服的例子
互联网上有一些非常令人信服的深度伪造,其中大多数是名人。
例如,有一个 TikTok 帐户专门用于汤姆克鲁斯的 deepfakes。 视频显示克鲁斯打高尔夫球或展示魔术。
@deeptomcruise 旅行! ????
另一个高度复杂的 deepfake 与 Tom Cruise、Robert Downey Jr.、Jeff Goldblum、George Lucas 和 Ewan McGregor 一起上传到 YouTube。 它有一些明显的缺陷,但同时处理视频中的 3 到 4 个 deepfakes 本身就是一项壮举。
另一个例子是前总统巴拉克奥巴马的深度伪造视频。
这个令人震惊的令人信服,因为它使用了能够模仿主体的声音和手势的模仿者的声音和手势。
我们现在在现代主流娱乐业中看到了 deepfakes。
在演员意外死亡后,它被用来拍摄《速度与激情7》中保罗沃克的场景。 deepfake 非常准确地用于他的兄弟。
Deepfakes 带来了什么?
事实证明,Deepfakes 是一种非常可靠的技术,可以带来媒体和娱乐领域的革命。
你还记得亨利卡维尔的小胡子在《钢铁侠》中被 CGI 去除,那是一场灾难吗?
现在可以在几千美元的计算机上进行同样的操作,结果更加令人信服。
您现在可以见到已故的祖先和亲人。 您甚至可以参加爱因斯坦本人的物理讲座。
除此之外,deepfake 并没有完全按照预期的方式使用。 互联网上大约 96% 的 deepfakes 是未经同意的色情内容。
名人可用的大量训练数据导致他们成为深度伪造最有针对性的受害者。
它使我们能够将任何人置于危险或妥协的场景中,因此它对每个人都构成了巨大的风险。
据报道,音频深度伪造被用来欺骗公司。 2019 年,一名冒充者使用深度伪造音频指示一家英国公司的首席执行官通过冒充该公司的母公司高管将 220,000 欧元转入一家匈牙利银行。
如何对抗恶意 Deepfake?
通常,您可以通过逐帧仔细观察并寻找伪影和不规则之处来检测深度伪造视频。
然而,这是一个反直觉的过程,许多公司正在研究算法和软件 检测深度伪造.
Facebook 从伯克利、牛津和其他机构招募了研究人员来构建深度伪造检测器。 同样,YouTube 宣布他们不会接受与美国大选、投票程序或 2020 年美国人口普查相关的深度伪造视频。
您还可以使用类似的程序 现实防御者 和 Deeptrace 来检测 deepfake。
各国也忙于制定有关使用深度伪造的立法。 在过去的一年里,美国已经实施了几项关于深度造假的法律。
包起来
Deepfake 是人工智能进步的活生生的体现。 它进一步模糊了未来的界限,然而,它对互联网上视频图像内容的可信度构成潜在威胁。
总有一天,人们会开始怀疑互联网上的每一个视频,我们将被推入一个更加不确定的时代。
发表评论