你的大脑比你更擅长破解深度造假

悉尼大学的研究表明，虽然观察者不能有意识地识别真实和假脸的区别，但他们的大脑可以。

说到深度造假，如果能将事实与欺诈区分开来呢?悉尼大学的神经科学家们发现了一种新方法:他们发现人类的大脑可以检测人工智能生成的假脸，尽管人们无法报告哪些脸是真的，哪些是假的。

Deepfake的视频、图像、音频或文本看起来是真实的，但实际上是计算机生成的克隆，旨在误导你和影响公众舆论。他们是传播虚假信息的新步兵，而且很普遍——他们出现在政治、网络安全、伪造和边境控制领域。

例如，2016年，一个俄罗斯喷子农场在Twitter上部署了5万多台机器人，使用深度伪造的照片作为头像，试图影响美国总统大选的结果。一些研究表明，他们可能使唐纳德·特朗普的选票增加了3%以上。最近，一段弗拉基米尔·泽伦斯基(Volodymyr Zelensky)敦促他的军队向俄罗斯军队投降的深度伪造视频在Twitter、Facebook和YouTube上浮出水面，用潜在的高风险影响模糊了人们对乌克兰战争的理解。

当观察参与者的大脑活动时，悉尼大学的研究人员发现深度伪造照片的识别率为54%。然而，当参与者被要求口头识别深度造假时，他们只能在37%的时间里做到这一点。

悉尼大学心理学院的高级研究员、副教授托马斯·卡尔森说:“尽管这项研究中大脑的准确率很低，只有54%，但在统计上是可靠的。”

“这告诉我们，大脑可以分辨出深度伪造和真实图像之间的区别。”

发现机器人和骗局

研究人员表示，他们的发现可能会为打击深度造假提供一个跳板。

卡尔森副教授说:“大脑能够检测到深度造假，这意味着目前的深度造假是有缺陷的。”“如果我们能够了解大脑是如何识别深度造假的，我们就可以利用这些信息创建算法，在Facebook和Twitter等数字平台上标记潜在的深度造假。”

他们预测，在更远的未来，基于他们和类似的研究，技术可以被创造出来，实时提醒人们深度造假骗局。例如，安保人员可能会戴上具有脑电图功能的头盔，提醒他们可能遇到深度假体。

研究人员在研究中使用了脑电图(EEG)，一种可以显示大脑表层活动的测试。

卡尔森副教授说:“最近在迪拜和英国，有脑电图功能的头盔可能有助于防止银行抢劫案和公司诈骗案件的发生。在这些案件中，骗子利用克隆语音技术窃取了数千万美元。”在这些案件中，财务人员认为他们听到了信任的客户或伙伴的声音，从而被骗转移资金。”

方法:眼睛对大脑

研究人员进行了两个实验:一个是行为实验，另一个是神经成像实验。在行为实验中，研究人员向参与者展示了50张真实和电脑生成的假脸图片。他们被要求辨别哪些是真的，哪些是假的。

然后，向另一组参与者展示同样的图像，同时用脑电图记录他们的大脑活动，而他们不知道这些图像中有一半是假的。

然后，研究人员比较了两项实验的结果，发现人们的大脑比眼睛更擅长检测深度造假。

一个起点

研究人员警告说，鉴于这一研究领域的新颖性，他们发表在《视觉研究》(Vision research)上的研究只是一个起点。它不会立即——或者可能永远——产生一种检测深度造假的万无一失的方法。

卡尔森副教授说:“必须做更多的研究。让我们看到希望的是，深度造假是由计算机程序创建的，这些程序会留下可以被检测到的“指纹”。

“我们对大脑深度造假识别能力的发现意味着，我们可能有了另一个工具来反击深度造假和虚假信息的传播。”

这项研究得到了澳大利亚研究委员会DP160101300、DP200101787和DE200101159的资助。

它的作者是Michoel Moshel先生(前悉尼大学-现麦考瑞大学);阿曼达·罗宾逊博士(前悉尼大学-现昆士兰大学);Thomas Carlson副教授(悉尼大学)和Tijl grotswagers博士(前悉尼大学-现西悉尼大学副教授)。

英雄形象:研究中使用的深度假人脸。图片来源:Moshel等。