2018年，Buzzfeed发布了一段视频，显示美国前总统巴拉克·奥巴马侮辱唐纳德·特朗普总统。它迅速传播开来——但一切都不像看起来的那样。事实上，这段视频是假的：它的制作人使用了一个软件程序对奥巴马的话进行了数字修改，使他看起来像是在说一些他实际上从未说过的话。

结果令人不安。在短短一分13秒内，它向我们展示了deepfakes的未来，这是一种数字图像和视频处理，对我们的日常生活构成了惊人的威胁。

想象一下一段视频，其中弗拉基米尔·普京似乎宣布了核打击，或者在离家更近的地方，一个被盗的Instagram故事，可以利用该故事来访问您的个人帐户。

这就是深度伪造的未来，它们正在快速发展。如今，合成身份欺诈是美国增长最快的金融犯罪。

长期以来，识别深度伪造的技术一直在努力追赶。现在，一个专注于人工智能深度伪造检测的UTS研究项目将打破他们留下的混乱。

人工智能对抗人工智能

“人工智能支持的深度伪造检测旨在自动识别真脸中的假面孔，”UTS计算机科学学院和澳大利亚人工智能研究所的Xin Yu博士说。余博士最近获得了澳大利亚研究委员会颁发的发现早期职业研究员奖。

“我们的研究将开发深度伪造检测模型，有效和高效地解决不断发展的深度伪造技术，帮助人类发现和理解这些假冒产品。

传统的深度伪造检测方法往往侧重于逐帧视频分析或识别静止和运动图像中的空间不一致。

相比之下，余博士的工作将推动两种新兴人工智能驱动技术的发展：3D面部几何建模，以及时空和视觉-音频一致性检测。

3D面部几何建模可以通过将屏幕上的内容与主题面部的个性化3D计算机模型进行比较来识别视频中描绘的人的面部异常。时空和视觉音频一致性检测网络搜索与视频中所说的话不一致的微小头部和面部运动。

“即使这些不一致只出现一秒钟，我们也可以追踪它们，”余博士说。

这些技术为深度伪造检测领域提供了新的方向。而且，由于它们由人工智能提供支持，它们可以自动扫描大量视频，检测和标记潜在的深度伪造，而无需人工干预。