deepfake技术利用AI算法，可以“扣出”影片、图片和音频中的特定人物，将他人取而代之。而根据阿姆斯特丹网络安全初创公司Deeptrace的最新统计，基于该技术的影像制品数目，正在网络上迅速增加。该公司在6月和7月的统计中发现了14698个deepfake视频，而这一数字在去年12月时只有7964。仅仅7个月过去，deepfake视频就爆炸般增长了84%。这一增长趋势引起了大众的不安，不仅仅是因为deepfake视频可以用来操纵、摇摆民意，甚至影响选举，又或是将莫须有的罪行栽赃给某个人。他们更担心的是由此产生的大量色情视频和敲诈案件。
为了应对deepfake的迅猛增长，Facebook牵手亚马逊云服务(AWS)、微软以及AI合作伙伴关系(the Partnership on AI)，举办了deepfake检测挑战赛。来自康奈尔理工学院、麻省理工学院、牛津大学、加州伯克利分校等院校的众多专家学者们加入比赛，在deepfake检测技术的研究道路上带头冲锋。该赛事将在温哥华NeurIPS 2019会议上向全球发布，力图促进开源检测工具的开发。
截止至今，Facebook已经贡献了超过一千万美元，用以鼓励人们参与奖金的角逐;亚马逊云服务则贡献了价值一百多万美元的积分，并为参赛者提供了备选模型;谷歌旗下Kaggle数据科学和机器学习平台将负责该挑战赛的主办。
Facebook首席技术官Mike Schroepfer指出，deepfake技术产生的“真人”影音材料严重影响了人们对于网络信息的信任，而行业中却没有工具来检测它们。我们希望开发出一些技术，让这些被伪造的视频无处遁形。”
▲检测挑战赛所提供的数据集展示了原始视频(左)和被篡改视频(右)。
deepfake检测挑战包括了巨额奖金和一个训练数据集。针对视频造假，多种检测工具几经面试，其中，由加州大学伯克利分校和南加州大学研究人员开发的工具最为优秀，它的识别准确率能超过90%。但与此同时，deepfake又是一项在不断变化和发展中的技术。可以说这项检测挑战任重而道远。在最近的采访中，Pinscreen公司首席执行官Hao Li指出，人工智能合成技术演化不断，在某种程度上，合成赝品几乎不可能从现实中辨别出来。
deepfake检测挑战中，群众演员们受雇拍摄了许多的视频训练材料。这些视频中的背景、动作、场景设计各不相同，可以说是五花八门。在这之后，基于这些真实的视频，伪造的视频被加工出来，它们或人脸被调换，或声音被修改。
“deepfake探测技术的前沿研究需要结合大规模、贴近现实、有用且免费的数据集。既然这种资源不存在，我们便不得不从头开始创造它。”Facebook人工智能研究经理Christian Ferrer表示，为了避免法律和政策掣肘，这份数据集，只涉及那些签订使用协议的参与者，不涉及其他用户的任何信息。此外，Ferrer还说，对数据集的访问是封闭的，因此只有签订了许可协议的团队才能访问和使用它。
即日起，参赛者可以下载语料来训练自己的deepfake识别模型。在完成了设计后，他们需要将代码提交到一个黑盒环境中接受验证，获得评分。参赛者不需要分享他们的模型，但必须同意将模型开源以获得赢取巨额奖金的资格。
deepfake检测挑战由一个专业的委员会推动和监督，该委员会包括Facebook、微软以及媒体、学术团体等。该竞赛计划运行到2020年3月底。
“跨行业领域的各界团体一起努力，在几个月的时间里共同创造了该挑战，这样的团结一致无疑的是鼓舞人心的。”Facebook人工智能总监、负责管理这项挑战的业务主管Irina Kofman说道，“每个人都带来了各自领域的见解，这让我们得以接触到了广泛的观点。”
谷歌副总裁AI Jerome Pesenti认为，“我们知道解决这些难题不会容易。但是，我相信，开源开放的研究方法终将孵化有效的工具，帮助人们识别deepfake诈骗。”
