您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
业界 正文
发私信给Adios
发送

0

Google 亚马逊 Facebook 三巨头齐上阵,枪口瞄准了 Deepfakes

本文作者:Adios 2019-12-12 19:21
导语:这就像一场猫鼠游戏,如果设计出一个检测器,就等于给黑客一个新的模拟器进行反测试。

Deepfakes 并不是一个陌生的词,在人们为其所呈现出来的逼真效果惊叹之余,它所带来的负面影响也逐渐蔓延全球(参见雷锋网(公众号:雷锋网)此前报道)。

为了与恶意的 Deepfake 视频对抗,Facebook 在今年 9 月份牵头,联合学术和企业两个领域的力量,共同发起了以低成本的方式检测出 Deepfakes 视频的挑战赛。项目的参与者还包括康奈尔科技校区(Cornell Tech)、麻省理工学院(MIT)、牛津大学(University of Oxford)和伯克利大学(UC Berkeley)等,以及非营利性研究组织 Partnership on AI——该组织的成员有 Google 、苹果、亚马逊、IBM 等大型科技公司。

Google 亚马逊 Facebook 三巨头齐上阵,枪口瞄准了 Deepfakes

在本周的于温哥华举行的 NeurIPS 2019 大会上,这项关于 Deepfakes 检测工具的竞赛将正式启动,竞赛到 2020 年 3 月才会结束。Facebook 人工智能总监、该挑战赛的负责人之一 Irina Kofman 表示:

看到多个领域的伙伴一起合作是鼓舞人心的,无论是来自企业界还是学术界,我们每个人都带来了各自领域的见解,因此,我们可以考虑得更广泛周全。

据悉,从今天开始,注册的参赛者可以下载语料库来训练自己的检测工具。一旦他们完成了最终设计,就可以将检测工具的代码提交到一个黑盒中验证。在验证的过程中,官方系统会根据检测工具的有效性进行评分。参赛者无需共享自己的工具模型,但他们必须同意开源其工作,只有这样才能够获得挑战赛的奖励。

为了这场竞赛的顺利进行,各大科技巨头也纷纷贡献出自己的力量:Facebook 方面表示,他们已经投入了超过 1000 万美元来鼓励人们参与竞争;亚马逊则为参赛者提供可选的模型;Google 旗下的 Kaggle 数据科学与机器学习平台将主办挑战赛并负责排行榜(用来评定 Deepfakes 检测系统的能力)的相关事项。

Facebook 首席技术官 Mike Schroepfer 在一篇博客文章中指出:

Deepfakes 技术是基于 AI 技术合成的视频,它的真实性和合法性受到了一定的质疑。但截止目前,人们并没有相应的数据集或基准来帮助检测 Deepfakes 视频。所以,我们希望能找到一个解决方案,帮助人们发现这些被篡改过的视频,从而避免被误导。

Google 亚马逊 Facebook 三巨头齐上阵,枪口瞄准了 Deepfakes

为了加快数据集的创立,Facebook 不仅委托研究人员生成逼真的 Deepfakes 视频来充当训练材料,以便于测试检测工具的效果。与此同时,Facebook 也表示,这些视频邀请了一组“多样化”的付费演员出演,大约 54% 的女性和 46% 的男性。

Facebook AI 研究经理 Christian Ferrer 表示,该数据集(总共包含超过 10 万个视频)在 10 月份的国际计算机视觉会议上进行了测试。而且,它不包括任何用户数据,并且只有已签订使用协议的团队才能访问。

虽然,目前加州大学伯克利分校(University of California, Berkeley)和南加州大学(University of Southern California)共同开发的一种工具已经提前发布,它的识别准确率超过 90%。但与此同时,Deepfakes 技术也在不断变化发展,这也让检测变得越来越困难。

纽约大学坦登学校计算机工程助理教授 Siddharth Garg 对此表示,“这就像一场猫鼠游戏,如果我们设计了一个 Deepfakes 的检测器,就等于给了黑客一个新的模拟器进行反测试。”

总而言之,想要打赢与 Deepfakes 制作者之间的“军备竞赛”看起来长路漫漫,但这场关于检测工具的竞赛马上就要全面展开,来自各方的力量将一同抗衡作恶的 Deepfakes——我们应该乐观一点。

雷锋网原创文章,未经授权禁止转载。详情见转载须知

分享:

文章点评:

表情
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说