2020最佳AI新基建年度榜
您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
业界 正文
发私信给贝爽
发送

0

Deepfake搅动政局?微软推出最新检测工具,助力美国大选免遭虚假信息威胁

本文作者:贝爽 2020-09-03 18:40
导语:Deepfake换脸着实让人惊叹,尤其是在视频方面。

因美国大选,Deepfake再一次引发关注。

Deepfake的深度造假能力自不必多说,支持换脸、换头、对口型,逼真程度已经达到肉眼无法察觉的地步。由于该技术被广泛用于制造虚假色情视频,学术界、企业界开始联合发力研发Deepfake检测工具。

近日,微软推出了两项最新Deepfake检测技术,不过,其目的是保护美国大选免受虚假信息威胁。

Deepfake伪造政治言论

近几年,有关政界的虚假信息已经充斥于社交网络。

据普林斯顿大学教授Jacob Shapiro最新研究结果显示,2013年至2019年期间,社交媒体已累计发起96次政治运动,其行为多为诋毁政客、误导公众、激化辩论等。

在涉及的30多个国家中,美国占据了26%,其他国家包括亚美尼亚、澳大利亚、巴西、加拿大、法国、德国、荷兰、波兰、沙特阿拉伯、南非、台湾、乌克兰、英国和也门等。

重要的是,在这些运动中,93%为原创内容,86%放大了已有内容,74%歪曲了客观事实。报告还显示,关于COVID-19大流行的虚假信息已经导致大量人们死亡和感染。

而Deepfake的出现和发展,再次为制造虚假信息提供了更便捷的途径。在Youtube上,有关Donald Trump、Barack Hussein Obama,  Elon Musk等名人政客的虚假换脸视频已屡见不鲜。

Deepfake搅动政局?微软推出最新检测工具,助力美国大选免遭虚假信息威胁

如图中,特朗普的面部被无缝转换到一名演员(Alec Baldwin)身上,发表着与本人不相关的言论。

这些视频虽为网友恶搞,但美国大选在即,难免有人利用这项技术扰动政局。而Deepfake的深度造假能力,以及对政界可能产生的影响力,也早有先例:

2018年,加蓬(非洲中西部国家)总统Ali Bongo因病消失数月,为了打消外界图谋不轨的猜测,政府发布了一段 Ali Bongo 录制的新年致辞的视频,而这则由Deepfakes技术合成的视频,差点引发军方兵变。

2019 年,一段关于马来西亚经济部长Azmin Ali 与男性发生性关系的视频在网络上疯传。(同性性关系在马来西亚属违法行为)。虽然 Azmin Ali 声称这段视频是通过Deepfakes技术伪造的,是政治阴谋,但是,国际专家声称找不到伪造迹象。

Deepfake搅动政局?微软推出最新检测工具,助力美国大选免遭虚假信息威胁

CNAS 技术与国家安全项目主任 Paul Scharre 曾发出警告称,

Deepfakes 具有极大的破坏性,利用它来操控选举只是时间问题。

另外,今年美因冠疫情肆虐,美国大选期间所有活动几乎都在线上进行,而这无疑为伪造政客虚假言论提供了机会。

不过,微软近日宣称其最新研发的Deepfake检测工具,可以有效帮助用户识别虚假信息,目前已经与多家媒体达成合作,用以保护美国大选期间免受信息虚假带来的威胁。

捍卫民主,微软推出Deepfake检测工具

Deepfake检测,是微软“保护民主”计划中的一项。这项计划于2018年开始启动,截止目前已陆续推出了Election Guard、Account Guard,Microsoft 365 for Campaigns 和Election等多项技术,并广泛用于政治活动中。

除了以上技术外,他们针对Deepfake可能带来的政治威胁,研发了两项最新检测技术。

其中的一项技术为:视频认证器(Video Authenticator)。Deepfake被广泛用于图像、音频和视频造假,其中视频是一种常用且可信度更高的方式。视频认证器可以在视频播放的每个帧与原图进行实时对比,并给出数据分析,它的工作原理是检测人眼可能无法察觉到的深伪、细微褪色或灰度元素的混合边界。

Deepfake搅动政局?微软推出最新检测工具,助力美国大选免遭虚假信息威胁

视频认证器已通过了DeepFake Detection Challenge数据集测试,该数据集是训练和测试DeepFake检测技术的领先模型。

值得一提的是,在今年的Deepfake挑战赛上,参赛团队基于该数据集在识别虚假的准确性方面最高达到了80%以上,黑盒测试准确率最高达到了65%。

Deepfake搅动政局?微软推出最新检测工具,助力美国大选免遭虚假信息威胁

但是由于该数据集的使用存在一定的限制,视频认证器的训练是通过创建Face Forensic ++数据集完成的。

目前这项技术已与AI基金会达成合作,AI基金会是一家位于旧金山的商业和非营利性企业,其使命是将AI的力量和保护带给全世界的每个人。通过这种合作关系,视频认证器可供参与民主进程的组织(包括新闻媒体和政治运动)广泛使用。

不过,视频认证器仅通过RD2020(Reality Defender 2020)可用,因为它将指导组织通过任何Deepfake检测技术固有的局限性和道德考量。

除了对已有信息的检测,微软推出的另一项技术,支持从信息源头杜绝伪造。微软在博客中写道,

从长远来看,我们必须寻求更有力的方法来维护和证明社交媒体信息的真实性。 目前几乎没有任何工具可以帮助读者确信其在网上看到的信息来源可靠,且没有被篡改。而今天我们宣布的这项技术,它既可以检测被操纵的内容,又可以向人们保证所观看的媒体是真实的。 

Deepfake搅动政局?微软推出最新检测工具,助力美国大选免遭虚假信息威胁

具体来说,这项技术有两个组成部分。 第一个是内置于Microsoft Azure中的一个工具,它使内容制作者能够向内容片段添加数字哈希(Digital hashes,又称数字散列)和证书(Certificates)。哈希和证书将内容作为元数据存在于任何在线传播的地方。

第二个是阅读器,它可以作为浏览器扩展或其他形式存在,用于检查证书并匹配哈希值,让人们高度准确地知道内容是真实的,没有被更改,并提供关于谁制作的详细信息。               

这项技术是由微软研究院、微软Azure与捍卫民主计划(Defending Democracy Program)合作开发,并且已经与包括英国广播公司(BBC),加拿大广播电台和《纽约时报》等多家媒体公司组成合作伙伴关系。

引用链接:雷锋网(公众号:雷锋网)雷锋网雷锋网

https://fossbytes.com/microsofts-deepfake-detection-tool-confidence-score/

https://interestingengineering.com/microsoft-debuts-deepfake-detection-tool-to-combat-disinformation

https://techcrunch.com/2020/09/02/microsoft-launches-a-deepfake-detector-tool-ahead-of-us-election/

https://blogs.microsoft.com/on-the-issues/2020/09/01/disinformation-deepfakes-newsguard-video-authenticator/   

雷锋网原创文章,未经授权禁止转载。详情见转载须知

分享:
相关文章

文章点评:

表情
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说