2020最佳AI新基建年度榜
您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
网络安全 正文
发私信给刘琳
发送

0

细思极恐!央视曝光 AI 黑产,你的脸仅仅只卖 0.002 元,还可能成为“在逃嫌犯”

本文作者:刘琳 2020-10-27 16:43
导语:技术向善在于人,但人心若向恶又当如何?

沈腾版斯内普,宋小宝版庆余年,赵四儿版美国队长,PDD 版桥本环奈······

细思极恐!央视曝光 AI 黑产,你的脸仅仅只卖 0.002 元,还可能成为“在逃嫌犯”

相信各位在网上冲浪的同学对这些恶搞视频并不陌生,并且出于好奇,自己也下载了某些换脸软件去尝试换脸的乐趣。

当然,这些恶搞视频也并非视频博主的业余乐趣,甚至某些网剧为了造成不必要的损失,将不能出镜的某位演员用 AI 换上其他演员的脸,也是常有的事。

比如,2019 年播出的《封神演义》《光荣时代》《长安十二时辰》以及《时光与你都很甜》中,都使用了该技术,但效果却不尽如人意。

“五分钱换脸”“画面有点诡异”“一个人毁了整部剧”等评论充斥在弹幕和微博评论中。

所以,从使用层面来看,AI 换脸技术放诸于娱乐场景中可能无可厚非,但当它被黑灰产盯上时,AI 换脸技术就变成了“众矢之的”。

你品,你细品。

央视曝光 AI 换脸黑产链条

昨天傍晚,2 元钱能买上千张人脸冲上热搜,引发了网友关注。

细思极恐!央视曝光 AI 黑产,你的脸仅仅只卖 0.002 元,还可能成为“在逃嫌犯”

据央视报道,经调查在某些网络交易平台上,花 2 元钱就能买到上千张人脸照片。这些照片若落入不法分子手中,照片主人除了有可能遭遇精准诈骗,还有可能因人脸信息被用于洗钱、涉黑等而卷入刑事诉讼。

网友直呼:“这太可怕了”!“现在哪里还有隐私可言”?

细思极恐!央视曝光 AI 黑产,你的脸仅仅只卖 0.002 元,还可能成为“在逃嫌犯”

但贩卖人脸这操作我们已经听了无数次,令人可怕的是,从贩卖人脸到制作人脸视频已经形成了一项完整的产业链——上游提供软件及技术、中游提供视频、照片定制、下游售卖成品视频。

简直可怕。

而骗过 AI 的关键一步,居然也有商家在公然贩卖。

据雷锋网(公众号:雷锋网)此前报道,在某线上交易平台,通过搜索特定关键词,还能找到贩卖“照片活化”工具的店铺。

什么是“照片活化”?

比如说,你在购买某种金融产品时,手机会提示进行“人脸识别”认证操作,这个操作大致分为两步:

1、需要你用手机摄像头对准自己,拍下正面静态照片,进行系统审核。


2、系统要求将摄像头再次对准自己,按照指令作出眨眼、摇头、张嘴等动作,完成认定。

这两步的作用用大白话解释就是:机器在判断你就是你。

有趣的是,假如买家不知道如何操作这个“照片活化”工具,卖家还支持 35 元将软件加教程统统给到的教学服务,付款后就得到一个教学链接,包学包会。

而在央视的报道中提到,在警方今年破获的两起盗用公民个人信息案中,值得注意的是,犯罪嫌疑人都是利用“ AI 换脸技术”非法获取公民照片进行一定预处理,而后再通过“照片活化”软件生成动态视频,骗过了人脸核验机制,得以实施犯罪。

细思极恐!央视曝光 AI 黑产,你的脸仅仅只卖 0.002 元,还可能成为“在逃嫌犯”

也就是说,偷你脸的犯罪分子不仅会利用贩卖人脸照片牟利,他们可能还会利用你的人脸实施犯罪。

这保不齐哪天我就变成了在逃人犯,可怕可怕。

细思极恐!央视曝光 AI 黑产,你的脸仅仅只卖 0.002 元,还可能成为“在逃嫌犯”

并且,犯罪分子要实现这个也并不是一件难事。

AI 换脸不难,你上你也行

AI 换脸技术最早要追溯到 2017 年。国外一个名为“DeepFakes”的用户在 Reddit 上发布了一个“假视频”,利用深度学习和 AI 新技术,将盖尔·加朵的脸换到了成人电影上。  

细思极恐!央视曝光 AI 黑产,你的脸仅仅只卖 0.002 元,还可能成为“在逃嫌犯”

他在网上炮制了无数明星换脸的小视频。并且都免费发布了自己的成果和换脸视频教程。

后来他的名字就被命名为 AI 换脸技术,称之为“DeepFakes”。

具体操作步骤实际上只分为三步。

第一步给 AI 准备学习材料,系统会提取成图像文件,并从中识别、抽出人脸信息,生成只含有脸部的图片,作为机器的学习素材。

第二步,训练 AI ,让 AI 认为这张被替换的脸就是原来的脸;

第三步,PUA AI ,将原脸丢给 AI 让其修复,这个时候,其实 AI 自己也分不清谁真谁假了,但经过第二步的训练后,AI 已经认定原脸是假的,所以,自然也就将替换的人脸当做真脸了。

看来,机器再聪明也是受不了“蛊惑”的。

而真正令人难过的是,这项技术的成功率对于普通人来说也不是很困难。

因为,即使只是一个新人也能在几个小时内做出一部换脸视频,并且越多人使用教程,人工智能换脸的精准度就越高。

细思极恐!央视曝光 AI 黑产,你的脸仅仅只卖 0.002 元,还可能成为“在逃嫌犯”

这也是不法分子想要作恶的原因之一。

泄露源头在哪里?

那么,你的人脸照片是在哪里被泄露的?

据央视网报道,经调查发现,在商家的素材库里,全都是真人生活照、自拍照等充满个人隐私内容的照片。

当记者询问客服,这些图片是否涉及版权时,客服矢口否认,但却提供不了任何可以证明照片版权的材料。

嗯??商家你有点问题。

细思极恐!央视曝光 AI 黑产,你的脸仅仅只卖 0.002 元,还可能成为“在逃嫌犯”

至于,这些照片在哪里泄露的,专家表示很可能是因为数据的存储环节出了问题。由于人脸识别应用五花八门,也没有统一的行业标准,大量的人脸数据都被存储在各应用运营方,或是技术提供方的中心化数据库中。

细思极恐!央视曝光 AI 黑产,你的脸仅仅只卖 0.002 元,还可能成为“在逃嫌犯”

数据是否脱敏、安全是否到位、哪些用于算法训练、哪些会被合作方分享,外界一概不知。而且,一旦服务器被入侵,高度敏感的人脸数据就会面临泄露风险。

有什么解决办法?

人脸信息泄露是一个长期性的安全问题,大家更关注的是如何解决。

首先,从技术层面,专家表示可以利用专门针对生物特征的活体检测技术,可有效识别扫描对象的生命体征,大大降低识别系统把照片或面具当人脸的风险。

其次,从立法的角度,专家认为人脸数据存储应该建立更严格的标准和规范,技术开发方、App 运营方应该在更趋严格的监管、法律以及行业规范下采集、使用、存储数据。

但事实上,去年 4 月,在全国人大常委会审议的《民法典人格权编(草案)》里就正式加了一条:任何组织和个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。

这其中就包括 AI 换脸技术。

也就是说除了法律另有规定的情况,如果被换脸的人没有同意,而你用了拍摄、绘画、P 图、DeepFakes、鬼畜等各种方式处理他人的脸,你就违法了,就算不以营利为目的也一样。

所以,从公民个人来看,遇到“丢脸”的情况先不要慌,我们可以拿起法律武器为自己维权。毕竟,在这个时代,想要不泄露隐私是不可能的。

此外,尚未出台的个人信息保护法草案也对人脸识别提出了要求:

在公共场所安装图像采集、个人身份识别设备,应当为维护公共安全所必需,遵守国家有关规定,并设置显著的提示标识。所收集的个人图像、个人身份特征信息只能用于维护公共安全的目的,不得公开或者向他人提供;取得个人单独同意或者法律、行政法规另有规定的除外。

可以看到,在法律层面,人脸识别问题已经引起了足够的重视。

当然,我们也要尽量减少在社交平台晒自己的美照。

而一个残酷的事实是:技术在进步,制度在完善,但是灰色、黑色的产业链却总也没法一网打尽,本该用来向善的科技也在那些阴暗的角落里滋生更多的病毒,甚至成为某些权钱交易的“桥梁”。

没错,技术向善在于人,但人心若向恶又当如何?

雷锋网雷锋网雷锋网

参考资料:

【1】https://weibo.com/2656274875/Jr0OY4QzN?refer_flag=1001030103_?c&type=comment

【2】https://www.huxiu.com/article/373642.html

【3】https://www.bilibili.com/video/av837602185/

【4】https://www.leiphone.com/news/202007/PHXQ0bUENfTRmnKE.html

【5】https://news.cctv.com/2020/10/22/ARTIpIsVdsN8JRQJb5ZH3XB2201022.shtml

雷锋网原创文章,未经授权禁止转载。详情见转载须知

细思极恐!央视曝光 AI 黑产,你的脸仅仅只卖 0.002 元,还可能成为“在逃嫌犯”

分享:
相关文章

文章点评:

表情
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说