您正在使用IE低版浏览器,为了您的雷峰网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
政企安全 正文
发私信给郭佳
发送

0

“黄播”扎堆出现后,腾讯说他们是这样应对色情黑产的

本文作者:郭佳 2017-12-21 17:26
导语:当直播成涉黄传播新“灾区”,腾讯分享了他们与黑产斗智斗勇的幕后故事。

“门票 30 元,2:30 开车,想看的哥哥赶快上车了!”

要不是无意中看到儿子手机上这句奇怪的话,老张怎么也想不到,刚上高中的孩子已然是各类色情直播平台的“老司机”。平日里他不想让孩子在经济上受委屈,哪知道零花钱都花给了这些辣眼睛的主播,想想都气得他捂胸口!

其实,随着直播的火爆,越来越多的黑产从业者早已把目光聚焦到这里,据此前中国青年报的报道,某些直播类的 APP 只有10-30 M的大小,找网络科技公司搭建的成本只需两三万块,相比于观看者所交的会员费和各类打赏,技术搭建成本相当低,一个色情直播 APP 只要请十几位主播就能快速赚钱,是门一本万利的生意。

来自山东泰安市公安局的民警在12月20日的互联网安全责任论坛中,就讲述了中国最大涉黄直播平台“月光宝盒”案件的破获过程。

揭秘色情直播黑色产业链

色情直播平台“月光宝盒”的开发者曾豪称“中国黄播我第一”,与其它色情直播相比,月光宝盒是一家聚合式的直播平台,它通过破解其它国内外直播平台的后台程序,盗取相关色情内容聚合在自家的平台中,一个APP里综合了几十家黄播平台,由于内容“丰富”,注册会员数高达300多万。

今年7月,泰安市公安局接到了来自腾讯的线索举报,根据大数据的分析,月光宝盒的管理人员当时在泰安活动,在全面掌握了其成员结构和活动区域等重要信息后,泰安市公安局在8月8日进行立案,9月3日部署警力,分48个小组,前往中国17个省对54名涉案人员进行抓获。

“黄播”扎堆出现后,腾讯说他们是这样应对色情黑产的

据腾讯公司安全管理部高级总监毛晟斌分析,目前的色情直播与我们平常印象中主播直接对接用户靠打赏盈利不同,现在的网络色情直播黑产早已形成了产业链,形成平台--中介--主播--用户的产业链,而且每一个节点下都有团队在运作。

仅在平台搭建这第一层,就会考虑到通过广告吸引会员注册,而在中介这层,已经有主播“经纪人”的角色参与了,他们代表主播与平台谈分成,据业内人士透露,主播和平台一般是四六开,中介能让新的平台在短时内聚集来多位主播,自己再从中分成。

而到了主播这里,除了我们平常所知的打赏,还有一对一或小范围的直播,这种价钱要更高,正如文章开头,如果不入会员或者发红包,主播不会告诉你直播房间号。除此之外,还容易诱发线下的非法性交易。

毛晟斌认为,网络直播已经成为了色情的重灾区,信息的跨平台传播为打击色情犯罪带来了新的挑战,这也对网络安全从业人员提出了更高的要求。

腾讯是如何进行色情识别的

色情是很主观的判断,在不同的场合和时期有不同的标准。

腾讯公司信息安全部总监鞠奇用一张大卫的雕塑图像开始了他的演讲,但在实际情况中,遇到的问题往往更复杂。

“黄播”扎堆出现后,腾讯说他们是这样应对色情黑产的

先开始,他们对图片的判定,分为“正常”“性感”和“色情”三档,但这种判定标准模糊,容易有漏掉一些色情图片。

有的图片故意将一个小的色情主体放置于一个庞杂背景下;有的给色情图片加上噪点,还有的给关键部位打上马赛克,试图干扰机器判断。

为了增加判断的准确性,鞠奇和团队尝试用深度学习的方法训练机器,找出包含细致标签的样本库进行人工智能的学习,让机器更加详细的了解图片中究竟出现了哪些隐私部位,相似度有多高,最后交由人工决策。简单来说,就是机器对各类隐私部位有了更多了解。

除了对与图像的识别,鞠奇强调还应该加强对文字、二维码等信息的识别,一些有色情属性的qq账号就是通过文字的简介或者相关的二维码对用户进行诱导的,这些识别方式在腾讯是经常用到的。

涉黄黑产新趋势

对于色情黑产,雷锋网曾经报道过色情诱导诈骗:20秒小电影撑起6亿黑产

其中提到,APP 或者视频网站的技术开发门槛很低,有经验的程序员可以用几天时间完成开发。而且,这类开发本身是一个开放的市场,可以公开购买,在某电商平台以“诱导 源码”为关键字,只需要数十元即可买到源代码。

唐兴波透露,从他们协助查获的案件来看,这些黑产发展呈现出公司化、平台化、国际化和智能化的趋势。

你一查,全部是正规公司

雷锋网在此前的报道中提到,黑产团伙的运营者通常具备一定的“法律意识”。为了保证网站的生存周期,或者APP在上架应用市场时能通过审核,同时规避“淫秽物品”的法律界定,其展示出来的内容都是经过精心剪辑的边角料。

比如武汉雷胜科技公司,其设有研发部、市场部、编辑部、财务部、客服部等,其中编辑部就主要负责色情诱导视频APP、网站内容的编辑和添加,还雇佣了律师对视频和图片内容进行审核,确保内容能够通过审核、上架。警方在扣押武汉雷胜科技公司的服务器时,查处其中存放的百部电影短片、数万张图片,但都很难直接鉴定为“淫秽物品”。

唐兴波告诉雷锋网,目前色情黑产在对人工智能的利用也很多,比如一些对色情图片的处理,规避了机器对色情图片的识别机制。此外,随着国内加大对网络犯罪的打击力度,一些黑产团伙也开始转移阵地去东南亚和欧洲等地,继续做着针对国内的网络犯罪,这也增加了公安部门打击治理的难度。

在论坛上,来自联合国儿童基金会儿童保护官员苏文颖给出了一个数据,目前18岁以下的网民占到了总网民数的三分之一,这批互联网的原住民现在已经成为上网的主力军,而且他们将主导未来网络世界的发展,希望在未来,我们不会有老张的烦恼。

雷峰网原创文章,未经授权禁止转载。详情见转载须知

分享:
相关文章
当月热门文章
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说