全球人工智能与机器人峰会 CCF-GAIR 2019
您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
智慧城市 正文
发私信给又田
发送

0

百度安全:构建智慧城市的基石——AIoT安全|AIoT+智慧城市峰会

本文作者:又田 2018-12-21 06:29 专题:2018 AIoT+智慧城市峰会
导语:AIoT的生态安全现状不容乐观。

雷锋网编者按:AIoT即AI+IoT,指人工智能技术与物联网在实际应用中的落地融合。AI与IoT融合领域近年来一片火热,不论是资本市场,还是大众创业,无不对其表现出极大的热情。但是AIoT的生态安全现状却不容乐观。在雷锋网12月20日举办的「AIoT+智慧城市峰会」上,百度AI安全技术总监聂科峰带来了《构建智慧城市的基石:AIoT安全》的演讲。

以下为聂科峰演讲实录,雷锋网做了不改变原意的编辑整理。

聂科峰:谢谢雷锋网的邀请,在AIoT一片大好的情况下,让我们说一说对未来的担忧。刚才腾讯和华为的同学都讲到智慧城市在很多维度都开始有应用了,但是对于我们来说,未来大规模应用必须得以安全作为基石。

半年前我就讲过AIoT的安全,那时候讲AIoT,很多人还不太明白什么叫AIoT,其实就是AI+IoT。我花了很大板块来讲,而这半年这个词已经非常火。

但我这里要直观地分享我的理解。现在在整个智慧里用得最多的点,包括智慧交通、摄像头的应用、人脸识别的应用,都是基于摄像头的应用。最早我们使用摄像头,是用存储卡记录和监控,这属于非常传统的电子产品;而有一天基于带宽的发展,摄像头可以实时传到网上去了,这就变化成了物联网产品。

什么叫AI+IoT?可能是监控过程中我们加入了对监控内容的AI分析,并且能给出实时反馈,还能做一些事情,比如监测到一个坏人可能会报警,比如流量控制改变红绿灯设计,这在未来都是AIoT所带来的应用。

但是我们想想安全问题,如果是电子存储的SD卡,只是记录整个过程,我们所做的安全就是要防止把卡偷走。在物联网时代我们考虑网络安全,是要防止实时的数据,可能被别人监控到,或者一些隐私的数据被拿到。但是AI完全不一样,因为AIoT它会去分析,去判断,去做动作,去干扰整个事情的过程,这时候安全非常重要,它承担了采集离线分析,云端分析。我们需要做一些事情,去关注未来恶意执行这方面带来的风险。

从整个AIoT来看,我们认为生态安全是非常不乐观的。

百度安全:构建智慧城市的基石——AIoT安全|AIoT+智慧城市峰会

像摄像头有很多安全问题,我们也监测到有很多安全案例发生在目前的这些设备当中。包括基于指纹,基于摄像头的都能被破解。可以看到在这个生态演变的过程中,有一个时代的变迁,从PC到移动再到AIoT,它的根基是生态的碎片化愈加严重。

PC时代只有微软一家独大,芯片也只有英特尔一家。移动设备上有iOS和安卓,基于芯片和系统的不同,所带来的安全风险会有几何数量的增加。到AIoT,这更是非常杂乱的过程,从芯片到系统等等,更是非常大的生态,碎片化带来的问题就是基于此的安全非常具有挑战性。

各个厂商和上游都在推自己的产品,可能外观看上去差不多,但是你问他的硬件版本,参数选型,完全不一样,即使一套同样的方案都可能在产品上产生不同的价值。

百度安全:构建智慧城市的基石——AIoT安全|AIoT+智慧城市峰会

我们刚才看到有各种芯片厂商,目前没有一家是完全打通的,每一个都是可以排列组合的,所以导致我们在这方面面临的风险会更高。

从我们的角度来看,AIoT整个系统安全挑战有两块,一块是传统的基于IoT设备本身需要联网,需要系统,本身就存在潜在的系统和网络风险。更重要的是加入了AI之后,AI带来新的风险,我们可以看到传感器欺骗,这是AI与视觉相关的;软件缺陷有开源、第三方的、基于机器学习的,本身有很多漏洞,这些漏洞带来的缺陷也会影响AI在IoT应该发生的正确反应;还有基于大数据的污染;而系统风险和网络风险这就是非常传统的,移动和PC时代都会面临的问题。

百度安全:构建智慧城市的基石——AIoT安全|AIoT+智慧城市峰会

所以AIoT安全是有新仇旧恨的。新仇就是IoT本身计算力比较弱,之前大家对这一块安全关注度不够,本身就有很多问题,重点可能是在网络,在系统上的问题。附加AI之后,基于数据采集、数据传输、数据分析、数据反馈,这个过程中又会带来很多新的问题,现在所谓的AI安全,大部分人是在强化AI攻击或者数据攻击和模型攻击的事情。

但是从结果来看,这一块是存在很多问题的,去年,我们的同学就已经可以突破当时的人脸识别,当时是国外的一款手机用了人脸识别解锁技术,我们构造了一个条件就可以突破掉。可以看到这个Stop非常经典的图,在很多讲人工智能AI的大会上都能看到,基于小的数据污染就能让AI形成非常错误的结论。

百度安全:构建智慧城市的基石——AIoT安全|AIoT+智慧城市峰会

所以在这个挑战中我们相信,除了系统的碎片化和整个生态的复杂度之外,在传统安全,系统、网络、云端都很有可能快速把之前的经验复制过去。但是AI上的挑战是非常持续的,这方面也是整个行业,包括学术界不断的投入。

AI的不确定性,目前训练出来的模型都是黑盒子,未来数据能不能给出正确答案,可能只有70%,80%,90%,都是相对性的结论,这个结论是没有办法人为干预的,只有我们不断调整这个参数。这过程中我们做一些干扰的数据,做一些数据流攻击,甚至是模型层面做模型反逆向做模型渗透等等,这就导致我们的识别结果可能在模糊地带,有可能是一个小的像素的粘贴,就导致结果从A跳到了B。

有几大基于机器学习的攻击,一个是物理世界的攻击,现在很多做语音识别的,我可能是模拟一段语音或者发起一段语音,这可能是被识别成恶意指令,可以做一些动作。所以接受AI之后可以做响应,图片也是一样,我们可以用物理的图片加干扰,做这个模型可能会得到完全不一样的结果,白盒是做模型内部的细节,目前来看是属于比较高级的攻击方式。

百度在这方面做了一些实验,针对语音识别的机器学习对抗已经有一些成果,我们可以模拟出类似于一段海豚音,让机器识别出来,但是人是听不见的,安静的环境没有接收到任何指令。但是通过攻击性语音,让机器可以识别,机器做出相应的反馈和指令,可以达到攻击的过程。同时还有基于语音的唤醒机器,可以做到隐匿语音唤醒,唤醒之后所有的隐私就可能被暴露出来,这都是未来基于AI的攻击点。

要系统性的解决AI的安全问题,需要从三个方面来处理,还是要做好整个的安全评估,再有一定的方案做安全保障,最重要的是建立起非常及时的安全响应机制和通道。因为安全从来都不是一锤子买卖,是一个持续的攻防对抗过程,所以这个过程中,持续的响应是未来非常重要的一点。

在AIoT设备中涉及到云、管、端和数据相关,不同层面要提供不同的安全保障。

在安全评估上,我们在推行业安全基准,包括跟信通院,对一些具体场景,比如音箱、摄像头等。我希望未来上市的所有智能设备,基于AIoT的设备,上市之前都有一个基准的安全评估,能够在设备传输和AI几个点符合基础的标准,这样就大大降低未来可攻击性。

从我们跟信通院建立的标准来看,目前通过我们建立的安全评估点和安全设备,使整个安全状况有明显提升。在硬件和固件层面都提供了很多的威胁点,未来很多的设备都会有相应的标准来降低未来潜在的风险。

我们也提供了一些专业工具可以辅助大家做评估,比如说百度的Advbox,是专门针对AI的安全工具,第一是可以对你的安全模型做健壮性和基础性测试。另外可以提供对抗样本来训练你的模型,使你的模型加固。第三是我们可以让你去了解对抗样本,这是基于开源的平台,大家在AI上可以检测这些功能。在IoT上我们也提供了一些端上的检测工具,第一时间可以非常方便发现存在的风险和漏洞,在整个设备出厂之前就能感知到风险。

安全保障这一块我们也分了几大块,云端防护思路是非常重要的。特别是基于语音、摄像头,刚才说的AI会导致行为错乱,但是云端的措施没做好会导致隐私的泄露。从国家层面到大众对这方面都有强感知,所以基于这些设备我们要做基于网络安全的风险部署,协议通讯这一块希望所有的设备能够做基于SSL、TLS的加密,包括DNS方面,我们之前存在很多DNS被劫持的场景。劫持之后可能内容会转变为第三方甚至广告等等,我们希望能够有安全的DNS服务去做保障,这一整套通讯层面的安全,最重要的是保证我们的数据传输是安全的,隐私不会被泄露。

百度安全:构建智慧城市的基石——AIoT安全|AIoT+智慧城市峰会

对设备端的保护,因为系统非常碎片化,我们要做大量的工作,基于不同的版本做不同的安全措施,但是系统这一块最重要的分几块去做:第一,安全状态本身要有感知能力,需要做一些监测,包括系统可能被利用了,这些自感知能力很重要;第二我们本身能够有一些恶意判断的应用,包括在安卓的场景,都会有利用恶意应用来攻击场景出现;另外漏洞这一块需要持续关注,对漏洞要及时响应,否则可能会被利用。同时跟第三方媒介的接触要做较强的校验和认证。

安全响应考虑到的是便捷性,所以响应一定要有一条设备和云端的通道。这条通道是设备的生命线,可以更新设备的特性和性能,优化我们的体验,同时可以做安全最重要、最快速的下发通道,包括OTA的安全,是我们的生命线。

在很多行业推出的响应手段,是针对漏洞可以做一些自适应的修复,这会极大的提升我们在AIoT这个行业里对漏洞的响应能力。因为一个漏洞可能跨十个版本,可能IoT里十个版本部署在几十个产品线上,如果有一个高危漏洞出现,可能我们要做几十次封装和下发。这是非常繁重和有成本的操作,因此现在很多厂商不太关注。但是如果有自适应的修复能力,我们在内核做自适应接入,未来所有的设备只需要一个小的Patch就能解决问题,极大的提升安全的联动和响应机制。

百度针对之前的问题也做了很多实践,从云、管、端都提供了方式和手段。云端我们DDos防护还有Web漏洞防护,都有广泛的应用。还有在AI学习这一块有对抗样本工具,通讯这一块提供了Mesalink,基于SSL的加密通讯的机制。DNS反劫持上,百度开放了搜索多年DNS劫持上的经验,端上这一块我们也有非常强的包括安全OTA、热修复机制等等,我们会提供云管端一体系的安全解决方案,目前在小度和车中都已经应用,以及外面很多AIoT厂商也不断与我们合作应用落地,如创维、康佳、暴风等。我们跟整体AIoT生态的合作伙伴一起打造安全生态,希望未来做到越智能越安全。谢谢大家。

百度安全:构建智慧城市的基石——AIoT安全|AIoT+智慧城市峰会

峰会演讲视频全集稍后将在雷锋网(公众号:雷锋网)会员【AI投研邦】里推出,并及时通知大家。大家可关注【AI投研邦】二维码。

百度安全:构建智慧城市的基石——AIoT安全|AIoT+智慧城市峰会

雷锋网原创文章,未经授权禁止转载。详情见转载须知

分享:
相关文章

文章点评:

表情
当月热门文章
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说