CCF-GAIR 2020
您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
业界 正文
发私信给李秀琴
发送

0

Deepmind成立新AI部门,意在处理AI社会和伦理问题

本文作者:李秀琴 2017-10-05 12:11
导语: DeepMind 宣布成立一个AI新部门,主要负责研究AI带来的伦理问题和社会问题。

雷锋网10月5日消息  据外媒 The Verge 报道,近日,Google旗下AI研发公司 DeepMind 宣布成立一个AI新部门,主要负责研究AI带来的伦理问题和社会问题,如自动化给未来经济带来的影响等等。

Deepmind成立新AI部门,意在处理AI社会和伦理问题

图:DeepMind办公室

据了解,新部门的主要目标是帮助技术人员将伦理应用于实践,帮助社会预测AI的影响,并对其影响给予引导,确保AI造福人类。2016年,DeepMind 开发的AI系统在围棋棋盘上打败世界顶尖选手,因而名声大震。

DeepMind 为新部门命名为 DMES(DeepMind Ethics & Society:伦理和社会)。新部门将于2018年开始就这些课题目标进行研究。目前,该部门已有8名全职员工。不过,按照 DeepMind 的计划,该部门的员工规模将在一年时间内增至25名左右。

为了壮大团队,DeepMind 还从外部学术机构和慈善机构聘请一些顾问,为新部门提供咨询服务,包括哥伦比亚大学发展学教授 Jeffrey Sachs、牛津大学AI教授 Nick Bostrom、气候变化活动家 Christiana Figueres。

DMES 联合主管 Verity Harding、Sean Legassick 在公告博文中表示,这些专家不只精通专业技术,还可以带来多样化的思考。同时,二位还表示,DMES将帮助 DeepMind 探索和了解AI带给现实世界的影响。“如果AI技术要服务于这个社会,那么,其必须经受住社会的优先事项和关注重点的重塑的过程。”

雷锋网(公众号:雷锋网)还了解到,新部门届时还将与有着类似研究目标的学术团体合作,如纽约大学的 AI Now Institute和剑桥大学未来智能研究中心(Leverhulme Centre for the Future of Intelligence)等等。

事实上,2014年 DeepMind 被 Google 收购时曾承诺要建立一个“AI伦理委员会”。与新部门不一样,该委员会主要用以监管公司的所有AI研究活动。不过,自收购以来该伦理委员会并没有多大作为。特别是 2016年,DeepMind 在与英国国民健康服务局(NHS)合作时,受到了公众的大肆批评,这让其进一步认识到AI伦理问题的重要性。

2015年,DeepMind 和伦敦三家医院达成合作,处理了其中160万名患者的诊疗数据。2017年,该行为被英国的数据监督机构判定为非法,因为该公司没有通知到个人他们的数据已被使用。DeepMind 后来表示,他们低估了“NHS的复杂性和患者数据的规则”,并聘请了新的独立伦理审查员以监督未来的任何交易。

虽然DMES的成立主要是基于 DeepMind 对AI带来的伦理问题的考虑和重视,但至目前为止,该公司的内部伦理审查员依然笼罩着神秘面纱。同时,据了解,新部门将与 DeepMind 的产品部门并行运营。未来,新部门聘请了哪些审查员,多久进行一次会议,主要讨论哪些要点,又有哪些形式...关于这些问题,只能在未来慢慢寻找答案。

Via The Verge,雷锋网编译

雷锋网原创文章,未经授权禁止转载。详情见转载须知

分享:
相关文章

文章点评:

表情

记者

跟踪Fintech和区块链(微信:cqmm16,备注身份姓名来意,thx)
当月热门文章
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说