您正在使用IE低版浏览器,为了您的雷峰网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
业界 正文
发私信给李帅飞
发送

0

300 多位学者联名上书,多名员工集体离职,会让 Google 停止与美国国防部合作吗?

本文作者:李帅飞 2018-05-15 14:06
导语:人工功能作为一项技术在道德和伦理方面所面临的困境,恐怕已经不仅仅是 Google 一家所面临的问题。

如今,对于 Alphabet/Google 管理层来说,如今不得不考虑的一个严重问题是:该如何处理已经与美国国防部在 Project Maven 上达成的合作关系。

Google 食言了?

雷锋网曾经报道过,Project Maven 是美国军方在 2017 年 4 月主导创建的一个项目,它也被称为算法战跨职能团队(AWCFT)。Maven 的任务指向是 “加速国防部整合大数据和机器学习技术”。而据该中心的助理研究员 Greg Allen 介绍,该项目的首要任务是帮助军方有效地处理空中无人机每天收集的大量视频片段。

300 多位学者联名上书,多名员工集体离职,会让 Google 停止与美国国防部合作吗?

按照美国国防部的计划,Project Maven 项目成立六个月就可以运行;为了满足该项目的迫切时间要求,国防部依靠自身显然并不足够。于是,它转而寻求与学界和业界的人工智能专家合作,以弥补军方和硅谷之间的技术差距。根据项目总监 John Shanahan 的说法,Maven 项目将为整个国防部点燃【人工智能的火焰前沿】。

实际上,据外界报道,自 2017 年 12 月以来,该项目已经被部署在与伊斯兰国的对抗中。

外界普遍认为,作为 TensorFlow 的开发者,Google 参与到了这项合作中去,不仅为国防部提供用于机器学习应用的 TensorFlow API 接口,还动用工程师资源为后者提供帮助。而这一合作在今年早些时候曝光之后,已经了大量的争议,许多 Google 员工表达了对此事的抗议。

300 多位学者联名上书,多名员工集体离职,会让 Google 停止与美国国防部合作吗?

雷锋网了解到,2017 年秋天,还在担任 Alphabet 董事长的 Eric Schmidt 在一次谈话中曾谈到科技圈与军方合作关系的担忧。 “技术社区普遍担心军事和工业结合体,会被作为不正当杀人利器,”同样也是国防创新委员会成员的他补充说,“我不会在军队内部提供 Alphabet 的东西。”

不过随着 Eric Schmidt 在 2018 年初卸任 Alphabet 董事长,Google 似乎食言了。不少媒体认为,为了获取国防部在云计算业务上的订单,它参与到国防部的 Project Maven 中去;尽管 Google 已经宣称其与军方的合作与战争用途没有关系,但这一问题还是引起了员工和业界的关注。

随后,这一事件持续发酵。目前关于这一事件的最新动向是:大约有 12 名 Google 员工将要离职,以表达对上述合作的抗议。

Google 员工的联名信和辞职

据外媒 Gizmodo 报道,让这些要离职的 Google 员工感到沮丧的,不仅仅是人工智能在战争无人机使用中的伦理问题,还有 Google 的政治选择以及由此带来对用户信任的影响。他们中的许多人已经在一份内部文档中表达了将要离职的决定,而这份文档也在 Google 内部分享。

不过,究竟这些人的辞职会不会对 Google 管理层造成影响,这是一个值得质疑的问题。

早在 2018 年 4 月初,大约有 3100 多名 Google 员工签名,面向 Google CEO Sundar Pichai 提交了一封信,要求 Sundar 立即取消参与 Project Maven,并要求 Google 起草并公开一份清晰的政策表明:Google 和它的合作方不会开发用于战争的技术。

300 多位学者联名上书,多名员工集体离职,会让 Google 停止与美国国防部合作吗?

这些员工在信中表示:

Google 在 Project Maven 中的相关参与计划将不可挽回地毁灭 Google 的品牌和它吸纳人才的能力。在越来越多的对于 AI 可能会偏激化和武器化的恐惧中,Google 在获取公众信任方面已经显得力不从心了……这一协议将会使 Google 的声誉面临威胁,并将会使 Google 站在其核心价值观的对立面。

然而,来自这些员工的痛心疾首的呼吁似乎并没能对 Google 的决定造成什么影响。Gizmodo 报道称,Google 并没有停止其在 Project Maven 中的工作,并且已经被外界认为是美国国防部的起来一个云计算工程——The Joint Enterprise Defense Infrastructure——的竞标者之一。也就是说,Google 之所以坚持参与国防部项目,可能是为了获取在云计算方面的相关利益。

不过,这一事件的复杂之处在于:Google 此前声明称它只是在为 Project Maven 提供一些开源软件。既然是开源软件,那么即使 Google 不参与其中,国防部照样可以自行下载使用,并将其用于军事用途。

另外,在 Google 参与 Project Maven 的消息曝光初期,Google 的一位发言人曾表示公司正在起草一份关于机器学习使用的政策和防护安全措施文件,但是据知情人士了解,这份文件的起草还未实施。

更大的舆论压力

如果说,来自内部员工的联名信和辞职抗议还不足以让 Google 管理层考虑改变决定的话,Google 在本次事态中还面临着更大的外界舆论压力。

雷锋网了解到,2018 年 4 月 19 日,就在 Google 员工发出联名信半个月之后,来自 Google、Amazon、Microsoft 和 IBM 等科技公司的员工发布了一封联合请愿信,声明称科技公司不应该参与到与战争有关的商业中去,因此 Google 应该中止与美国国防部的合作。

300 多位学者联名上书,多名员工集体离职,会让 Google 停止与美国国防部合作吗?

不仅如此,这封信还声称,Google、Amazon、IBM 和 Microsoft 等科技公司试图与美国国防部达成的商业协议将打破用户信任,科技公司拥有大量的全球用户敏感数据,它们不应该参与到某个国家的军事活动中去。从这封信的口风来看,虽然并不完全指向 Google,但是考虑到 Google 在人工智能领域的地位以及它已经引起的争议,毫无疑问它还是首当其冲的。

但这还不够,Google 员工的抗议和上述科技公司员工的情愿又得到了来自人工智能学界、计算机学界和伦理学界专家学者的支持。

5 月 15 日,国际机器人武器控制委员会(ICRAC)向 Alphabet CEO 拉里·佩奇、Google CEO Pichai 、Google Cloud CEO Diane Greene 以及 Google Cloud 首席科学家李飞飞发出了一封公开信,再次要求 Google 停止其与国防部在 Project Maven 上的合作协议,承诺不去开发军事科技,并保证不将其搜集的个人数据用于军事行动。

另外,这封信还呼吁 Google 宣誓不会参与或支持自动武器的开发、制造、贸易和使用,并支持对自动武器的禁止。

到目前为止,已经有 364 名专家学者在公开信上签名,而且签名数量还在不断增加。

300 多位学者联名上书,多名员工集体离职,会让 Google 停止与美国国防部合作吗?

在雷锋网看来,随着内部和外部舆论压力的增加,Google/Alphabet 已经陷入了某种腹背受敌的道德和舆论困境,这可能是一种比失去国防部订单后果更为严重的困境,甚至会引发一场严重的信任危机。可以想见的是,Google 将不得不对这一事态进行回应;但这并不意味着 Google 方面会完全听从舆论的想法,最终停止与美国国防部在 Project Maven 上的合作。

而至于人工功能作为一项技术在道德和伦理方面所面临的困境,恐怕已经不仅仅是 Google 一家所面临的问题,也不仅仅是 IBM、Amazon、Microsoft 等相关厂商的问题,它将无可避免地成为整个人工智能时代的一个长期性话题。

雷峰网原创文章,未经授权禁止转载。详情见转载须知

分享:
相关文章

作者

雷锋网编辑,欢迎来撩。微信 ID:XI_308.
当月热门文章
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说