您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
人工智能学术 正文
发私信给蒋宝尚
发送

0

从开放到封闭,资金压力正在侵蚀OpenAI

本文作者:蒋宝尚 2020-02-19 16:34
导语:缺钱是妥协的根本原因

从开放到封闭,资金压力正在侵蚀OpenAI

今天,麻省理工科技评论的一篇文章再次把 OpenAI 推上舆论的风头浪尖。

作为由钢铁直男Elon Musk和YC创始人Sam Altman等人共同创立的项目,OpenAI尽管成立只有4年的时间,但已经成长为在AI研究领域媲美于Google、Facebook、亚马逊、DeepMind等最优秀研究机构的存在。

但是最近一年,OpenAI却备受批评,先是发布最强“通用”NLP模型GPT-2而不开源;再而是接受微软10亿美元投资,从而转为“有限盈利”企业违背初心.......种种迹象表明,OpenAI 与4年前马斯克所声明的那个“人工智能非营利组织”已然不同。

从开放到封闭,资金压力正在侵蚀OpenAI

(雷锋网(公众号:雷锋网)

那么OpenAI 的现状到底如何?针对这一问题,麻省理工科技评论的记者Karen Hao 前后花了六个月的时间,做了36次采访,揭露出了OpenAI的真实面貌。Karen 发现 OpenAI似乎放弃了其先前的开放性和透明性承诺;换句话说,竞争的压力正在侵蚀“理想主义”。

1、从开放到封闭,矛盾正在侵蚀OpenAI

上次OpenAI让大众眼前一亮研究还是它在2019年发布的最强“通用”NLP模型GPT-2,从那之后,也就是其转型为“有限盈利”企业这将近一年的时间,这种能够带来突破性的研究的“光环”已经从OpenAI身上渐渐退去。

从开放到封闭,资金压力正在侵蚀OpenAI

(雷锋网)

当时还是非营利组织的OpenAI宪章第一条还是“首要信托责任是人类”(primary fiduciary duty is to humanity)。这个神圣的信条也使他与其他顶级AI研究机构区分开来。

“为每个人而不是股东创造价值”的条款让OpenAI汇集了一群世界顶级研究员,包括首席技术官原支付公司Stripe的格雷格·布罗克曼(Greg Brockman);研究总监是Ilya Sutskever;另外还有从顶尖人才中选拔出来的七名顶尖人才,他们共同组成了OpenAI的核心技术团队。

然而,尽管有马斯克等人在最初注资的10亿美元,但AI研究是一个太过耗费资源的领域。据OpenAI的CTO 布罗克曼介绍,大概每过3~4个月,研究所需的计算资源就会增加一倍。为了保证研究有效进行,就必须有足够的资金匹配这一指数级别的增长,这就需要在忠于使命的同时,能有一个能够迅速积累资金的新组织模式。

于是在去年,OpenAI转变为“有限盈利”企业。在那之后,OpenAI的高层重新建立了薪酬结构,根据任务承担来发放薪资。OpenAI为其员工设计了激烈竞争与不断增加的压力。

这种方式,确实给它带来了更多的资金,但也破坏了其最初开放、透明、协作的精神。其实早在2018年的4月份,OpenAI在重新发布公司章程时候就有了转换公司模式的苗头,那份章程除了重新阐明了实验室的核心价值之外,还巧妙地用语言道出了新的需求——对资金的需求。

从开放到封闭,资金压力正在侵蚀OpenAI

OpenAI会议室,图片来源:麻省理工科技评论

转换之后,员工和领导都有一个过渡期,员工对外界不断的批评感到沮丧,而领导层的担心也在逐渐破坏OpenAI的影响力和招聘优秀人才的能力。

其实破坏实验室影响力的因素不光是“盈利企业”这一项。

和其他公司一样,OpenAI同样存在多样性的缺乏,根据实验室的发言人介绍,女性员工不足四分之一,在接近120名员工中,绝大多数是白人或亚洲人。多样性和包容性是影响一个团队进步的长远因素,虽然OpenAI在这方也做出了许多努力,显然还远远不够。

在总体运行战略方面也有许多可圈可点之处,比如现在的研究总监Amodei将实验室的战略分为两部分:第一部分是如何实现高地AI的功能,不同的研究团队对这个策略的理解不同,例如语言团队认为,可以让机器通过单纯的语言学习重塑对世界的理解;机器人团队则认为智能的发展需要突破物理的限制。

实验室战略的第二部分是如何让AI系统变得更加安全,如何让它正确反映人类的价值观.....

很明显,实验室的两个策略似乎都在为实现AGI而努力。

但是最大的问题正如Amodei所述:“我们不知道AGI是什么样子”。

这就意味着策略的建立存在很多杂乱无章的地方:策略的建立较少的基于已有的理论,更多的是基于直觉。

具体到研究突破层面来讲,OpenAI更多的是在重复别的实验室开发出的创新成果:依靠大量的计算资源投入来获得最佳的效果。

也就是说,运行策略的不合理正在阻碍OpenAI的发展。

另外公司还有一条铁律:未经公关部门的明确许可,不准向记者吐露任何事情。这意味着现在的OpenAI已经没有了其最初“完全受信任”的影响力,大众不再认为它是机器学习和AGI研究最受信任机构。

其保密的范围不仅针对媒体,其公司内部也有相应的保密级别。例如对于OpenAI正在进行的研究项目,有关消息称这可能是OpenAI成立几年来最高水平的研究项目。

但就是这样一个项目,却不允许实习生参加。现在的OpenAI,尽管有着远大的抱负,但却致力于“保密”。

随着时间的流逝,OpenAI的高层已经没了最初的想法,“开放是构建AGI的最佳方法”在OpenAI内部似乎已经不再适用,OpenAI 目前所忙活的炒作、吸引资金和人才似乎才是对它最有帮助的。或许吧,正如布罗克曼所言,OpenAI现在的抱负是“要做最好的事”。

2、缺钱是妥协的根本原因

MITReview的记者 Karen Hao在其twitter上也指出,这篇报道事实上并不仅仅是关于一个实验室(OpenAI)的问题,更是一个系统的问题:竞争和资金压力如何推动创新?

据OpenAI的一份分析报告指出,从2012年至2018年,最大规模的AI训练所需要的算力已经增长了30万倍(到2020年的今天,这数字应该已经翻了更多倍),平均每3.5个月便翻一番。

从开放到封闭,资金压力正在侵蚀OpenAI

(雷锋网)

正是基于对算力的渴求,在去年7月份,OpenAI接受了微软10亿元的投资,微软成为OpenAI的独家云供应商,同时 OpenAI 也会和微软合作开发 Azure AI 超级计算技术,并授权微软使用其部分技术进行商业化。

这一举措,也受到不少业内人士的质疑,人们担心OpenAI将会受到微软的影响,屈服于财政压力和其他因素,无法再像以前一样保持开放、平等传播的姿态。

事实上,这种担心不无佐证,在去年3月份,OpenAI便已经进行了一轮重组,成立了名为“OpenAI LP”的子公司,目的便是为了更好地筹集资金,吸引人才,从而能够与Google、Facebook等大公司在AI领域进行竞争。人工智能研发不仅需要的巨大算力,也需要庞大的资金。

一个非营利组织在筹款上是有极限的,而弥补成本最有效的方式,就是改变现有架构。但也有人为OpenAI做出辩解:面临这种取舍,除了缺钱,更重要还是因为他做出的战略选择;作为一个非营利性组织,它要和类似Google、Facebook这样的大公司进行竞争,以保证能够先于它们做到AGI,这种压力会迫使它们做出一些似乎偏离其初衷的决定,它们需要吸引资金和人才,并保护自己的研究,从而来保持长期的优势。

类似于OpenAI,事实上在美国同样还有一些其他的非营利性组织在积极探索人工智能的未来,例如总部位于西雅图的AI2。不同于OpenAI的地方是,AI2的资金来源于微软联合创始人、已故的亿万富翁保罗·艾伦(Paul Allen)留下自筹资金,在可预期的未来,AI2将不会受到资金的压力。

OpenAI作为一个非营利性组织缺一位“富有的慈善捐赠者”。因此,正如 Karen Hao在文章最后所说,OpenAI需要赚钱来做研究,而不是反过来。缺钱,才是OpenAI不断向现实妥协的本质原因;任何非营利组织,背后都不可或缺一个庞大的资金来源。

3、开放还是赚钱,这是个问题

资金的压力迫使OpenAI渐渐违背了其最初的保证。但不可否认的是 OpenAI 仍然是一个人才和前沿研究的堡垒,充满了真诚地为人类利益而努力工作的人们。

换句话说,它的初心仍未变,仍然有时间去纠偏匡正。

而另一方面,正是由于他们在尝试进入一个未知的领域,所以才会有各种各样的错误出现。作为旁观者,我们应该为他们提供正确的批评。谁会希望,在未来AGI是由像Google、亚马逊、Facebook、苹果或阿里巴巴这样的企业开发出来,而非OpenAI这样的非营利性组织呢?

但放弃控制才是理想的开源的逻辑本质。倘若真的集齐足够多的最强大脑来共同完成AGI目标,打败凭借个人私力控制人工智能世界的恶念最好的方式是让每个人都拥有这项技术。

从开放到封闭,资金压力正在侵蚀OpenAI

针对这个问题,马斯克也非常关心,其在twitter上表示:OpenAI应该更多的开放。

从开放到封闭,资金压力正在侵蚀OpenAI

从开放到封闭,资金压力正在侵蚀OpenAI

但是坚持初衷,完全开放对于一家只是实验室的OpenAI来说是最好的选择么?或许正如微博大V“爱可可-爱生活”引用François Chollet一段话那样吧:相比初衷,是否有持续正确的激励,真正决定了实验室将走向何方、能走多远。

参考:[1] The messy, secretive reality behind OpenAI’s bid to save the world, 

https://www.technologyreview.com/s/615181/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/

[2] 拿了微软 10 亿美元的 OpenAI,到底想做什么?,

https://baike.baidu.com/tashuo/browse/content?id=df6178d6a398cbbcb21dc4ad&lemmaId=19758408&fromLemmaModule=pcRight

雷锋网原创文章,未经授权禁止转载。详情见转载须知

从开放到封闭,资金压力正在侵蚀OpenAI

分享:
相关文章

文章点评:

表情
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说