智驾峰会
您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
人工智能开发者 正文
发私信给杨鲤萍
发送

0

ACM 对 2018 图灵奖获得者 Geoffrey Hinton、Yann LeCun、Yoshua Bengio 的专访

本文作者:杨鲤萍 2019-05-28 12:18
导语:“深度学习三巨头” 再谈人工智能

雷锋网 AI 科技评论按曾经,人工神经网络在AI领域内可谓是饱受争议,很多学者并不看好该技术方面的研究。而就在不久前, 有“深度学习三巨头”之称的Yoshua Bengio、Yann LeCun、Geoffrey Hinton 共同获得了 2018 年的图灵奖;同时他们在该领域的研究成果也成为了当今从搜索到内容过滤等各个方面不可或缺的组成部分。

那么现在炙手可热的深度学习和人工智能(AI)领域发展究竟如何?在这里,ACM对三位先驱者进行了相关问题的专访,以下内容将向大家分享三位学者激动人心的发现,以及他们眼中当下仍存在的挑战。

ACM 对 2018 图灵奖获得者 Geoffrey Hinton、Yann LeCun、Yoshua Bengio 的专访

Q:现在关于人工智能的异议已经远比你们刚开始研究时要多,其中一些是广为人知的,有些则不是。所以,你们不希望再被问到关于 AI 的什么问题呢?

GEOFFREY HINTON:比如这个问题,「神经网络只是泡沫吗?」因为在过去,人工智能领域的研究者们提出了许多宏伟的想法,但通常难以实现。而神经网络并不是,它的确行之有效,并且还可以扩展。在无需更多代码的情况下,通过向其提供更多数据和更高速的计算机时,它的性能还会变得更好。

YANN LECUN:的确如此,深度学习的基本思想并没有消失,但当人们问道是否只需简单地扩展当前的方法,就能使机器更加智能化时,它的表现仍旧不够理想,我们还需要创新。

YOSHUA BENGIO:目前的技术在工业和科学方面,已经有多年的应用经验。但对于我们三个人而言,作为研究者,在获取更详细的信息方面还不够有耐心,因为我们远离了人类级人工智能,并且对于理解自然或人工智能法则方面还有所欠缺。

Q:有哪些问题还没能得到充分的讨论呢?

HINTON:对于大脑是如何工作的,人工智能给了我们哪些启发?这个问题有人问过,但问的人还不够多。

BENGIO:而且更糟糕的是,尽管深度学习的灵感来源于大脑和认知,但如今参与其中的大部分工程师们并不关心这些问题。如果将其运用在工业中,倒是可以被理解;但就研究而言,如果我们不与那些试图理解大脑运作方式的人多沟通,我认为这是一个巨大的损失。

HINTON:换句话说,神经科学家现在正在认真对待 AI。过去几年来,神经科学家认为,「人工神经网络与真正大脑的不同之处,在于它不会告诉我们关于大脑如何工作的任何信息。」但现在,神经科学家非常认真的专研大脑中正在进行反向传播的可能性,这确实是非常令人兴奋的。

LECUN:现在几乎所有关于人类和动物视觉的研究都使用卷积网络作为标准概念模型,这在以前是几乎不可能发生的情况。

HINTON:我认为这对社会科学也会渐渐的产生巨大影响,因为它会改变我们对人的看法。曾经我们认为人是理性的存在,人的特殊之处在于他们使用推理来得出结论;而现在我们可以更好的去理解「把人比为大规模的类比制造机」的概念。它们很慢地形成这些象征性事物,然后这些事物决定了得到的类比。当然,我们也可以做推理,没有它我们就不会有数学,但这并不是我们思考的根本方式。

Q:作为先驱研究者,你们怎么看待过去的所取得的成绩呢?

HINTON:我觉得那些发明现在被定为标准技术的人有他的特别之处。上帝没有给他们任何东西,也可能存在其他更好的技术。然而对于一个已经进入领域并按标准方式做事的人来说,他不会理解这种标准方式是多么的独断。

BENGIO:学生们有时也会谈论神经网络,仿佛像在描述圣经一般。

LECUN:它打造了一代人的独断主义。然而,一些最具创新性的想法很可能来自比我们更年轻的人。

Q:该领域的进展着实令人惊叹,那么在 20 或 30 年前,你们可能会对什么感到惊讶?

LECUN:我对很多事情都感到惊讶。比如:深度学习改革竟然来得如此之晚;而它一旦开始后的发展速度竟然如此之快。我本以为事情能够逐步发生,但人们在 20 世纪 90 年代中期到 21 世纪初中期之间放弃了神经网络的整体观念。有证据表明在那之前它们依旧在被使用,而一旦大家接受了新的观念,深度学习改革发生得非常快。首先是语音识别,然后是图像识别,现在是自然语言理解。

HINTON:20 年前,如果有人说你可以以某种语言写入一个句子;然后把它分段,送进一个随机连接的神经网络;在完全不懂语法或语义即没有任何语言知识的情况下,训练神经网络将该句子翻译成另一种语言;最后得到比其他任何都翻译得更完美的情况,是令我感到震惊的。而现在尽管这样的翻译机还不够完美,也不如人工翻译更准确,但它已经和这个设想很接近了。

LECUN:这些技术在短时间内对很多行业变得不可或缺,这样的结果也是出乎意料的。如果现在把深度学习从 Google 或 Facebook 中去掉,两家公司都会崩溃,因为所有开发都围绕它进行。当我加入 Facebook 时,有一件事让我感到惊讶,那就是有一个小组在使用卷积网络进行人脸识别。我对卷积网络的第一印象是它可能对类别或级别的识别会很有用,比如:汽车、狗、猫、飞机、桌子;而不是面部等细粒度的东西。但事实证明它也可以很好的运用在面部识别上,并且现在它已经完全形成了标准。同时,令我感到惊讶的另一件事是 Yoshua 的生成对抗网络实验室,基本上可以使用神经网络作为生成模型来产生图像和声音。

BENGIO:当我在攻读博士学位时,我正在努力扩展神经网络不仅可以做模式识别,即将固定大小的向量作为输入并生成类别。但是直到最近,我们的翻译工作才摆脱了这个模式。正如 Yann 所说,产生新事物的能力确实具有变革性,而能够操纵任何类型的数据结构(不只是像素和矢量)同理。传统意义上,神经网络仅限于人类可以非常快速且无意识地执行任务,例如识别物体和图像。而现代神经网络在本质上,与我们在 20 世纪 80 年代所考虑的不同,它们可以做的事情更接近我们在推理时所做的事情,以及我们在编程计算机时所做的事情。

Q:除了技术本身的进展之外,Yoshua 还谈到了让发展中国家更易于获得这项技术的紧迫性,对此你们有什么看法呢?

BENGIO:我认为这非常重要。我过去一直不太关心政治问题,但机器学习和人工智能已经走出校园了,我认为我们有责任思考这个问题,并参与有关如何使用它们的社会和政治讨论。其中一个问题是知识、财富和技术将集中在哪里?它们是集中在几个国家,一些公司和一小群人手中,还是找到方法使它们更易于获取,尤其是对于那些可以为更多人做出更大改变的国家?

HINTON:Google 对其用于开发神经网络的主要软件进行了开源,称为 TensorFlow,您还可以在 Cloud 上将 Google 特殊的硬件用于神经网络。因此,Google 也正试图让更多的人能够使用这项技术。

LECUN:我认为这是非常重要的一点。深度学习社区在推广开放式研究的理念上做得非常好,不仅仅在学术界内,通过公开场合举行相关会议来发布论文、报告和解读;而且在企业界,Google 和 Facebook 等公司开源他们编写的绝大多数软件代码,为其他人提供工具,所以任何人都可以在短时间内复制其他人的研究。在任何特定研究课题上,没有一个顶级研究小组会比任何其他研究小组提前几个月完成。我认为重要的是整个领域的进展速度有多快,因为我们真正想要建立的东西——虚拟助手,它可以回答我们提出的任何问题,并且可以在日常生活中帮助我们。我们不仅缺乏技术,也缺乏基本的科学原理,所以整个研究团体的工作进展越迅速,对我们所有人就会产生越好的结果。

原文链接:

https://cacm.acm.org/magazines/2019/6/236987-reaching-new-heights-with-artificial-neural-networks/fulltext

雷锋网(公众号:雷锋网)AI 科技评论  雷锋网(公众号:雷锋网)

雷锋网原创文章,未经授权禁止转载。详情见转载须知

分享:
相关文章

文章点评:

表情
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说