2020最佳AI新基建年度榜
您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
人工智能学术 正文
发私信给青暮
发送

0

图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化

本文作者:青暮 编辑:刘晓坤 2020-07-30 17:28
导语:一向直言不讳的Yann LeCun,这次也心累了。

图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化

作者 | 青 暮

编辑 | 蒋宝尚


经历了长达两周的「骂战」,Yann LeCun不知是感觉失望还是心累,于今日宣布,将退出推特,不会再在该平台上发表言论。


Yann LeCun 在推特上的最后发声:


图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化


请社交网络上的所有人不要再互相攻击了,特别是对 Timnit Gebru 的攻击,以及对于我之前言论的攻击。无论是口头还是任何其他方式的冲突,都只会得到伤害和相反的结果。我反对一切形式的歧视。这将是我在推特上最后一篇帖子。

这场争议起源于提出PULSE这一模型的论文,有人用作者在论文中开源的代码进行了模型推理:用奥巴马的打码图像进行了试验,结果发现奥巴马被还原成了白人。


图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化论文地址:https://arxiv.org/pdf/2003.03808.pdf


由于PULSE建立在StyleGAN的基础上,而StyleGAN所用的数据集是FFHQ,这个数据集里包含了90%以上的白人人脸。PULSE的特点在于,可以将多个不同但相似的人脸图像聚合为同一个低分辨率图像。


许多算法都试图从低分辨率恢复高分辨率图像,这可能是错误的方法,原始图像实际上是信息稀疏的。因此,奥巴马的打码图像还原后也不一定是奥巴马,我们会坚持认为那张图像的原型必然是奥巴马,也是由于记忆先验导致的偏见。PULSE提供的不是错误的答案,也不是故意的,但提供了有偏见的答案。


针对这张图,Yann LeCun在推特上发表了这么一句话:“当数据有偏见时,机器学习系统就变得有偏见。这个人脸上采样系统让每个人看起来都像白人,因为网络是在FlickFaceHQ数据集上预训练的,而这个数据集主要包含白人图像。”


 图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化

这为LeCun招来了不少的批评,很多专家认为LeCun在提出狭隘甚至错误的观点误导人们,并纷纷提出了自己的质疑。LeCun对这些质疑一一回应,但仍得不到理解。


一开始争论的焦点在于:AI产生偏见的原因是否只是数据集导致?算法本身的缺陷能不能成为原因?尽管LeCun后来在一系列的推文中一条一条地解释自己的观点,指出自己同意各位专家的质疑,只是自己的论点建立在特定的条件下,数据确实不是AI偏见的唯一来源。


然而,由于与LeCun辩论的专家中有一位是斯坦福 AI Lab 成员、Google AI 黑人女性科学家 Timnit Gebru(非洲裔美国人),“黑人”和“女性”这两个敏感词不知为何成为了众人借题发挥攻击LeCun的工具。

争论中走向了真正的“偏见”

作为AI的公平性、问责制和透明性的领先研究者,Timnit Gebru首先在推文中对 LeCun 的言论表示「失望」,并指出机器学习系统中的偏见仅来自数据的观点是不正确的。她还建议Yann LeCun查看她之前做过的课程,因为她才是专家。

 图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化  
Yann LeCun后来在Timnit Gebru 的推特评论区连写 17 条回复:表示自己同意她的观点。
图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化 图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化  图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化 图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化

Timnit Gebru对此的回应却是:我出于自己的理智不再与您交流,因为这不值得我花费时间。

图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化

Yann LeCun回应:我很遗憾您不愿意讨论实质内容。我曾希望从这种交流中学到一些东西。FB中有几个小组完全专注于ML / AI的公平性,偏见和社会影响。

图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化

有人批评Yann LeCun,并称其向Timnit Gebru讲授她的专业知识,居高临下,并涉及言论霸凌。


另外还有人说,Yann LeCun给该领域的专家提供了推文教程,没有问任何问题,没有进行真正的讨论,没有尊重她的专家地位,也没有要求澄清她的任何观点,还要求她控制情绪,那么又希望她如何参与?其中还有人特别强调了Timnit Gebru的黑人女性身份,暗示Yann LeCun存在歧视行为。甚至还有人直接批评Yann LeCun在进行对女性的“直男”说教。


也有很多人在为Yann LeCun辩护,表示他的行为是理性、冷静和有耐心的,并且也称得上是AI偏见方面的专家,他不应该为自己没做错的事情道歉。


Yann LeCun后来在推文中向Timnit Gebru表示赞赏她在AI道德、公平方面的工作,并对自己的交流方式道歉,希望她能和Facebook AI的研究员一起交流如何一起和偏见作斗争。


图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化

不过事情并非如此简单,Yann LeCun又因为另一个言论被卷进了漩涡。当有人说,机器学习研究者应该在选择数据的时候更加小心,Yann LeCun回应道,这主要是机器学习工程师而不是研究者的责任。人们又开始批评Yann LeCun在推卸责任,忽视学术研究对AI偏见的影响力。人们也提醒Yann LeCun,作为领域的领军人物,发表言论应该更加小心。其他人则指出,研究人员在一定程度上必须使用有缺陷的数据集来取得进步。


尽管在这次漫长的争论中,还是有很多人为Yann LeCun辩护。但或许,对于Yann LeCun来说,这种争论早就脱离了正轨,不应该出现,这本身就是一种失败,是将社交网络应用于AI社区交流的失败。由于自己话语的分量,当其中涉及了敏感话题,无论怎么辩解,都会陷入矛盾的中心被围观,最后却得不到有意义的结果。一向直言不讳的Yann LeCun,这次也心累了。雷锋网雷锋网雷锋网(公众号:雷锋网)

雷锋网原创文章,未经授权禁止转载。详情见转载须知

图灵奖得主Yann LeCun“认输”离开推特,AI社区上演杠精文化

分享:
相关文章

文章点评:

表情
当月热门文章
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说