您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
人工智能开发者 正文
发私信给skura
发送

0

google AI 最新博文:模型的不确定性是否可信?

本文作者:skura 2020-01-17 20:18
导语:在数据集转移的情况下,不确定性的质量会下降,但是一些有希望的研究方法可以缓解这种情况

在实际应用中,机器学习模型遇到的数据并不总是具有相同的分布。在这种情况下,模型的精度会如何变化?近日,Google AI 发布了一篇博文,讨论了这个问题,他们认为,在数据集转移的情况下,不确定性的质量会下降,但是一些有希望的研究方法可以缓解这种情况。原文大意如下:

在理想情况下,机器学习方法(如深度学习)被用来对与训练数据分布相同的数据进行预测。但实际情况可能大不相同:相机镜头变得模糊,传感器退化等问题,都可能导致训练模型与应用模型数据分布之间的差异,从而导致所谓的协变量偏移。例如,最近有人观察到,接受过胸部 x 光检查肺炎训练的深度学习模型,在根据以前没遇到过的医院数据进行评估时,其精确度水平将大不相同,部分原因是图像采集和处理方面的细微差异。

在 NeurIPS 2019 上,我们的论文「Can you trust your model’s uncertainty? Evaluating Predictive Uncertainty Under Dataset Shift」对最先进的深度学习模型的不确定性进行了基准测试,因为它们暴露于不断变化的数据分布和分布外的数据。在这项工作中,我们考虑各种输入模式,包括图像、文本和在线广告数据,将这些深度学习模型用于不断变化的测试数据中,同时仔细分析其预测概率的行为。我们还比较了各种不同的方法来提高模型的不确定性,看看哪些策略表现最好。

什么是分布外数据?

深度学习模型为每个预测提供一个概率,这个概率表示模型的可信度或不确定性。因此,当数据不在原始训练数据集的范围内时,它们可以表达它们不知道的内容,避免预测。在协变量移位的情况下,不确定性理想情况下会随着精度的任何降低而成比例增加。一个更极端的情况是,数据不在分布范围内(OOD)。例如,你可以设想一下,当一个猫狗图像分类器遇到飞机图像时会发生什么。这个模型是自信地预测错误,还是根据概率进行分类?在此前的文章中,我们最近讨论了我们开发的识别此类 OOD 示例的方法。在这项工作中,我们分析了分布外模型的预测不确定性,并转移了实例,以查看模型预测概率是否反映了它们对此类数据的预测能力。

量化不确定度的质量

一个模型比另一个模型更能反映其不确定性意味着什么?虽然这可能是一个细致入微的问题,通常是由下游任务定义的,但有一些方法可以定量评估概率预测的总体质量。例如,气象界仔细考虑了这一问题,并制定了一套适当的评分规则,天气预报的概率比较函数应满足这些规则,以便能够很好地进行校准,同时也有利于提高准确度。我们应用了一些适当的评分规则,如 Brier 评分和负对数似然(NLL),以及更直观的启发式方法,如预期校准误差(ECE),来了解不同的 ML 模型如何处理数据集移位情况下的不确定性。

实验

我们分析了数据集移位对各种数据模式(包括图像、文本、在线广告数据和基因组学数据等)不确定性的影响。举个例子,我们演示了数据集移位对 ImageNet 数据集的影响。ImageNet 将 100 多万张图像分为 1000 个不同的类别。一些人现在认为这一挑战已经基本解决,并且已经开发出更难的变体,例如损坏的 Imagenet(或 Imagenet-C),其中数据有 16 种不同的损坏,每种损坏的强度分为 5 种。

google AI 最新博文:模型的不确定性是否可信?

我们探讨了在数据分布变化时,模型不确定性如何变化

我们使用这些损坏的图像作为移位数据的例子,并检查深度学习模型在处理损坏强度增加的移位数据时的预测概率。下面我们展示了每一级损坏(包括未损坏的测试数据)的准确度和 ECE 的方框图,其中每个方框图综合了 ImageNet-C 中所有损坏类型,每个颜色代表不同类型的模型。

google AI 最新博文:模型的不确定性是否可信?

增加 ImageNet-C 上数据集偏移强度的精度(上)和预期校准误差(下)。我们观察到,精度的降低并不是由模型不确定度的增加反映的,这表明精度和 ECE 都在变差。

随着损坏强度的增加,每个模型的各个损坏方法的精度偏差如预期的那样增加,并且总精度降低。理想情况下,这将反映在模型的不确定性增加,并且保持预期校准误差(ECE)不变。然而,从 ECE 的较低曲线图来看,情况并非如此,而且校准通常也会受到影响。我们观察到 Brier 分数和 NLL 的类似恶化趋势,这表明模型并没有随着数据损坏的增加而变得越来越具有不确定性,而是自信地进行错误的判断。

改进校准的一种常用方法是温度标度法,它是 Platt 标度法的一种变体,它涉及到在训练后使用在有效数据集上的性能来平滑预测。我们观察到,虽然这改进了标准测试数据的校准,但它常常损坏数据的情况更糟!因此,应用这一技术的实践者应该警惕分布的变化。

幸运的是,有一种方法在不确定性方面的退化比其他方法要优雅得多。Deep-ensembles(图中绿色部分)是一种简单的策略,它对一系列模型的预测进行平均化,显著提高了对移位的鲁棒性,并优于所有其他测试方法。

总结和建议的最佳做法

在本文中,我们探索了在跨图像、文本、在线广告数据和基因组学的数据集转移下,最新模型的行为。在这些不同类型的数据中,我们的发现基本一致。在数据集转移的情况下,不确定性的质量会下降,但是一些有希望的研究方法可以缓解这种情况。我们希望深度学习的用户从我们的研究中获得以下信息:

  1. 数据集转移下的不确定性是训练模型时需要考虑的一个现实问题。

  2. 在分布内的测试集上提高校准和精度,通常不能转化为对移位数据的改进校准。

  3. 在我们考虑的所有方法中,Deep-ensembles 对数据集转移来说最具有稳健性,相对较小的集合大小(如 5)就足够了。其有效性为改进其他方法提供了有趣的途径。

提高深度学习模型的预测不确定性仍然是 ML 研究的一个活跃领域,我们已经发布了该基准的所有代码和模型预测,希望对社区推动和评估未来这一重要课题的工作有帮助。

代码和模型网址:https://github.com/google-research/google-research/tree/master/uq_benchmark_2019 

via:https://ai.googleblog.com/2020/01/can-you-trust-your-models-uncertainty.html

雷锋网雷锋网雷锋网(公众号:雷锋网)

雷锋网版权文章,未经授权禁止转载。详情见转载须知

google AI 最新博文:模型的不确定性是否可信?

分享:
相关文章

文章点评:

表情
当月热门文章
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说