您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
人工智能开发者 正文
发私信给杨鲤萍
发送

0

Facebook 开源 SlowFast:基于双帧速率分治轻量视频识别模型

本文作者:杨鲤萍 2019-11-13 14:35
导语:模仿灵长类视觉中的视网膜神经运作原理

语音播放文章内容

由深声科技提供技术支持

雷锋网 AI 开发者按:近日,Facebook AI 宣布开源 SlowFast,一个在 CVPR 2019 上的 AVA 视频检测挑战赛中排名第一所用的模型。这一开源旨在进一步提高系统识别与分类视频内容的能力,并改善视频个性化推荐应用。

SlowFast 是一个新型视频识别方法,它可以模仿灵长类视觉中的视网膜神经运作原理,同时以慢速帧频和快速帧频提取视频中的有效信息,从而提高动作分类及动作识别效果。与其他方法相比,SlowFast 的整体计算复杂度更低,准确度更高。

Facebook 开源 SlowFast:基于双帧速率分治轻量视频识别模型

Slow?Or Fast?

第一眼看到 SlowFast 时,肯定有人会纠结这个模型到底是快,还是慢呢?但其实它的名称正是源于它的实现原理,即通过两条路径——Slow 路径和 Fast 路径,同时以慢速和快速的帧速率,从视频中提取信息来改进动作分类和动作检测。因此,它既快又慢。

Facebook 开源 SlowFast:基于双帧速率分治轻量视频识别模型

SlowFast 通用架构

具体而言,这两条路径由侧连接(lateral connection)进行融合。一条专注于处理可以在低帧速率下观看的类别语义(如:颜色、纹理和目标),它以低帧率运行,刷新速度缓慢,旨在捕获图像或几个稀疏帧提供的语义信息;而另一条路径则寻找在以较高帧速率显示的视频中更容易识别的快速变化的运动(如:鼓掌、挥手、摇头、走路或跳跃),它的刷新速度快、时间分辨率高,用于捕获快速变化的动作。

可尽管有两条路径,该模型的体量却很轻,只占总计算资源的 20% 左右。这是因为第二个路径通道较少,处理空间信息的能力较差,但这些信息完全可以由第一个路径以一种简单的方式来提供。

Facebook 开源 SlowFast:基于双帧速率分治轻量视频识别模型

SlowFast 网络的实例化示例

SlowFast 灵感之源

正常来讲,很少有将两种完全相反的概念融合为一体的模型;但于 SlowFast 而言,这一方法在很大程度上,受到灵长类视觉系统中视网膜神经节细胞的生物学研究的启发。

研究发现,在灵长类的视觉系统中,约 80% 为是 P 细胞(P-cells),约 15-20% 是 M 细胞(M-cells)。M-cell 以较高的时间频率工作,对时间变化更加敏感,但对空间细节和颜色的感知很弱;P-cell 则提供良好的空间细节和颜色,同时它的时间分辨率较低。

Facebook 开源 SlowFast:基于双帧速率分治轻量视频识别模型

SlowFast 框架正是与此类似:

  • 该模型有两条路径,分别以低时间分辨率和高时间分辨率工作;

  • Fast 路径用于捕捉快速变化的运动,但空间细节较少,类似于 M-cell;

  • Fast 路径为轻量级,类似于较小比例的 M-cell。

Facebook AI 也希望通过对这些关系的介绍,能够启发更多用于视频识别的计算机视觉模型。

SlowFast 进展

通过合理的快慢分工,SlowFast 比之前的视频识别系统都更加轻量级。目前,Facebook AI 已经在四个主要的公共基准数据集上建立了一个新的技术状态。通过分析不同速度下的原始视频,这一方法还可以使 SlowFast 网络从本质上进行分治 (Divide-and-conquer)。

每个路径都利用其在视频建模中的特殊优势,Slow 路径以每秒两帧(fps)的速度处理最初刷新为每秒 30 帧的视频片段,在这一速度下,物体或人的颜色、纹理或身份等特征也不会改变;同时 Fast 路径在相同的原始视频剪辑上运行,但是在更高的帧速率下——给定 30 fps 的镜头,该路径也可能以 16 fps 的速度处理它,这些更快的刷新速度允许更好地理解视频中正在发生的运动类型。

Facebook 开源 SlowFast:基于双帧速率分治轻量视频识别模型

SlowFast 应用于视频检测

这一设置的最主要优点在于提高 Fast 通道时间建模能力的同时,也降低了 Fast 通道的信道容量,最终呈现的是一个系统的整体计算复杂度和精度比其他更高,计算量更大的算法。

令人振奋的成果

Facebook AI 在 Kinetics-400、Kinetics-600 和 Charades 数据集,以及 Ava 数据集上检测了 SlowFast 的实际能力。实验结果表明该模型在视频动作分类及检测方面性能非常强大,SlowFast 网络比预先训练的系统更加精确,包括在动力学和特性上都比最新的模型高出几个百分点:

  • 在没有使用任何预训练的情况下,在 Kinetics 数据集上实现了 79.0% 的准确率;

Facebook 开源 SlowFast:基于双帧速率分治轻量视频识别模型

SlowFast 网络与当前最优模型在 Kinetics-400 数据集上的对比结果

  • 在 AVA 动作检测数据集上也实现了 28.3 mAP 的当前最佳水准,这一基于最慢速度的系统还在 CVPR 2019 上的 AVA 视频检测挑战赛中取得了第一的优秀成绩。

Facebook 开源 SlowFast:基于双帧速率分治轻量视频识别模型

在 AVA 数据集上的 Per-category AP:Slow-only 基线模型 (19.0 mAP) 与对应的 SlowFast 网络 (24.2 mAP)

SlowFast 应用前景

从已有的信息来看,Facebook AI 并没有使用 SlowFast 或文中提到的公共数据集来训练生产模型,但是这一研究可以在视频分析方面有广泛的应用,包括:改进系统如何自动识别、分类视频内容,以及视频推荐等应用。

同时,在视频检测方面的进展也有利于帮助公共平台寻找和删除有害视频,也包括为视频个性化提供更好的推荐建议。

Facebook 开源 SlowFast:基于双帧速率分治轻量视频识别模型

原文参考:

http://t.cn/Ai1OPFAr 

GitHub 地址:

https://github.com/facebookresearch/SlowFast 

论文链接:

https://arxiv.org/pdf/1812.03982.pdf 

雷锋网(公众号:雷锋网) AI 开发者 雷锋网

雷锋网原创文章,未经授权禁止转载。详情见转载须知

Facebook 开源 SlowFast:基于双帧速率分治轻量视频识别模型

分享:

文章点评:

表情
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说