智能投顾高级特训班-应用
您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
AI开发 正文
发私信给杨文
发送

0

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

本文作者:杨文 2017-12-15 14:05
导语:罗冬日分享总结

雷锋网AI研习社按:循环神经网络(RNN)已经在众多自然语言处理中取得了大量的成功以及广泛的应用。但是,网上目前关于RNNs的基础介绍很少,本文便是介绍RNNs的基础知识,原理以及在自然语言处理任务重是如何实现的。文章内容根据雷锋网AI研习社线上分享视频整理而成。

在近期雷锋网(公众号:雷锋网)AI研习社的线上分享会上,来自平安科技的人工智能实验室的算法研究员罗冬日为大家普及了RNN的基础知识,分享内容包括其基本机构,优点和不足,以及如何利用LSTM网络实现语音识别。

罗冬日,目前就职于平安科技人工智能实验室,曾就职于百度、大众点评,担任算法研究员;中国科学院研究生院硕士,主要研究方向为语音识别,自然语言处理。

分享主题:循环神经网络(RNN)基础

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

主要内容:

  • 普通RNN结构

  • 普通RNN的不足

  • LSTM单元

  • GRU单元

  • 采用LSTM实现语音识别的例子

RNN和CNN的区别

普通卷积神经网络(CNN)处理的是“静态”数据,样本数据之间独立,没有关系。

循环神经网络(RNN)处理的数据是“序列化”数据。 训练的样本前后是有关联的,即一个序列的当前的输出与前面的输出也有关。比如语音识别,一段语音是有时间序列的,说的话前后是有关系的。

总结:在空间或局部上有关联图像数据适合卷积神经网络来处理,在时间序列上有关联的数据适合用循环时间网络处理。但目前也会用卷积神经网络处理语音问题, 或自然言语理解问题,其实也是把卷积神经网络的计算方法用到这上面。

RNN 的基本结构和结构展开示意图:

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

普通RNN的不足之处

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

首先是神经网络里面的计算,可以大致分为三类:函数合成,函数相加,加权计算。

在计算过程中,经常会用到激活函数,比如Sigmoid激活函数。残差在往前传播的过程中,每经过一个Sigmoid函数,就要乘以一个Sigmoid函数的导数值,残差值至少会因此消减为原来的0.25倍。神经网络每多一层,残差往前传递的时候,就会减少至少3/4。如果层数太多,残差传递到前面已经为0,导致前层网络中国呢的参数无法更新,这就是梯度消失。

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

LSTM单元和普通RNN单元的区别

主要大的区别是,采用一个叫“细胞状态(state)”的通道贯穿了整个时间序列。

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结


通过精心设计的称作“门”的结构来去除或增加信息到细胞状态的能力。

"忘记门”

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

“输入门”的打开关闭也是由当前输入和上一个时间点的输出决定的。

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

“输出门”,控制输出多少,最终仅仅会输出确定输出的那部分。

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

所有的公式汇总:

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

增加peephole的LSTM单元

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

让几个“门”的输入数据除了正常的输入数据和上一个时刻的输出以外,再接受“细胞状态”的输入。

GRU单元

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

它是各种变种之一,将“忘记门”和“输入们”合成了一个单一的“更新门”,同时还混合了细胞状态和隐藏状态。

接下来用RNN做一个实验,给大家介绍一个简单的语音识别例子:

关于LSTM+CTC背景知识

2015年,百度公开发布的采用神经网络的LSTM+CTC模型大幅度降低了语音识别的错误率。采用这种技术在安静环境下的标准普通话的识别率接近97%。


CTC是Connectionist Temporal Classification 的缩写,详细的论文介绍见论文“Connectionist Temporal Classification: Labelling Unsegmented Sequence Data with Recurrent Neural Networks”


CTC的计算实际上是计算损失值的过程,就像其他损失函数一样,它的计算结果也是评估网络的输出值和真实差多少。

声音波形示意图

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

在开始之前,需要对原始声波进行数据处理,输入数据是提取过声学特征的数据,以帧长25ms、帧移10ms的分帧为例,一秒钟的语音数据大概会有100帧左右的数据。

采用MFCC提取特征,默认情况下一帧语音数据会提取13个特征值,那么一秒钟大概会提取100*13个特征值。用矩阵表示是一个100行13列的矩阵。

把语音数据特征提取完之后,其实就和图像数据差不多了。只不过图像数据把整个矩阵作为一个整体输入到神经网络里面处理,序列化数据是一帧一帧的数据放到网络处理。

 如果是训练英文的一句话,假设输入给LSTM的是一个100*13的数据,发音因素的种类数是26(26个字母),则经过LSTM处理之后,输入给CTC的数据要求是100*28的形状的矩阵(28=26+2)。其中100是原始序列的长度,即多少帧的数据,28表示这一帧数据在28个分类上的各自概率。在这28个分类中,其中26个是发音因素,剩下的两个分别代表空白和没有标签。

设计的基本网络机构

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

原始的wav文件经过声学特征提取变成N*13,N代表这段数据有多长,13是每一帧数据有多少特征值。N不是固定的。然后把N*13矩阵输入给LSTM网络,这里涉及到两层双向LSTM网络,隐藏节点是40个,经过LSTM网络之后,如果是单向的,输出会变成40个维度,双向的就会变成80个维度。再经过全连接,对这些特征值分类,再经过softmax计算各个分类的概率。后面再接CDC,再接正确的音素序列。

真实的语音识别环境要复杂很多。实验中要求的是标准普通话和安静无噪声的环境。

如果对代码讲解(详细代码讲解请点击视频)感兴趣的话,可以复制链接中的代码:https://github.com/thewintersun/tensorflowbook/tree/master/Chapter6

运行结果如下:

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结

如果对开发内容感兴趣,请关注雷锋网公众号:AI研习社。

雷锋网原创文章,未经授权禁止转载。详情见转载须知

平安科技罗冬日:如何用RNN实现语音识别?| 分享总结
分享:
相关文章

文章点评:

表情
最新文章
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介