循环网络和LSTM教程

循环网络是一类功能强大的人工神经网络算法,特别适用于处理声音、时间序列(传感器)数据或书面自然语言等序列数据。DeepMind在自动代理玩游戏的研究中就使用了一种循环网络。

循环网络与前馈网络的区别在于有一个反馈循环,将第n-1步的输出反馈给神经网络,对第n步的输出产生影响,之后的每一步也都以此类推。举例来说,如果让循环网络逐个字母地学习一个单词,要求它预测每一个接下来的字母,那么单词的第一个字母将会帮助网络决定第二个字母的预测结果。

前馈网络则与此不同。在学习对MNIST数据集中的手写数字进行分类时,前馈网络仅会根据当前读取到的那一个样例中的像素来作出判断,而不会依据之前学习过的样例来调整预测结果。前馈网络一次只能接受一项输入,产生一项输出;循环网络则没有这种一对一的限制。

虽然有些数据类型,比如图像,看似不是序列数据,但它们也可以被解读为序列,然后输入循环网络中。以手写单词的图像为例。循环网络处理手写图像时,会将每一幅书写体图像转换为一个字母,并且用单词的开头来预测它的结尾;与此相似,循环网络也可以将任何其他图像的某一部分当作一个序列中的字母来处理。神经网络在扫视一张较大的图片时,就可以从每一个区域中学到如何预测附近区域可能呈现的图样。

神经网络模型与记忆

笼统地讲,循环网络和前馈网络都能通过对读取的数据建模来“记住”有关于现实世界的某些信息。但这两种网络的记忆模式完全不同。在定型之后,前馈网络会生成已学习数据的静态模型,然后这个模型就可以接受新的样例,进行准确的分类或聚类。

相比之下,循环网络则会生成动态模型,亦即会随时间推移而变化的模型,这种变化可以让模型依据输入样例的上下文来进行准确的分类。

更精确的说法是,循环模型包含了决定同个序列中的前一次分类结果的隐藏状态。在之后的每一步中,这一隐藏状态会与新一步的输入数据相加,生成(1)一个新的隐藏状态,再得出(2)一个新的分类结果。每个隐藏状态都会被循环利用,生成经过调整的后续隐藏状态。

人类的记忆模式同样能考虑上下文,循环利用对于过往状态的认知来恰当地解读新数据。例如,假设有这样两个人:一个人意识到她在Jack的房子附近;另一个人则意识到她登上了一架飞机。这两个人会对“Hi Jack!”这样的声音产生完全不同的理解(译注:既可以理解为“你好,杰克!”,也可以理解为“劫机啦!”),而原因正是她们受到短期记忆和先前感觉的影响,保留了不同的“隐藏状态”。

不同的短期记忆应当在不同的时候调出,以便为当前的输入指定正确的意义。有些记忆会是最近形成的,而另一些则可能是在形成后经过许多个时间步才需要使用。能够将时间间隔较远的记忆与输入有效联系起来的循环网络称作长短期记忆(LSTM)网络,尽管这个名字听起来有点自相矛盾。

应用案例

循环网络具有预测能力。它们可以随着时间推移动态地把握数据结构,可以用于预测一个数据序列中的下一个元素。这样的元素有可能是一个单词中接下来的字母,或者一句话中接下来的单词(自然语言生成);也可以是传感器、经济统计表格、股票价格动态等数据中的下一个数字。

序列数据还包括视频。循环网络已被用于实时的视频对象及手势跟踪

和其他神经网络一样,循环网络也适用于聚类和异常状态检测。也就是说,循环网络可以在向量空间中将样例分组并衡量样例之间的距离,从而识别出相似性和非相似性。为正常行为建模、标记非正常状态的功能可以应用于可穿戴式设备生成的医疗保健数据、恒温器等智能设备生成的家居环境数据、股票及指数变动生成的市场数据、账户交易活动生成的个人财务数据(可用于检测欺诈或洗钱行为)等。

代码示例

在Deeplearning4j的API中,只需要用多层网络配置类进行指名,就可以创建出所需的网络层。用同样的方法创建一个LSTM即可。

在DL4J中实现LSTM

  • Graves LSTM(适用于传感器数据和时间序列)

LSTM网络的数据加载

在Deeplearning4j中,普通LSTM网络的输入应为一个矩阵,其中第一行x_i已给出,其余所有行x_s将由神经网络尝试预测。这是一种生成模型,不使用标签。矩阵所包括的行数并没有限制,但所有行的长度应当相同。

Graves LSTM(示例即将推出)通常在多层网络中使用。

举例而言,输入的数据可以是:

  • 来自MNIST的一个手写数字序列,此时每一行将有784个元素。
  • 一个字母符号序列,此时每一行将有一个元素。

学习资源

定义

循环神经网络“可以实现并行和序列计算,原则上可以计算任何传统计算机所能计算的东西。但和传统计算机不同的是,RNN与人类大脑有相似之处;人脑是一种由神经元相互联结组成的大型前馈网络,可以借由某种方式学会将长达人的一生的感觉信号输入流转换为一个有效的运动输出序列。人脑是一个杰出的模范,因为它能解决许多计算机尚且力所不及的问题。” ——Juergen Schmidhuber

研究功臣

引领循环网络研究的主要是Juergen Schmidhuber和他的学生——其中包括Sepp Hochreiter,他发现了高深度网络所遇到的梯度消失问题,后来又发明了长短期记忆(LSTM)循环网络;还有Alex Graves,他目前在DeepMind任职。另外两位比较著名的研究者分别是:Felix Gers,他发明了LSTM遗忘门;Justin Bayer,他发明了可以让LSTM拓扑结构根据具体问题进行自动演化的方法。

与我们在Gitter聊天