递归神经网络(RNN)简介

RNN的基本结构

首先有请读者看看我们的递归神经网络的容貌:

递归神经网络(RNN)简介

乍一看,好复杂的大家伙,没事,老样子,看我如何慢慢将其拆解,正所谓见招拆招,我们来各个击破。

上图左侧是递归神经网络的原始结构,如果先抛弃中间那个令人生畏的闭环,那其实就是简单”输入层=>隐藏层=>输出层”的三层结构,我们在多层感知器的介绍中已经非常熟悉,然而多了一个非常陌生的闭环,也就是说输入到隐藏层之后,隐藏层还会给自己也来一发,环环相扣,晕乱复杂。

我们知道,一旦有了环,就会陷入“先有蛋还是先有鸡”的逻辑困境,为了跳出困境我们必须人为定义一个起始点,按照一定的时间序列规定好计算顺序,做到有条不紊,于是实际上我们会将这样带环的结构展开成一个序列网络,也就是上图右侧被“unfold”之后的结构。先别急着能理解RNN,我们来点轻松的,先介绍这样的序列化网络结构包含的参数记号:

递归神经网络(RNN)简介

递归神经网络(RNN)简介

递归神经网络(RNN)简介

递归神经网络(RNN)简介

递归神经网络(RNN)简介

递归神经网络(RNN)简介

递归神经网络(RNN)简介

递归神经网络(RNN)简介

递归神经网络(RNN)简介

递归神经网络(RNN)简介

递归神经网络(RNN)简介

递归神经网络(RNN)简介


分享到:


相關文章: