【推荐】(TensorFlow)RNN入门

今天我们将研究一种名为循环神经网络的神经网络体系结构。它针对的不是自然语言数据，而是处理连续的时间数据，如股票市场价格。在本文结束之时，你将能够对时间序列数据中的模式进行建模，以对未来的值进行预测。

1.上下文信息

回到学校，我的一个期中考试仅由真的或假的问题组成时。假设一半的答案是“真的”，而另一半则是“假的”。我想出了大部分问题的答案，剩下的是靠随机猜测。我做了一件聪明的事情，也许你也可以尝试一下这个策略。在计数了我的“真”的答案之后，我意识到它与“假”这个答案不成比例。于是我的大部分猜测是“假”的，这样就可以平衡分配。

这竟然是有效的。在那一时刻我感觉到我是狡猾的。这是什么样的判断力，使我们对自己的决定那么有信心，我们又如何将这种判断力给予神经网络？

这个问题的一个答案是使用上下文来回答问题。语境提示是可以提高机器学习算法性能的重要信号。例如，假设你想检查一个英文句子，并标记每个单词的词性。

傻傻的方法是将每个单词单独分类为“名词”，“形容词”等，而不确认其相邻的单词。单词“努力”被用作动词，但根据上下文，你也可以使用它作为一个形容词，单纯的词性标注是一个需要努力的问题。

更好的方法是考虑上下文信息。为了向神经网络提供上下文信息，我们可以使用称为循环神经网络的体系结构。

循环神经网络（RNN）简介

为了理解循环神经网络（RNN），我们首先来看一下图1所示的简单架构。它将输入向量X（t）作为输入，并在某个时间（t）产生一个向量Y（t）的输出。中间的圆圈表示网络的隐藏层。

原文链接：

https://m.aliyun.com/yunqi/articles/222864?tk=nwzLFAxyonH%2BvDsFcz9mKUntp%2B0KR9212pFWMTksy7w%3D