专栏名称: 机器学习研究会

机器学习研究会是北京大学大数据与机器学习创新中心旗下的学生组织，旨在构建一个机器学习从事者交流的平台。除了及时分享领域资讯外，协会还会举办各种业界巨头/学术神牛讲座、学术大牛沙龙分享会、real data 创新竞赛等活动。

【干货】人人都能看懂的GRU

机器学习研究会 · 公众号 · AI · 2018-01-05 22:41

正文

目录

1 什么是GRU

2 GRU浅析

2.1 GRU的输入输出结构

2.2 GRU的内部结构

3 LSTM与GRU的关系

4 总结

阅读时间

5min - 8min

什么是GRU

GRU（Gate Recurrent Unit）是循环神经网络（Recurrent Neural Network, RNN）的一种。和LSTM（Long-Short Term Memory）一样，也是为了解决长期记忆和反向传播中的梯度等问题而提出来的。

GRU和LSTM在很多情况下实际表现上相差无几，那么为什么我们要使用新人GRU（2014年提出）而不是相对经受了更多考验的LSTM（1997提出）呢。

下图1-1引用论文中的一段话来说明GRU的优势所在。

图1-1 R-NET: MACHINE READING COMPREHENSION WITH SELF-MATCHING NETWORKS（2017）

简单译文：我们在我们的实验中选择GRU是因为它的实验效果与LSTM相似，但是更易于计算。

简单来说就是贫穷限制了我们的计算能力...

相比LSTM，使用GRU能够达到相当的效果，并且相比之下更容易进行训练，能够很大程度上提高训练效率，因此很多时候会更倾向于使用GRU。

OK，那么为什么说GRU更容易进行训练呢，下面开始介绍一下GRU的内部结构。

GRU浅析

GRU的输入输出结构

GRU的输入输出结构与普通的RNN是一样的。

图2-1 GRU的输入输出结构

那么，GRU到底有什么特别之处呢？下面来对它的内部结构进行分析！

GRU的内部结构

请到「今天看啥」查看全文

推荐文章

AIbase基地 · AI日报：DeepSeek上线国家超算互联网平台；字节公开数字人视频生成框架OmniHuman

昨天

AIbase基地 · AI日报：DeepSeek上线国家超算互联网平台；字节公开数字人视频生成框架OmniHuman

昨天

爱可可-爱生活 · 《爱可可微博热门分享(2.4)》爱可可微博热门分享(2.4)-20250204223935

2 天前

烂板套利 · AI智能体（AI Agent）概念股梳理（附股）

2 天前

烂板套利 · AI智能体（AI Agent）概念股梳理（附股）

2 天前

爱可可-爱生活 · 【[58星]ComfyUI_LoRA_Sidebar：为Comf-20250202222217

4 天前

新智元 · o3-mini物理推理粉碎DeepSeek R1，OpenAI王者归来！全网最全实测来袭

4 天前

THLDL领导力 · 企业总裁是世界上最缺钱的人，信吗？交多少返多少，老板也有奖学金！

8 年前

互撸漫话 · 恐不恐怖：《宿舍NPC》——每个宿舍总有一个不合群的孤独患者

7 年前

宝马客 · 开宝马的并不都是青年，但开宝马的人永远年轻！

7 年前

社会学吧 · 对话阎云翔：是社会变了,还是我当时看错了?

7 年前

21世纪商业评论 · 最好看的永远是预告片?

7 年前