博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
序列模型(4)----门控循环单元(GRU)
阅读量:4540 次
发布时间:2019-06-08

本文共 232 字,大约阅读时间需要 1 分钟。

一、GRU

其中, rt表示重置门,zt表示更新门。

  • 重置门决定是否将之前的状态忘记。(作用相当于合并了 LSTM 中的遗忘门和传入门)

当rt趋于0的时候,前一个时刻的状态信息ht−1会被忘掉,隐藏状态h^t会被重置为当前输入的信息。

  • 更新门决定是否要将隐藏状态更新为新的状态h^t(作用相当于 LSTM 中的输出门) 。

 

 

二、GRU的优点:解决梯度消失的问题

 

转载于:https://www.cnblogs.com/Lee-yl/p/10066246.html

你可能感兴趣的文章
third day——面向对象编程
查看>>
Swift开发之粒子动画的实现
查看>>
所谓的成长,就是不断破局,成长很痛苦,不成长也便没有了甘甜
查看>>
左神算法书籍《程序员代码面试指南》——3_07找到二叉树中的最大搜索二叉子树【**】...
查看>>
PAT甲级——A1113 Integer Set Partition
查看>>
PAT甲级——A1114 Family Property【25】
查看>>
PAT甲级——A1115 Counting Nodes in a BST【30】
查看>>
PAT甲级——A1116 Come on! Let's C
查看>>
PAT甲级——A1119 Pre- and Post-order Traversals【30】
查看>>
PAT甲级——A1117 Eddington Number【25】
查看>>
PAT甲级——A1122 Hamiltonian Cycle【25】
查看>>
PAT甲级——A1118 Birds in Forest【25】
查看>>
PAT甲级——A1123 Is It a Complete AVL Tree【30】
查看>>
PAT甲级——A1120 Friend Numbers【20】
查看>>
PAT甲级——A1125 Chain the Ropes【25】
查看>>
PAT甲级——A1121 Damn Single【25】
查看>>
PAT甲级——A1128 N Queens Puzzle【20】
查看>>
PAT甲级——A1129 Recommendation System【25】
查看>>
PAT甲级——A1124 Raffle for Weibo Followers
查看>>
PAT甲级——A1130 Infix Expression【25】
查看>>