TF213——GRU实现预测

GRU 使记忆体ht融合了长期记忆和短期记忆

LSTM计算过程

更新门 \(z_{t}=\sigma\left(W_{z} \cdot\left[h_{t-1}, x_{t}\right]\right)\)
重置门 \(r_{t}=\sigma\left(W_{r} \cdot\left[h_{t-1}, x_{t}\right]\right)\)
记忆体: \(h_{t}=\left(1-z_{t}\right) * h_{t-1}+z_{t} * \widetilde{\boldsymbol{h}}_{t}\)
候选隐藏层: \(\widetilde{\boldsymbol{h}}_{t}=\tanh \left(W \cdot\left[r_{t} * h_{t-1}, x_{t}\right]\right)\)

TF描述GRU层

tf.keras.layers.GRU(记忆体个数，return_sequences=是否返回输出)

return_sequences=True 各时间步输出ht

return sequences=False 仅最后时间步输出ht（默认)

例：

model =tf.keras.Sequential([
    GRU(80,return sequences=True),
    Dropout (0.2),
    G (100),
    Dropout (0.2)，
    Dense(1)
]