本文转自:http://www.hankcs.com/nlp/cs224n-mt-lstm-gru.html
其中,带黑点的表示离散的向量表示,否则表示连续的向量空间。
3、使用深度RNN
LSTM单元结构如下:
那时候的NN模型还是仅限于重新排序传统MT模型产生的结果,而最新的研究就是完全甩开了MT模型: