上传者: 42102220
|
上传时间: 2021-11-10 12:38:01
|
文件大小: 4KB
|
文件类型: -
PyTorch中的快速批处理Bi-RNN(GRU)编码器和注意解码器实现
这段代码是用PyTorch 0.2编写的。 在PyTorch发行其1.0版本时,已经有很多基于PyTorch构建的出色的seq2seq学习包,例如OpenNMT,AllenNLP等。您可以从其源代码中学习。
用法:请注意有关注意力-RNN机器翻译的官方pytorch教程,除了此实现处理批处理输入,并且实现稍微不同的注意力机制。 为了找出实现方式在公式级别上的差异,下面的插图会有所帮助。 PyTorch版本机制图,请参见此处: PyTorch Seq2seq官方机器翻译教程: 巴赫达瑙(Bahdanau)注意图,请参