beam_search的性能优化问题
收藏
beam_search中的encode-decoder框架，encoder结果是一成不变的，如何在forward时候，只计算一次encoder的结果并且保存下来，
然后后面beam_search的时候只要输入这个保存的结果+attention的标签就可以了。
现在是beam_search每次都得从头到尾（encoder到decoder）计算一遍
0
收藏
请登录后评论
