飞桨2.0版本的分布式static.nn.sparse_embedding和.nn.embedding差别?
收藏
飞桨2.0版本的分布式paddle.static.nn.sparse_embedding和paddle.nn.embedding有什么差别?
旧鸱c_
已解决
2#
回复于2021-08
paddle.nn.embedding和paddle.static.nn.sparse_embedding的稀疏参数将会在每个PServer段都用文本的一部分保存,最终整体拼接起来是完整的embedding。推荐使用paddle.static.nn.sparse_embedding直接采用分布式预估的方案。虽然 nn.embedding目前依旧可以正常使用,但后续的某个版本会变成与使用paddle.static.nn.sparse_embedding一样的保存方案。老版本中使用的0号节点的本地预测功能在加载模型的时候会报模型加载错误。
0
收藏
请登录后评论
paddle.nn.embedding和paddle.static.nn.sparse_embedding的稀疏参数将会在每个PServer段都用文本的一部分保存,最终整体拼接起来是完整的embedding。推荐使用paddle.static.nn.sparse_embedding直接采用分布式预估的方案。虽然 nn.embedding目前依旧可以正常使用,但后续的某个版本会变成与使用paddle.static.nn.sparse_embedding一样的保存方案。老版本中使用的0号节点的本地预测功能在加载模型的时候会报模型加载错误。