首页 Paddle Serving 帖子详情
paddlenlp训练的模型如何转成paddleserving的模型 已解决
收藏
快速回复
Paddle Serving 问答部署 630 6
paddlenlp训练的模型如何转成paddleserving的模型 已解决
收藏
快速回复
Paddle Serving 问答部署 630 6

paddle.save(model.modelBert.state_dict(), 'model.pdparams')

paddle.save的模型怎么转paddleserving的模型?

FutureSI
已解决
2# 回复于2021-11
是指动态图模型转静态图模型吧?参考动转静文档: https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/04_dygraph_to_static/index_cn.html
展开
0
收藏
回复
全部评论(6)
时间顺序
FutureSI
#2 回复于2021-11

是指动态图模型转静态图模型吧?参考动转静文档:

https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/04_dygraph_to_static/index_cn.html

0
回复
LoveCV
#3 回复于2021-11
是指动态图模型转静态图模型吧?参考动转静文档: https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/04_dygraph_to_static/index_cn.html
展开

from paddlenlp.transformers import ErnieModel

model = ErnieModel.from_pretrained('ernie-1.0')

这个model怎么转成静态的?

0
回复
LoveCV
#4 回复于2021-11
是指动态图模型转静态图模型吧?参考动转静文档: https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/04_dygraph_to_static/index_cn.html
展开

用这个转的paddle.jit.to_static(model, input_spec=[InputSpec(shape=[None, 512], dtype='int64')])

构建的全连接可以转,ernie转不了 报这个错误

AttributeError: 'Assign' object has no attribute 'type_comment'

0
回复
深渊上的坑
#5 回复于2021-11

paddlenlp的模型不是一般都有部署方案么

0
回复
LoveCV
#6 回复于2021-11

真特么蛋疼 paddlenlp版本2.1.1 paddlepaddle 版本2.1.0 的情况下就会报错,paddlenlp版本2.0.8 paddlepaddle 版本2.1.2

0
回复
FutureSI
#7 回复于2021-11

还可以用这个api转

https://www.paddlepaddle.org.cn/documentation/docs/zh/api/paddle/jit/TracedLayer_cn.html#tracedlayer

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户