paddle.save(model.modelBert.state_dict(), 'model.pdparams')
paddle.save的模型怎么转paddleserving的模型?
是指动态图模型转静态图模型吧?参考动转静文档:
https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/04_dygraph_to_static/index_cn.html
from paddlenlp.transformers import ErnieModel
model = ErnieModel.from_pretrained('ernie-1.0')
这个model怎么转成静态的?
用这个转的paddle.jit.to_static(model, input_spec=[InputSpec(shape=[None, 512], dtype='int64')])
构建的全连接可以转,ernie转不了 报这个错误
AttributeError: 'Assign' object has no attribute 'type_comment'
paddlenlp的模型不是一般都有部署方案么
真特么蛋疼 paddlenlp版本2.1.1 paddlepaddle 版本2.1.0 的情况下就会报错,paddlenlp版本2.0.8 paddlepaddle 版本2.1.2
还可以用这个api转
https://www.paddlepaddle.org.cn/documentation/docs/zh/api/paddle/jit/TracedLayer_cn.html#tracedlayer
是指动态图模型转静态图模型吧?参考动转静文档:
https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/04_dygraph_to_static/index_cn.html
from paddlenlp.transformers import ErnieModel
model = ErnieModel.from_pretrained('ernie-1.0')
这个model怎么转成静态的?
用这个转的paddle.jit.to_static(model, input_spec=[InputSpec(shape=[None, 512], dtype='int64')])
构建的全连接可以转,ernie转不了 报这个错误
AttributeError: 'Assign' object has no attribute 'type_comment'
paddlenlp的模型不是一般都有部署方案么
真特么蛋疼 paddlenlp版本2.1.1 paddlepaddle 版本2.1.0 的情况下就会报错,paddlenlp版本2.0.8 paddlepaddle 版本2.1.2
还可以用这个api转
https://www.paddlepaddle.org.cn/documentation/docs/zh/api/paddle/jit/TracedLayer_cn.html#tracedlayer