首页 PaddleHub 帖子详情
使用paddlehub 中 做迁移学习,ernie_tiny 消耗时间过长,是什么原因
收藏
快速回复
PaddleHub 问答迁移学习预训练模型 1255 1
使用paddlehub 中 做迁移学习,ernie_tiny 消耗时间过长,是什么原因
收藏
快速回复
PaddleHub 问答迁移学习预训练模型 1255 1

使用相同数据,cpu训练

A: hub.Module(name='ernie', task='seq-cls',version="2.0.2", num_classes=18, dropout=0.5 )

B:hub.Module(name='ernie_tiny', task='seq-cls',version="2.0.2", num_classes=18, dropout=0.5 )

在预测阶段

相同机器,A模型每次预测一笔记录需要12毫秒;B模型预测一笔记录3秒;(以上是1000条记录+求平均),这是什么原因,按照我理解ernie_tiny 应该是更小更精炼 ,预测速度更快 ???

0
收藏
回复
全部评论(1)
时间顺序
D
DavidFeii
#2 回复于2022-02

是不是max_seq_len 设置不一样?

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户