几个关于NLP微调的问题
收藏
目前在测试基于UIE开源模型微调训练定制模型提取实体遇到以下几个问题:
使用环境是 cuda11.6 + paddlenlp 2.6.1 + paddlepaddle-gpu 2.5.1.post116
1. 在使用uie-x-base作为基础模型的时候会报错:KeyError: 'token_type_ids',使用uie-base可以正常训练;
2. 在使用调优后的模型时发现,如果官方的uie-base基础模型发生了更新,程序会自动更新自动下载,然后导致先前调优后的模型无法得到正确的结果了(得到的结果与未训练直接使用基础模型一样),需要使用更新后的uie-base作为基础模型重新训练一次再次得到调优模型,请问如何关闭这个自动更新,或者锁定基础模型版本。
3. 请问可以使用自训练得到的模型作为基础模型继续进行训练微调吗?
4. 请问paddlepaddle-gpu(GPU版)训练得到的模型可以单独拿出来给paddlepaddle的cpu版本使用吗?
1
收藏
请登录后评论
可以去看一下下载的模型缓存的本地路径,用模型本地路径做替换。关于训练的问题,查一下飞桨的文档教程
可以继续训练。gpu训练的模型CPU也可以用
ugodywssa
哥,能不能借我跑一下你的UIE模型训练,我来学习一下。
请问第一个问题解决了吗?