首页 Paddle框架 帖子详情
请问paddle如何释放model内存呢?
收藏
快速回复
Paddle框架 问答深度学习模型训练 1185 0
请问paddle如何释放model内存呢?
收藏
快速回复
Paddle框架 问答深度学习模型训练 1185 0

如下代码:

model = hub.Module(directory='CPM_LM')
retry_times = 1
for i in range(0, retry_times):
    outputs = self.model.sample(
            inputs,  # 输入文本
            max_len=123,  # 最大生成文本的长度
            end_word=None,  # 终止符号
            repitition_penalty=2.0,  # 重复度抑制
            temperature=1.0,  # 温度
            top_k=10,  # 取前k个最大输出再进行采样
            top_p=1.0  # 抑制概率低于top_p的输出再进行采样
        )
    #打印输出
    print(outputs)

当retry_times=1时,程序可以运行输出结果;

当retry_times>=2时, 报Allocate Memory exception,内存不够 ...

请问大佬,这个应该怎样释放内存的?

0
收藏
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户