请问paddle如何释放model内存呢?
收藏
如下代码:
model = hub.Module(directory='CPM_LM')
retry_times = 1
for i in range(0, retry_times):
outputs = self.model.sample(
inputs, # 输入文本
max_len=123, # 最大生成文本的长度
end_word=None, # 终止符号
repitition_penalty=2.0, # 重复度抑制
temperature=1.0, # 温度
top_k=10, # 取前k个最大输出再进行采样
top_p=1.0 # 抑制概率低于top_p的输出再进行采样
)
#打印输出
print(outputs)
当retry_times=1时,程序可以运行输出结果;
当retry_times>=2时, 报Allocate Memory exception,内存不够 ...
请问大佬,这个应该怎样释放内存的?
0
收藏
请登录后评论