首页 Paddle框架 帖子详情
关于模型中的不可训练参数的问题
收藏
快速回复
Paddle框架 问答深度学习模型训练炼丹技巧 1145 2
关于模型中的不可训练参数的问题
收藏
快速回复
Paddle框架 问答深度学习模型训练炼丹技巧 1145 2

我设计了一个图卷积网络(Graph ConvNet),这个模型需要输入一个图的结构,用图的邻接矩阵表示,然后由于paddle不支持稀疏矩阵,所以这个邻接矩阵很大(4个G)。
现在问题是这样的,这个邻接矩阵是固定的,不需要反向传播更新,所以我设想了两种方案:
1.用layers.data作为一个模型输入载入这个矩阵,问题是在mini batch训练的时候,是不是每个batch都要输入一下这个4G大小的矩阵,会不会很慢?paddle支不支持feed的时候只feed一部分,其余的保持不变?
2.将这个矩阵设为模型的一个trainable=False的参数,这样不用每次batch输入训练数据的时候都带上它,但是这样一来,保存模型参数的时候,又要把这4G的矩阵写在硬盘上?但这个矩阵是固定的,用numpy的稀疏矩阵保存了,我现在不需要paddle再保存它一遍。
所以,有什么可行的解决方案吗?

0
收藏
回复
全部评论(2)
时间顺序
AIStudio791380
#3 回复于2019-12

好的,谢谢

0
回复
aistudio_2
#5 回复于2021-05

mark

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户