自定义公式可以反向传播吗
收藏
如果我的神经网络是多标签输出,然后通过自定义的一个公式,将这九个标签输入到公式计算得到一个标签。之后在这个标签和真实值输入到损失函数中,从损失函数值开始反向传播,这个paddle有提供相关的api接口吗?我用paddle提供的计算符号,比如paddle.add去组建公式,但是会出现跑的时候tensor数组里面数据全部空了。有没有做过相关开发的朋友?感谢!
1
收藏
请登录后评论
看你的描述,你的这个公式好像是不可学习的。那么就不涉及反向了吧。
公式是确定的不需要学习
比如神经网络输出两个标签x,y的话,我用一个z=xy的值输入到损失函数,如果能提供api接口能自动计算z对x和y的梯度,那么就可以从损失函数值到z然后到x和y,到神经网络的梯度这样计算下去。
可以的,动态图下自动追踪梯度,可以用stop_gradient暂停梯度