首页 Paddle框架 帖子详情
dynamic_lstm输入问题
收藏
快速回复
Paddle框架 问答模型训练 601 1
dynamic_lstm输入问题
收藏
快速回复
Paddle框架 问答模型训练 601 1

现在我获取到了一个变量,格式如下,其中-1代表batch_size,512表示句子长度,768表示embedding长度

name: "lower_bert_lower_bert_layer_norm_12.tmp_2"
type {
type: LOD_TENSOR
lod_tensor {
tensor {
data_type: FP32
dims: -1
dims: 512
dims: 768
}
lod_level: 0
}
}
persistable: false

想根据这个输入到dynamic_lstm中,但是不知道怎么构造一个lodtensor输入

0
收藏
回复
全部评论(1)
时间顺序
thinc
#2 回复于2021-01

示例写的挺详细的吧,用全连接层先做线性映射

import paddle.fluid as fluid
emb_dim = 768
vocab_size = 512
hidden_dim = 512    # 自己定

data = fluid.layers.data(name='x', shape=[1], dtype='int32', lod_level=1)
emb = fluid.layers.embedding(input=data, size=[vocab_size, emb_dim], is_sparse=True)

forward_proj = fluid.layers.fc(input=emb, size=hidden_dim * 4, bias_attr=False)
forward, cell = fluid.layers.dynamic_lstm(input=forward_proj, size=hidden_dim * 4, use_peepholes=False)
forward.shape  # (-1, 512)
cell.shape  # (-1, 512)
0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户