Pytorch linear 多维输入的参数问题_python_

问题： 由于 在输入lstm 层 每个batch 做了根据输入序列最大长度做了padding,导致每个 batch 的 length 不同。 导致输出 长度不同 。如：（batch, length, output_dim）: （12,128,10），（12,111,10）. 但是输入 linear 层的时候没有出现问题。

网站解释：

官网 pytorch linear：

• Input:(*, H_{in})(∗,Hin​)where*∗means any number of dimensions including none andH_{in} = \text{in\_features}Hin​=in_features. 任意维度 number 理解有歧义 (a)number. k可以理解三维，四维。。。 (b) 可以理解 为某一维度的数 。
• Output:(*, H_{out})(∗,Hout​)where all but the last dimension are the same shape as the input andH_{out} = \text{out\_features}Hout​=out_features.

代码解释：

分别 用三维 和二维输入数组，查看他们参数数目是否一样。

import torch x = torch.randn(128, 20) # 输入的维度是（128，20） m = torch.nn.Linear(20, 30) # 20,30是指维度 output = m(x) print('m.weight.shape:\n ', m.weight.shape) print('m.bias.shape:\n', m.bias.shape) print('output.shape:\n', output.shape) # ans = torch.mm(input,torch.t(m.weight))+m.bias 等价于下面的 ans = torch.mm(x, m.weight.t()) + m.bias print('ans.shape:\n', ans.shape) print(torch.equal(ans, output))

output：

m.weight.shape: torch.Size([30, 20]) m.bias.shape: torch.Size([30]) output.shape: torch.Size([128, 30]) ans.shape: torch.Size([128, 30]) True

x = torch.randn(128, 30,20) # 输入的维度是（128,30，20） m = torch.nn.Linear(20, 30) # 20,30是指维度 output = m(x) print('m.weight.shape:\n ', m.weight.shape) print('m.bias.shape:\n', m.bias.shape) print('output.shape:\n', output.shape)

ouput： m.weight.shape: torch.Size([30, 20]) m.bias.shape: torch.Size([30]) output.shape: torch.Size([128, 30, 30])

结果：

（128,30,20），和 （128,20） 分别是如 nn.linear(30,20) 层。

weight.shape 均为： （30,20）

linear（） 参数数目只和 input_dim ,output_dim 有关。

weight 在源码的定义， 没找到如何计算多维input的代码。

到此这篇关于Pytorch linear 多维 输入的参数的文章就介绍到这了,更多相关Pytorch多维 输入内容请搜索以前的文章或继续浏览下面的相关文章希望大家以后多多支持！

提示： 本文由神整理自网络，如有侵权请联系本站删除！
本站声明：
1、本站所有资源均来源于互联网，不保证100%完整、不提供任何技术支持；
2、本站所发布的文章以及附件仅限用于学习和研究目的;不得将用于商业或者非法用途；否则由此产生的法律后果，本站概不负责！