学习pytorch全卷积的笔记
下采样过程(编码过程)
conv参数
(in_channels,out_channels,kernel_size,stride,padding)
(输入特征,输出特征图,卷积核大小,步长,原图补0操作)
卷积后大小计算公式
W = [(W-F+2P)/S]+1
H = [(H-F+2P)/S]+1
归一化
- 批量归一化nn.BatchNorm1d/2d/3d从特征维度出发
- 层归一化nn.LayerNorm对每一个样本
- 实例归一化nn.InstanceNorm1d/2d/3d对每一个样本的一个通道
-
组归一化nn.GroupNorm对每一个样本的通道数进行分组
详细描述请参考(https://www.cnblogs.com/zpc1001/p/13344215.html)
**函数
- Relu函数:f(x) = max (0,x)图像如下
- LeakyRelu函数
池化操作
最大池化nn.MaxPool1d/1d/3d,领域内特征点取最大
常用参数(kernel_size,stride)(池化的大小,步长)
平均池化nn.AdaptiveAvgPool1d/2d/3d领域内特征点取平均值
池化后图片大小计算
W=[(W-F)/S]+1
H=[(H-F)/S]+1