学习pytorch全卷积的笔记

下采样过程(编码过程)

conv参数

(in_channels,out_channels,kernel_size,stride,padding)
(输入特征,输出特征图,卷积核大小,步长,原图补0操作)
卷积后大小计算公式
W = [(W-F+2P)/S]+1
H = [(H-F+2P)/S]+1

归一化

  1. 批量归一化nn.BatchNorm1d/2d/3d从特征维度出发
  2. 层归一化nn.LayerNorm对每一个样本
  3. 实例归一化nn.InstanceNorm1d/2d/3d对每一个样本的一个通道
  4. 组归一化nn.GroupNorm对每一个样本的通道数进行分组
    详细描述请参考(https://www.cnblogs.com/zpc1001/p/13344215.html)

**函数

  1. Relu函数:f(x) = max (0,x)图像如下

学习pytorch全卷积的笔记

  1. LeakyRelu函数

学习pytorch全卷积的笔记

池化操作

最大池化nn.MaxPool1d/1d/3d,领域内特征点取最大
常用参数(kernel_size,stride)(池化的大小,步长)
学习pytorch全卷积的笔记
平均池化nn.AdaptiveAvgPool1d/2d/3d领域内特征点取平均值
学习pytorch全卷积的笔记
池化后图片大小计算
W=[(W-F)/S]+1
H=[(H-F)/S]+1