本文中主要讲解 PyTorch 中的转置卷积、逆卷积、微步卷积: ConvTranspose2d 函数
ConvTranspose2d
nn.ConvTranspose2d(in_channels, out_channels, kernel_size, stride=1, padding=0, output_padding=0, groups=1, bias=True, dilation=1, padding_mode='zeros', device=None, dtype=None)
此函数作一个反卷积操作，与 Conv2d 相反，此操作将图像的特征维度压缩，尺寸放大
输出的长和宽的计算
$$
\begin{aligned}
H_{out} = (H_{in}-1)stride[0]-2padding[0]+dilation[0](kernel_size[0]-1)+output_padding[0]+1 \
W_{out} = (W_{in}-1)stride[1]-2padding[1]+dilation[1](kernel_size[1]-1)+output_padding[1]+1
\end{aligned}
$$
参数的含义
- in_channels ([int]) – 输入图像通道数
- out_channels ([int])– 输出图像通道数
- kernel_size ([int] or [tuple]) – 卷积核的大小
- stride ([int] or [tuple], optional) – 输入图片之间的间隔. Default: 1
- padding ([int], [tuple]or [str], optional) – 卷积核与输入边缘相交的 pixel. Default: 0（即相交一个单位）
- output_padding ([int] or [tuple], optional) – Additional size added to one side of each dimension in the output shape. Default: 0
- groups ([int], optional) – Number of blocked connections from input channels to output channels. Default: 1
- bias ([bool], optional) – If
True, adds a learnable bias to the output. Default:True - dilation ([int] or [tuple], optional) – Spacing between kernel elements. Default: 1
注意：这里的 padding 和 stride 与 Conv2d 的不同
- padding：卷积核向中心移动的步数，即当 padding 为 0 时，卷积核在卷积的时候移动到最边缘时与输入相交一个单位，当 padding 为 1 时，卷积核在卷积的时候移动到最边缘时与输入相交两个单位，即向内部多移动了一个单位
- stride：输入彼此之间的距离，stride 默认为 1，即输入之间彼此相距一个单位，当 stride 为 2 时，输入之间会额外散开一个单位，即输入之间相距两个单位（即任意一个输入 pixel 需要移动两次才能到达最近的 pixel）
ConvTranspose2d 是 Conv2d 的逆操作，当不知道如何使用时，可以直接将参数设为：你的 Conv2d 的参数如何，ConvTranspose2d 的参数不变就可以回到最初输入时的状态
当然我们不能不知道他的原理，在假设已知 Conv2d 如何操作的基础上，我们通过三个例子来介绍一下 ConvTranspose2d 的具体操作过程，图源GitHub
实例 1: stride=1 padding=0
在默认情况下 ConvTranspose2d 将 feature map 进行 kernal size-1 的 padding
看以下例子，(4, 4)的图片经过 Conv 变成了(2, 2)，当我们对他进行 stride=1，padding=0 的 ConTranspose2d 的时候，默认已经进行了 kernel size-1=2 的 padding 操作，然后其他不变：kernel size=3，stride=1 和 padding=0
# input
input = torch.ones((1, 1, 4, 4), dtype=torch.float)
# conv
conv = nn.Conv2d(1, 1, 3, stride=1, padding=0, bias=False)
conv.weight = torch.nn.Parameter(torch.ones(1,1,3,3))
output = conv(input)
# convTranspose
trans = nn.ConvTranspose2d(1, 1, 3, stride=1, padding=0, bias=False)
trans.weight = torch.nn.Parameter(torch.ones(1,1,3,3))
trans(output)
'''
input---------------------
tensor([[[[1., 1., 1., 1.],
[1., 1., 1., 1.],
[1., 1., 1., 1.],
[1., 1., 1., 1.]]]])
conv ---------------------
tensor([[[[9., 9.],
[9., 9.]]]], grad_fn=<ThnnConv2DBackward>)
trans---------------------
tensor([[[[ 9., 18., 18., 9.],
[18., 36., 36., 18.],
[18., 36., 36., 18.],
[ 9., 18., 18., 9.]]]], grad_fn=<SlowConvTranspose2DBackward>)
'''
 |
 |
实例 2: stride=2 padding=0
这里我们将 stride 从 1 变为 2，如下图所示，对于 Conv 来说他的变化是卷积核移动的距离变为 2，对于 ConvTranspose 来说变化是 feature map 中像素之间的距离+1，而默认的 kernal size-1 的 padding 不变
# input
input = torch.ones((1, 1, 5, 5), dtype=torch.float)
# conv
conv = nn.Conv2d(1, 1, 3, stride=2, padding=0, bias=False)
conv.weight = torch.nn.Parameter(torch.ones(1,1,3,3))
output = conv(input)
# convTranspose
'''
input---------------------
tensor([[[[1., 1., 1., 1., 1.],
[1., 1., 1., 1., 1.],
[1., 1., 1., 1., 1.],
[1., 1., 1., 1., 1.],
[1., 1., 1., 1., 1.]]]])
conv ---------------------
tensor([[[[9., 9.],
[9., 9.]]]], grad_fn=<ThnnConv2DBackward>)
trans---------------------
tensor([[[[ 9., 9., 18., 9., 9.],
[ 9., 9., 18., 9., 9.],
[18., 18., 36., 18., 18.],
[ 9., 9., 18., 9., 9.],
[ 9., 9., 18., 9., 9.]]]], grad_fn=<SlowConvTranspose2DBackward>)
'''
 |
 |
实例 3: stride=1 padding=1
我们将 stride 不变，padding 变为 1，对于 Conv 来说每条边加入了填充，我们看一下对于 ConvTranspose 的变化，默认的我们对其进行 kernal size-1 的填充，这里本应该填充为 2，但是由于我们的 padding=1，所以我们的填充为 2-1=1 即只进行 1 个填充
# input
input = torch.ones((1, 1, 5, 5), dtype=torch.float)
# conv
conv = nn.Conv2d(1, 1, 3, stride=1, padding=1, bias=False)
conv.weight = torch.nn.Parameter(torch.ones(1,1,3,3))
output = conv(input)
# convTranspose
trans = nn.ConvTranspose2d(1, 1, 3, stride=1, padding=1, bias=False)
trans.weight = torch.nn.Parameter(torch.ones(1,1,3,3))
'''
input---------------------
tensor([[[[1., 1., 1., 1., 1.],
[1., 1., 1., 1., 1.],
[1., 1., 1., 1., 1.],
[1., 1., 1., 1., 1.],
[1., 1., 1., 1., 1.]]]])
conv ---------------------
tensor([[[[4., 6., 6., 6., 4.],
[6., 9., 9., 9., 6.],
[6., 9., 9., 9., 6.],
[6., 9., 9., 9., 6.],
[4., 6., 6., 6., 4.]]]], grad_fn=<ThnnConv2DBackward>)
trans---------------------
tensor([[[[25., 40., 45., 40., 25.],
[40., 64., 72., 64., 40.],
[45., 72., 81., 72., 45.],
[40., 64., 72., 64., 40.],
[25., 40., 45., 40., 25.]]]], grad_fn=<SlowConvTranspose2DBackward>)
'''
 |
 |
实例 4: stride=2 padding=1
这里我们融合了实例 2 和实例 3 的特点：既包含了 stride 的变化也包含了 padding 的变化，直接看图，对于 Conv 我们很容易理解，对于 ConvTranspose，stride 依旧是将 feature map 的像素之间距离+1，padding 也像上面例子一样，本身默认的填充是 kernal size-1=2，这里变为 2-1=1，然后填充区域是在 feature map 分开之后的基础上进行的
 |
 |
实例总结
经过上面的例子我们可以了解到以下参数
- stride=1 padding=0: 此情况下，对于 Conv 表示步长为 1，填充为 0，而对于 ConvTranspose 则为 feature map 不变的情况下进行默认的 kernal size-1 的 padding
- stride：对于 Conv 就是卷积核移动的距离，对于 ConvTranspose 是输入的 feature map 的像素之间的间隔
- padding: 对于 Conv 是原图四条边填充的大小，对于 ConvTranspose 本身默认填充 kernal size-1，现在变为 kernel size-1-padding
- in_channels out_channels kernel_size: Conv 与 ConvTranspose 相同
output_padding
我的一个简单理解是：output padding 用来保证通过 ConvTranspose 之后生成的特征图和通过 Conv 之前输出的特征图的维度相同
Feature_in → Conv Other Operation ConvTranspose → Feature_out
其中size(feature_in) = size(feature_out)
在 ConvTranspose2d 中有一个 output_padding 参数，这里给出Stack Overflow 的解释
这里简单讲解一下，就是说对于两个相同的输入一个为(7, 7)，一个为(8, 8)，当我们对他进行 Conv 操作时得到的 feature map 大小相同均为(3, 3)
# input
input1 = torch.ones((1, 1, 7, 7), dtype=torch.float)
input2 = torch.ones((1, 1, 8, 8), dtype=torch.float)
# conv
conv = nn.Conv2d(1, 1, 3, stride=2, bias=False)
conv.weight = torch.nn.Parameter(torch.ones(1,1,3,3))
conv(input1)
conv(input2)
'''
conv ---------------------
tensor([[[[9., 9., 9.],
[9., 9., 9.],
[9., 9., 9.]]]], grad_fn=<ThnnConv2DBackward>)
conv ---------------------
tensor([[[[9., 9., 9.],
[9., 9., 9.],
[9., 9., 9.]]]], grad_fn=<ThnnConv2DBackward>)
'''
但是如果我们想将它们恢复到原来的大小怎么办呢？如果我们将输出的(3, 3)的 feature map 直接输入到 ConvTranspose 中输出是(7, 7)的图片，如果我们想输出(8, 8)的怎么办呢？就要用到 output padding 方法，从下面例子我们可以看出，output padding 将最终的输出进行了补零操作**(其实我没看到文档中说的怎么做的，只是从例子中看到的是补零)**
# no output padding
trans1 = nn.ConvTranspose2d(1, 1, 3, stride=2, bias=False)
trans1.weight = torch.nn.Parameter(torch.ones(1,1,3,3))
trans1(output)
# with output padding
trans2 = nn.ConvTranspose2d(1, 1, 3, stride=2, output_padding=1, bias=False)
trans2.weight = torch.nn.Parameter(torch.ones(1,1,3,3))
trans2(output)
'''
tensor([[[[ 9., 9., 18., 9., 18., 9., 9.],
[ 9., 9., 18., 9., 18., 9., 9.],
[18., 18., 36., 18., 36., 18., 18.],
[ 9., 9., 18., 9., 18., 9., 9.],
[18., 18., 36., 18., 36., 18., 18.],
[ 9., 9., 18., 9., 18., 9., 9.],
[ 9., 9., 18., 9., 18., 9., 9.]]]],
grad_fn=<SlowConvTranspose2DBackward>)
tensor([[[[ 9., 9., 18., 9., 18., 9., 9., 0.],
[ 9., 9., 18., 9., 18., 9., 9., 0.],
[18., 18., 36., 18., 36., 18., 18., 0.],
[ 9., 9., 18., 9., 18., 9., 9., 0.],
[18., 18., 36., 18., 36., 18., 18., 0.],
[ 9., 9., 18., 9., 18., 9., 9., 0.],
[ 9., 9., 18., 9., 18., 9., 9., 0.],
[ 0., 0., 0., 0., 0., 0., 0., 0.]]]],
grad_fn=<SlowConvTranspose2DBackward>)
'''
本文由 Yonghui Wang 创作，采用
知识共享署名4.0
国际许可协议进行许可
本站文章除注明转载/出处外，均为本站原创或翻译，转载前请务必署名
最后编辑时间为:
Dec 19, 2024 12:13 pm