對由多個輸入平面組成的輸入訊號應用二維卷積。
在最簡單的情況下,輸入尺寸為 ( N , C in , H , W ) (N, C_{\text{in}}, H, W) ( N , C in , H , W ) 且輸出尺寸為 ( N , C out , H out , W out ) (N, C_{\text{out}}, H_{\text{out}}, W_{\text{out}}) ( N , C out , H out , W out ) 的層的輸出值可以精確描述為
out ( N i , C out j ) = bias ( C out j ) + ∑ k = 0 C in − 1 weight ( C out j , k ) ⋆ input ( N i , k ) \text{out}(N_i, C_{\text{out}_j}) = \text{bias}(C_{\text{out}_j}) + \sum_{k = 0}^{C_{\text{in}} - 1} \text{weight}(C_{\text{out}_j}, k) \star \text{input}(N_i, k) out ( N i , C out j ) = bias ( C out j ) + k = 0 ∑ C in − 1 weight ( C out j , k ) ⋆ input ( N i , k ) 其中 ⋆ \star ⋆ 是有效的二維互相關 運算元,N N N 是批次大小,C C C 表示通道數,H H H 是輸入平面的高度(畫素),W W W 是寬度(畫素)。
此模組支援 TensorFloat32 。
在某些 ROCm 裝置上,使用 float16 輸入時,此模組的反向傳播將使用不同的精度 。
stride 控制互相關的步長,可以是一個數字或一個元組。
padding 控制應用於輸入的填充量。它可以是一個字串 {'valid', 'same'} 或一個整數 / 一個整數元組,表示在兩側應用的隱式填充量。
dilation 控制卷積核點之間的間距;也稱為 à trous 演算法。這更難描述,但這個連結 提供了關於 dilation 作用的良好視覺化解釋。
groups 控制輸入和輸出之間的連線。 in_channels 和 out_channels 都必須能被 groups 整除。例如,
當 groups=1 時,所有輸入都與所有輸出進行卷積。
當 groups=2 時,該操作等價於並行有兩個卷積層,每個層接收一半的輸入通道併產生一半的輸出通道,然後將兩者拼接起來。
當 groups = in_channels 時,每個輸入通道與其自己的一組濾波器(大小為 out_channels in_channels \frac{\text{out\_channels}}{\text{in\_channels}} in_channels out_channels )進行卷積。
引數 kernel_size 、stride 、padding 、dilation 可以是
注意
當 groups == in_channels 且 out_channels == K * in_channels (其中 K 是一個正整數)時,此操作也稱為“深度可分離卷積”(depthwise convolution)。
換句話說,對於大小為 ( N , C i n , L i n ) (N, C_{in}, L_{in}) ( N , C in , L in ) 的輸入,可以使用引數 ( C in = C in , C out = C in × K , . . . , groups = C in ) (C_\text{in}=C_\text{in}, C_\text{out}=C_\text{in} \times \text{K}, ..., \text{groups}=C_\text{in}) ( C in = C in , C out = C in × K , ... , groups = C in ) 執行深度可分離卷積(depthwise convolution),其中深度乘數(depthwise multiplier)為 K 。
注意
在某些情況下,當輸入張量位於 CUDA 裝置並使用 CuDNN 時,此運算子可能會選擇非確定性演算法以提高效能。如果這是不希望的行為,您可以透過設定 torch.backends.cudnn.deterministic = True 來嘗試使操作具有確定性(可能會犧牲部分效能)。有關更多資訊,請參閱 可復現性 。
注意
padding='valid' 等同於不進行填充。padding='same' 對輸入進行填充,使輸出具有與輸入相同的形狀。但是,此模式不支援除了 1 以外的步長值。
注意
此模組支援複數資料型別,例如 complex32, complex64, complex128 。
引數
in_channels (int ) – 輸入影像中的通道數
out_channels (int ) – 卷積產生的通道數
kernel_size (int 或 tuple ) – 卷積核的大小
stride (int 或 tuple , 可選的 ) – 卷積的步長。預設值:1
padding (int , tuple 或 str , 可選的 ) – 輸入四邊新增的填充。預設值:0
dilation (int 或 tuple , 可選的 ) – 核心元素之間的間距。預設值:1
groups (int , 可選的 ) – 從輸入通道到輸出通道的組連線數。預設值:1
bias (bool , 可選的 ) – 如果為 True ,則向輸出新增一個可學習的偏置項。預設值:True
padding_mode (str , 可選的 ) – 'zeros' , 'reflect' , 'replicate' 或 'circular' 。預設值:'zeros'
形狀
輸入:( N , C i n , H i n , W i n ) (N, C_{in}, H_{in}, W_{in}) ( N , C in , H in , W in ) 或 ( C i n , H i n , W i n ) (C_{in}, H_{in}, W_{in}) ( C in , H in , W in )
輸出:( N , C o u t , H o u t , W o u t ) (N, C_{out}, H_{out}, W_{out}) ( N , C o u t , H o u t , W o u t ) 或 ( C o u t , H o u t , W o u t ) (C_{out}, H_{out}, W_{out}) ( C o u t , H o u t , W o u t ) ,其中
H o u t = ⌊ H i n + 2 × padding [ 0 ] − dilation [ 0 ] × ( kernel_size [ 0 ] − 1 ) − 1 stride [ 0 ] + 1 ⌋ H_{out} = \left\lfloor\frac{H_{in} + 2 \times \text{padding}[0] - \text{dilation}[0] \times (\text{kernel\_size}[0] - 1) - 1}{\text{stride}[0]} + 1\right\rfloor H o u t = ⌊ stride [ 0 ] H in + 2 × padding [ 0 ] − dilation [ 0 ] × ( kernel_size [ 0 ] − 1 ) − 1 + 1 ⌋
W o u t = ⌊ W i n + 2 × padding [ 1 ] − dilation [ 1 ] × ( kernel_size [ 1 ] − 1 ) − 1 stride [ 1 ] + 1 ⌋ W_{out} = \left\lfloor\frac{W_{in} + 2 \times \text{padding}[1] - \text{dilation}[1] \times (\text{kernel\_size}[1] - 1) - 1}{\text{stride}[1]} + 1\right\rfloor W o u t = ⌊ stride [ 1 ] W in + 2 × padding [ 1 ] − dilation [ 1 ] × ( kernel_size [ 1 ] − 1 ) − 1 + 1 ⌋
變數
weight (Tensor ) – 模組的可學習權重,形狀為 ( out_channels , in_channels groups , (\text{out\_channels}, \frac{\text{in\_channels}}{\text{groups}}, ( out_channels , groups in_channels , kernel_size[0] , kernel_size[1] ) \text{kernel\_size[0]}, \text{kernel\_size[1]}) kernel_size[0] , kernel_size[1] ) 。這些權重的值從 U ( − k , k ) \mathcal{U}(-\sqrt{k}, \sqrt{k}) U ( − k , k ) 中取樣,其中 k = g r o u p s C in ∗ ∏ i = 0 1 kernel_size [ i ] k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]} k = C in ∗ ∏ i = 0 1 kernel_size [ i ] g ro u p s
偏置 (張量 ) – 模組的可學習偏置,形狀為 (輸出通道數)。如果 bias 為 True ,則這些權重的取值將從 U ( − k , k ) \mathcal{U}(-\sqrt{k}, \sqrt{k}) U ( − k , k ) 中取樣,其中 k = g r o u p s C in ∗ ∏ i = 0 1 kernel_size [ i ] k = \frac{groups}{C_\text{in} * \prod_{i=0}^{1}\text{kernel\_size}[i]} k = C in ∗ ∏ i = 0 1 kernel_size [ i ] g ro u p s 。
示例
>>> # With square kernels and equal stride
>>> m = nn . Conv2d ( 16 , 33 , 3 , stride = 2 )
>>> # non-square kernels and unequal stride and with padding
>>> m = nn . Conv2d ( 16 , 33 , ( 3 , 5 ), stride = ( 2 , 1 ), padding = ( 4 , 2 ))
>>> # non-square kernels and unequal stride and with padding and dilation
>>> m = nn . Conv2d ( 16 , 33 , ( 3 , 5 ), stride = ( 2 , 1 ), padding = ( 4 , 2 ), dilation = ( 3 , 1 ))
>>> input = torch . randn ( 20 , 16 , 50 , 100 )
>>> output = m ( input )