Dropout

class torch.nn.Dropout(p=0.5, inplace=False)

在訓練期間，以機率 p 隨機將輸入張量中的部分元素歸零。

每次前向呼叫時都會獨立選擇要歸零的元素，它們是從伯努利分佈中取樣的。

每次前向呼叫時，每個通道將獨立地歸零。

如論文 Improving neural networks by preventing co-adaptation of feature detectors 中所述，這已被證明是一種有效的正則化技術，可以防止神經元之間的協同適應。

此外，在訓練期間，輸出會按因子 $\frac{1}{1-p}$ 進行縮放。這意味著在評估期間，該模組僅計算一個恆等函式。

引數

• p (float) – 元素被歸零的機率。預設值：0.5

• inplace (bool) – 如果設定為 True，將原地執行此操作。預設值：False

形狀

• 輸入: $(*)$。輸入可以是任何形狀

• 輸出: $(*)$。輸出與輸入具有相同的形狀

示例

>>> m = nn.Dropout(p=0.2)
>>> input = torch.randn(20, 16)
>>> output = m(input)