torch.nn.utils.prune.l1_unstructured

torch.nn.utils.prune.l1_unstructured(module, name, amount, importance_scores=None)

透過移除 L1 範數最低的單元來剪枝張量。

透過移除 L1 範數最低的指定 amount 數量的（當前未被剪枝的）單元，對 module 中名為 name 的引數對應的張量進行剪枝。該方法會原地修改模組（並返回修改後的模組），具體操作為：

1. 新增一個名為 name+'_mask' 的命名緩衝區，對應於剪枝方法應用到引數 name 的二進位制掩碼。

2. 將引數 name 替換為其剪枝後的版本，同時將原始（未剪枝的）引數儲存在一個名為 name+'_orig' 的新引數中。

引數

• module (nn.Module) – 包含待剪枝張量的模組

• name (str) – module 中將進行剪枝操作的引數名稱。

• amount (int 或 float) – 待剪枝引數的數量。如果為 float，則應在 0.0 到 1.0 之間，表示待剪枝引數的比例。如果為 int，則表示待剪枝引數的絕對數量。

• importance_scores (torch.Tensor) – 用於計算剪枝掩碼的重要性分數張量（與模組引數形狀相同）。此張量中的值表示待剪枝引數中對應元素的重要性。如果未指定或為 None，則使用模組引數本身。

返回

輸入模組的修改（即已剪枝）版本

返回型別

模組 (nn.Module)

示例

>>> m = prune.l1_unstructured(nn.Linear(2, 3), 'weight', amount=0.2)
>>> m.state_dict().keys()
odict_keys(['bias', 'weight_orig', 'weight_mask'])