快捷方式

torch.nn.utils.prune.ln_structured

torch.nn.utils.prune.ln_structured(module, name, amount, n, dim, importance_scores=None)[source][source]

透過移除指定維度上 Ln 範數最低的通道來剪枝張量。

透過移除 module 中名為 name 的引數張量沿指定 dim 方向上 Ln 範數最低的指定 amount (當前未剪枝)通道來剪枝該張量。此操作會原地修改 module(並返回修改後的 module),具體方式如下:

  1. 新增一個名為 name+'_mask' 的命名緩衝區,它對應於剪枝方法應用於引數 name 的二進位制掩碼。

  2. 將引數 name 替換為其剪枝後的版本,而原始(未剪枝)引數則儲存在名為 name+'_orig' 的新引數中。

引數
  • module (nn.Module) – 包含待剪枝張量的模組

  • name (str) – module 中將被剪枝操作作用的引數名。

  • amount (intfloat) – 待剪枝引數的數量。如果為 float,應介於 0.0 和 1.0 之間,表示要剪枝的引數比例。如果為 int,表示要剪枝的引數的絕對數量。

  • n (int, float, inf, -inf, 'fro', 'nuc') – 參見 torch.norm() 中引數 p 的有效條目文件。

  • dim (int) – 定義要剪枝通道的維度索引。

  • importance_scores (torch.Tensor) – 用於計算剪枝掩碼的重要性分數張量(與模組引數形狀相同)。此張量中的值表示被剪枝引數中對應元素的重要性。如果未指定或為 None,則將使用模組引數代替。

返回

輸入模組的修改(即剪枝)版本

返回型別

module (nn.Module)

示例

>>> from torch.nn.utils import prune
>>> m = prune.ln_structured(
...     nn.Conv2d(5, 3, 2), 'weight', amount=0.3, dim=1, n=float('-inf')
... )

文件

查閱 PyTorch 的全面開發者文件

檢視文件

教程

獲取面向初學者和高階開發者的深入教程

檢視教程

資源

查詢開發資源並獲得問題解答

檢視資源