快捷方式

L1Unstructured

torch.nn.utils.prune.L1Unstructured(amount)[source][source]

透過將 L1 範數最低的單元歸零來修剪張量中(當前未修剪的)單元。

引數

amount (intfloat) – 要修剪的引數數量。如果為 float 型別,值應介於 0.0 和 1.0 之間,表示要修剪的引數比例。如果為 int 型別,則表示要修剪的引數的絕對數量。

類方法 apply(module, name, amount, importance_scores=None)[source][source]

新增即時修剪和張量的重引數化。

新增正向預鉤子,啟用即時修剪,並將張量透過原始張量和修剪掩碼進行重引數化。

引數
  • module (nn.Module) – 包含要修剪的張量的模組

  • name (str) – module 中將進行修剪的引數名稱。

  • amount (intfloat) – 要修剪的引數數量。如果為 float 型別,值應介於 0.0 和 1.0 之間,表示要修剪的引數比例。如果為 int 型別,則表示要修剪的引數的絕對數量。

  • importance_scores (torch.Tensor) – 重要性得分張量(與模組引數形狀相同),用於計算修剪的掩碼。此張量中的值表示被修剪引數中對應元素的重要性。如果未指定或為 None,則將使用模組引數本身。

apply_mask(module)[source]

僅處理被修剪引數與生成的掩碼之間的乘法。

從模組中獲取掩碼和原始張量,並返回張量的修剪版本。

引數

module (nn.Module) – 包含要修剪的張量的模組

返回

輸入張量的修剪版本

返回型別

pruned_tensor (torch.Tensor)

prune(t, default_mask=None, importance_scores=None)[source]

計算並返回輸入張量 t 的修剪版本。

根據 compute_mask() 中指定的修剪規則。

引數
  • t (torch.Tensor) – 要修剪的張量(與 default_mask 具有相同維度)。

  • importance_scores (torch.Tensor) – 重要性得分張量(與 t 具有相同形狀),用於計算修剪 t 的掩碼。此張量中的值表示被修剪的 t 中對應元素的重要性。如果未指定或為 None,則將使用張量 t 本身。

  • default_mask (torch.Tensor, 可選) – 來自之前修剪迭代的掩碼(如果有)。在確定修剪應作用於張量的哪一部分時需要考慮。如果為 None,則預設為全 1 的掩碼。

返回

張量 t 的修剪版本。

remove(module)[source]

從模組中移除修剪重引數化。

名為 name 的被修剪引數將永久保持修剪狀態,名為 name+'_orig' 的引數將從引數列表中移除。類似地,名為 name+'_mask' 的緩衝區將從緩衝區列表中移除。

注意

修剪本身不會被撤銷或反轉!

文件

查閱 PyTorch 的全面開發者文件

檢視文件

教程

獲取面向初學者和高階開發者的深入教程

檢視教程

資源

查詢開發資源並獲得問題解答

檢視資源