快捷方式

swap_linear_with_smooth_fq_linear

torchao.quantization.swap_linear_with_smooth_fq_linear(model, skip_fqn_list=None, cur_fqn='', alpha=0.5) None[原始碼]

用其 SmoothFakeDynamicallyQuantizedLinear 等效項替換模型中的線性層。

引數:
  • model (torch.nn.Module) – 包含要替換的線性層的模型。

  • skip_fqn_list (str 列表, 可選) – 在替換期間跳過的完全限定名稱列表。預設為 None。

  • cur_fqn (str, 可選) – 當前正在處理的模組的完全限定名稱。預設為 ""。

  • alpha (float, 可選) – SmoothQuant 的縮放因子。預設為 0.5。

返回:

None

文件

查閱 PyTorch 的全面開發者文件

檢視文件

教程

獲取針對初學者和高階開發者的深度教程

檢視教程

資源

查詢開發資源並獲得問題解答

檢視資源