快捷方式

CutlassInt4PackedLayout

class torchao.dtypes.CutlassInt4PackedLayout[源]

用於仿射量化張量 int4 packed layout 的佈局類,適用於 cutlass kernel。

文件

訪問 PyTorch 的全面開發者文件

檢視文件

教程

獲取針對初學者和高階開發者的深入教程

檢視教程

資源

查詢開發資源並獲取問題解答

檢視資源