快捷方式

PerRow

class torch.ao.quantization.observer.PerRow[source][source]

表示量化中的按行粒度。

這是按軸量化的一個特例,獨屬於 Float8 矩陣乘法,其中輸入以 (1, …, input.shape[-1]) 的 block_size 進行量化,權重以 (1, weight.shape[1]) 的 block_size 進行量化。

文件

訪問全面的 PyTorch 開發者文件

檢視文件

教程

獲取面向初學者和高階開發者的深入教程

檢視教程

資源

查詢開發資源並獲取問題解答

檢視資源