PerChannelMinMaxObserver¶
- class torch.ao.quantization.observer.PerChannelMinMaxObserver(ch_axis=0, dtype=torch.quint8, qscheme=torch.per_channel_affine, reduce_range=False, quant_min=None, quant_max=None, factory_kwargs=None, eps=1.1920928955078125e-07, is_dynamic=False, **kwargs)[source][source]¶
用於根據執行的逐通道最小值和最大值計算量化引數的觀察器模組。
此觀察器使用張量的最小值/最大值統計資訊來計算逐通道量化引數。該模組記錄傳入張量的執行最小值和最大值,並使用此統計資訊來計算量化引數。
- 引數
ch_axis – 通道軸
dtype – 實現參考模型規範所需的 quantize 節點的 dtype 引數。
qscheme – 要使用的量化方案
reduce_range – 將量化資料型別的範圍縮小 1 位
quant_min – 最小量化值。如果未指定,將遵循 8 位設定。
quant_max – 最大量化值。如果未指定,將遵循 8 位設定。
eps (torch.Tensor) – float32 的 Epsilon 值,預設為 torch.finfo(torch.float32).eps。
量化引數的計算方式與
MinMaxObserver相同,區別在於執行的最小值/最大值是逐通道儲存的。因此,縮放因子和零點也是逐通道計算的。注意
如果執行的最小值等於執行的最大值,則縮放因子和零點將設定為 1.0 和 0。