Embedding

class torch.ao.nn.quantized.Embedding(num_embeddings, embedding_dim, padding_idx=None, max_norm=None, norm_type=2.0, scale_grad_by_freq=False, sparse=False, _weight=None, dtype=torch.quint8)

一個量化的 Embedding 模組，輸入為量化後的 packed 權重。我們採用了與 torch.nn.Embedding 相同的介面，更多文件請參考 https://pytorch.com.tw/docs/stable/generated/torch.nn.Embedding.html。

與 Embedding 類似，屬性在模組建立時會隨機初始化，之後會被覆蓋。

變數

weight (Tensor) – 模組的非可學習量化權重，形狀為 $(\text{num\_embeddings}, \text{embedding\_dim})$。

示例：

>>> m = nn.quantized.Embedding(num_embeddings=10, embedding_dim=12)
>>> indices = torch.tensor([9, 6, 5, 7, 8, 8, 9, 2, 8])
>>> output = m(indices)
>>> print(output.size())
torch.Size([9, 12])

classmethod from_float(mod, use_precomputed_fake_quant=False)

從 float 模組建立一個量化 embedding 模組

引數

mod (Module) – 一個 float 模組，可以由 torch.ao.quantization 工具生成，也可以由使用者提供