torch.nn.attention

此模組包含更改 torch.nn.functional.scaled_dot_product_attention 行為的函數和類別。

工具

sdpa_kernel	上下文管理器，用於選擇要為縮放點積注意力使用的後端。
SDPBackend	一個類似列舉的類別，包含縮放點積注意力的不同後端。

子模組

偏差	定義與 scaled_dot_product_attention 一起使用的偏差子類別。