SDPBackend

class torch.nn.attention.SDPBackend

一個類似列舉的類，包含縮放點積注意力（scaled dot product attention）的不同後端。該後端類旨在與 sdpa_kernel 上下文管理器一起使用。

以下列舉可用

• ERROR: 確定後端時發生錯誤。

• MATH: 縮放點積注意力（scaled dot product attention）的數學後端。

• FLASH_ATTENTION: 縮放點積注意力（scaled dot product attention）的 Flash Attention 後端。

• EFFICIENT_ATTENTION: 縮放點積注意力（scaled dot product attention）的 Efficient Attention 後端。

• CUDNN_ATTENTION: 縮放點積注意力（scaled dot product attention）的 cuDNN 後端。

有關更多詳細資訊，請參閱 torch.nn.attention.sdpa_kernel()。

警告

此類別處於 Beta 階段，可能會發生變化。

property name