快捷方式

torch.nn.attention

此模組包含修改 torch.nn.functional.scaled_dot_product_attention 行為的函式和類

工具函式

sdpa_kernel

用於選擇縮放點積注意力要使用哪個後端的上下文管理器。

SDPBackend

一個類似列舉的類,包含縮放點積注意力的不同後端。

子模組

flex_attention

此模組實現了 PyTorch 中 flex_attention 的面向使用者 API。

偏置

定義了與 scaled_dot_product_attention 配合使用的偏置子類

實驗性

文件

查閱 PyTorch 的全面開發者文件

檢視文件

教程

獲取面向初學者和高階開發者的深入教程

檢視教程

資源

查詢開發資源並獲得問題解答

檢視資源