torch.mps¶
此包提供了在 Python 中訪問 MPS (Metal Performance Shaders) 後端的介面。Metal 是 Apple 用於程式設計 Metal GPU(圖形處理器)的 API。使用 MPS 意味著可以透過在 Metal GPU 上執行工作負載來提高效能。有關更多詳細資訊,請參閱 https://developer.apple.com/documentation/metalperformanceshaders。
返回可用的 MPS 裝置數量。 |
|
等待 MPS 裝置上所有流中的所有核心完成。 |
|
以 ByteTensor 的形式返回隨機數生成器狀態。 |
|
設定隨機數生成器狀態。 |
|
設定用於生成隨機數的種子。 |
|
將用於生成隨機數的種子設定為一個隨機數。 |
|
釋放快取分配器當前持有的所有未佔用快取記憶體,以便這些記憶體可用於其他 GPU 應用程式。 |
|
設定記憶體比例,限制程序在 MPS 裝置上的記憶體分配。 |
|
返回張量當前佔用的 GPU 記憶體大小(位元組)。 |
|
返回 Metal 驅動為程序分配的總 GPU 記憶體大小(位元組)。 |
|
返回建議的 GPU 記憶體最大工作集大小(位元組)。 |
|
從原始碼編譯計算著色器,並允許在方便的 Python 執行時中呼叫其中定義的核心。示例。 |
MPS 分析器¶
從 MPS 後端啟動 OS Signpost 跟蹤。 |
|
停止從 MPS 後端生成 OS Signpost 跟蹤。 |
|
用於從 MPS 後端啟用 OS Signpost 跟蹤生成的上下文管理器。 |
|
檢查 Metal 捕獲是否正在進行中 |
|
檢查 `metal_capture` 上下文管理器是否可用。要啟用 Metal 捕獲,請設定 MTL_CAPTURE_ENABLED 環境變數 |
|
啟用將 Metal 呼叫捕獲到 gputrace 中的上下文管理器 |
MPS 事件¶
MPS 事件的包裝器。 |