torch.mtia

MTIA 後端在主程式碼樹之外實現，這裡只定義了介面。

此包提供了在 Python 中訪問 MTIA 後端的介面

StreamContext	用於選擇給定流的上下文管理器。
current_device	返回當前選定裝置的索引。
current_stream	返回給定裝置的當前選定 Stream。
default_stream	返回給定裝置的預設 Stream。
device_count	返回可用 MTIA 裝置的數量。
init
is_available	如果 MTIA 裝置可用，則返回 true
is_initialized	返回 PyTorch 的 MTIA 狀態是否已初始化。
memory_stats	返回給定裝置的 MTIA 記憶體分配器統計資訊的字典。
get_device_capability	以 (主版本, 次版本) 元組形式返回給定裝置的能力。
empty_cache	清空 MTIA 裝置快取。
record_memory_history	在 MTIA 分配器上啟用/停用記憶體效能分析器
snapshot	返回 MTIA 記憶體分配器歷史記錄的字典
set_device	設定當前裝置。
set_stream	設定當前流。這是一個用於設定流的包裝 API。
stream	包裝用於選擇給定流的 Context-manager StreamContext。
synchronize	等待 MTIA 裝置上所有流中的所有作業完成。
device	改變選定裝置的上下文管理器。
set_rng_state	設定隨機數生成器狀態。
get_rng_state	以 ByteTensor 形式返回隨機數生成器狀態。
DeferredMtiaCallError

流和事件

Event	查詢並記錄 Stream 狀態，以識別或控制跨 Stream 的依賴關係並測量時間。
Stream	一個按先進先出 (FIFO) 順序非同步執行相應任務的有序佇列。