FBGEMM_GPU

FBGEMM_GPU（FBGEMM GPU 核心庫）是建立在 FBGEMM 之上的高效能 PyTorch GPU 運算元庫的集合，用於訓練和推理，重點關注推薦系統應用。該庫建立在 FBGEMM 之上，提供高效的表批處理嵌入袋、資料佈局轉換和量化支援。

FBGEMM_GPU 開發

• 構建說明
  • 設定獨立構建環境
  • 設定為僅 CPU 構建
  • 設定為 CUDA 構建
  • 設定為 ROCm 構建
  • 安裝構建工具
  • 安裝 PyTorch
  • 其他預構建設定
  • 僅 CPU 構建
  • CUDA 構建
  • ROCm 構建
  • 構建後檢查（針對開發者）
• 安裝說明
  • 設定僅 CPU 環境
  • 設定 CUDA 環境
  • 設定 ROCm 環境
  • 安裝 Python 庫
  • 安裝 PyTorch
  • 安裝 Triton
  • 安裝 FBGEMM_GPU 包
  • 安裝後檢查
• 測試說明
  • 設定 FBGEMM_GPU 測試環境
  • 執行 FBGEMM_GPU 測試
  • 執行 FBGEMM_GPU 基準測試
• 功能門
  • 建立功能門
  • 啟用功能門

FBGEMM_GPU 概述

• 參差張量運算元
  • 高階概述
  • 參差張量格式
  • 參差張量操作

FBGEMM 穩定 API

• FBGEMM_GPU 穩定 Python API
  • 穩定 API

FBGEMM_GPU C++ API

• 稀疏資料運算元
  • CUDA 運算元
  • CPU 運算元
• 量化運算元
  • CUDA 運算元
  • CPU 運算元
• 池化嵌入運算元
  • 合併運算元
  • 排列運算元
• 表批處理嵌入運算元
• 參差張量運算元
  • CUDA 運算元
  • CPU 運算元
• CUDA 記憶體運算元
• 組合輸入運算元
• 佈局轉換運算元
  • CUDA 運算元
  • CPU 運算元
• 嵌入運算元
  • CUDA 運算元
  • CPU 運算元
• SSD 嵌入運算元
  • CUDA 運算元
• 實驗性運算元
  • 注意力運算元
• 功能門 (C++)

FBGEMM_GPU Python API

• 稀疏運算元
  • 穩定 API
• 池化嵌入運算元
  • 穩定 API
  • 其他 API
• 量化運算元
  • 穩定 API
  • 其他 API
• 參差張量運算元
  • 穩定 API
  • 其他 API
• 表批處理嵌入 (TBE) 訓練模組
  • 穩定 API
  • 其他 API
• 表批處理嵌入 (TBE) 推理模組
  • 穩定 API
  • 其他 API
• 池化嵌入模組
  • 穩定 API
  • 其他 API
• 功能門 (Python)
  • 穩定 API