FBGEMM 專案主頁¶
歡迎來到 FBGEMM 專案的文件主頁！
FBGEMM 專案是一個包含用於各種深度學習應用的高度最佳化核心的倉庫。程式碼庫組織為三個相關的軟體包：FBGEMM、FBGEMM-GPU 和 FBGEMM-GenAI。
FBGEMM¶
FBGEMM (Facebook GEneral Matrix Multiplication，Facebook 通用矩陣乘法) 是一個用於伺服器端推理的低精度、高效能矩陣乘法和卷積庫。該庫在 x86 機器上用作 PyTorch 量化運算元的後端。
有關更多資訊，請參閱 FBGEMM。
FBGEMM_GPU¶
FBGEMM_GPU (FBGEMM GPU 核心庫) 是一個高效能 PyTorch GPU 運算元庫的集合，構建在 FBGEMM 之上，用於訓練和推理，專注於推薦系統應用。該庫構建在 FBGEMM 之上，提供高效的表格批處理嵌入包、資料佈局轉換和量化支援。
有關更多資訊，請參閱 FBGEMM_GPU。
FBGEMM GenAI¶
FBGEMM GenAI (FBGEMM 生成式 AI 核心庫) 是一組 PyTorch GPU 運算元庫，專為生成式 AI 應用設計，例如 FP8 逐行量化和集合通訊。
有關更多資訊，請參閱 FBGEMM GenAI。
目錄¶
FBGEMM 開發
FBGEMM C++ API
FBGEMM_GPU 概述
FBGEMM 穩定版 API
FBGEMM_GPU C++ API
FBGEMM_GPU Python API
