PyTorch 基金會很高興地歡迎深度學習最佳化庫 DeepSpeed 成為 PyTorch 基金會託管專案。DeepSpeed 由微軟貢獻，賦能開發者簡化分散式訓練和推理，從而更輕鬆地高效擴充套件 AI 模型，同時最大限度地降低成本和操作複雜性。自成立以來，DeepSpeed 一直利用核心 PyTorch 功能作為構建深度學習特性和最佳化的基礎。
PyTorch 基金會最近宣佈其擴充套件為傘形基金會，以加速 AI 創新，並很高興歡迎 DeepSpeed 成為首批新專案之一。基金會託管專案是指在傘形基金會下屬的專案，它們在 PyTorch 基金會中立透明的治理模式下正式管理和運作。
什麼是 DeepSpeed？
DeepSpeed 旨在最佳化深度學習工作流程，提供一套強大的功能，可提高 AI 模型訓練和部署的效能、可擴充套件性和成本效益。它能夠跨數千個 GPU 無縫擴充套件，同時最佳化受限系統的資源利用率，從而解決 AI 開發中的關鍵技術挑戰。
DeepSpeed 的主要功能包括：
- 可擴充套件模型訓練：支援具有數十億或數萬億引數的稠密和稀疏專家混合 (MoE) 模型，並可跨數千個 GPU 無縫擴充套件。
- 異構硬體支援：相容 Nvidia、AMD 和 Intel GPU、華為昇騰 NPU 和 Intel Gaudi 等多樣化硬體平臺，確保部署的靈活性和適應性。
- 最佳化資源利用：便於在 GPU 容量有限的系統上進行訓練和推理，最大限度地提高硬體效率並增加可訪問性。
- 低延遲推理：實現即時模型推理的最小延遲和高吞吐量。
- 壓縮功能：在不犧牲效能的情況下，降低模型大小和推理延遲，從而降低大規模部署的成本。
共同加速開源 AI
DeepSpeed 加入 PyTorch 基金會，強化了基金會加速開源 AI 的使命。透過加入 PyTorch 基金會，DeepSpeed 獲得了蓬勃發展的開源專案生態系統、全球貢獻者網路以及強大的技術和運營資源。此次合作使 DeepSpeed 社群能夠擴大其工作，增強與其他專案的互操作性，並推動其最佳化庫的廣泛採用。此外，PyTorch 基金會對開放治理和社群驅動開發的關注確保了 DeepSpeed 的發展符合 AI 領域透明度、包容性和創新的共同目標。
訪問DeepSpeed 網站，瞭解更多關於 DeepSpeed 以及如何參與的資訊。