總結
我們很榮幸於 2024 年 8 月 15 日成功舉辦了 PyTorch 上海交流會。本次交流會受到了業界的高度關注。我們邀請了來自英特爾和華為的資深 PyTorch 開發者作為主講嘉賓，他們分享了寶貴的經驗和最新的技術趨勢。此外，本次活動還吸引了來自眾多科技公司和知名大學的 PyTorch 愛好者。共有 40 多名參與者齊聚一堂，共同探討和交流 PyTorch 的最新應用和技術進展。
本次交流會不僅加強了 PyTorch 社群成員之間的聯絡，還為本地 AI 技術愛好者提供了一個學習、交流和成長的平臺。我們期待下一次聚會，繼續推動 PyTorch 技術在本地的發展。
1. PyTorch 基金會更新
PyTorch 董事會成員 Fred Li 分享了 PyTorch 社群的最新動態，他回顧了 PyTorch 社群的發展歷程，詳細闡述了社群開發者的成長路徑，鼓勵大家深入鑽研技術，並介紹了即將舉行的 PyTorch Conference 2024 相關事宜。
2. 英特爾的 PyTorch 之旅：以無處不在的硬體和開放軟體實現 AI 民主化
PyTorch CPU 模組維護者 Jiong Gong 分享了英特爾對 PyTorch 及其生態系統長達六年的技術貢獻，探討了英特爾在軟體和硬體方面取得的顯著進步，這些進步使得 AI 民主化、確保了可訪問性，並優化了各種英特爾硬體平臺的效能。
3. 探索 PyTorch 生態系統中的多後端支援：以昇騰為例
來自華為的 PyTorch 貢獻者華豐春以華為昇騰 NPU 為例，展示了 PyTorch 應用程式在多後端支援方面的最新成果。他介紹了華為昇騰 NPU 的硬體特性和 CANN（神經網路計算架構）的基礎設施，並闡述了原生支援工作中的關鍵成就和創新。他還分享了當前的挑戰和下一步工作計劃。
隨後，來自華為的另一位 PyTorch 貢獻者季元昊介紹了 Autoload Device Extension 提案，解釋了其實現細節和在提高 PyTorch 可擴充套件性方面的價值，並介紹了 PyTorch 中文社群的最新工作進展。
4. 用於 Inductor 的英特爾 XPU 後端
Eikan 是來自英特爾的 PyTorch 貢獻者，他專注於英特爾 CPU 和 GPU 的 torch.compile 堆疊。在本次會議中，Eikan 展示了英特爾在英特爾 GPU 上 torch.compile 方面所做的努力。他介紹了英特爾 GPU 在 PyTorch 中的當前狀態更新，涵蓋了功能和效能方面。此外，Eikan 還以英特爾 GPU 為案例研究，演示瞭如何使用 Triton 將新的後端整合到 Inductor 中。
5. PyTorch PrivateUse1 演進方法與見解
來自華為的 PyTorch 協作者李家偉介紹了 PyTorch 的排程機制，並強調了 DispatchKey 的侷限性。他以華為昇騰 NPU 為例，分享了 PyTorch PrivateUse1 機制的最佳實踐。他提到，在使用 PrivateUse1 機制的同時，華為也向 PyTorch 社群提交了許多針對該機制的改進和錯誤修復。他還提到，由於缺乏對非樹裝置的上游 CI 支援，上游程式碼的更改可能會影響其穩定性和質量，這一見解得到了大家的認可。