部落格

部落格社群

使用 Triton 加速 GPU 效能：4 月 30 日 PyTorch ATX 活動

由 Red Hat 贊助的 PyTorch ATX Triton 活動於 2025 年 4 月 30 日舉行，……

Jason Meaux，ATX PyTorch 負責人 Stephen Watt，Red Hat 副總裁兼傑出工程師2025 年 5 月 20 日

部落格

PyTorch/XLA 2.7 版本釋出：可用性、vLLM 增強、JAX 橋接、GPU 構建

PyTorch/XLA 是一個 Python 包，它使用 XLA 深度學習編譯器來支援 PyTorch...

Pei Zhang, Chris Jones2025 年 5 月 13 日

部落格

MetaShuffling：加速 Llama 4 MoE 推理

專家混合 (MoE) 是一種流行的大型語言模型 (LLM) 架構。儘管它減少了...

Shikai Li, Gefei Zuo, Jianyu Huang, Jason Park, Zoey Sun, Xiaozhu Meng, Xiaodong Wang, Hongtao Yu, Changkyu Kim, CQ Tang, Stephen Chen2025 年 5 月 12 日

部落格

PyTorch：人工智慧的開放語言

主要收穫：PyTorch 今天以 Meta 等主要 AI 參與者為基礎，為生成式 AI 世界提供支援，...

Joe Spisak (Meta), Luca Antiga (Lightning.AI)2025 年 5 月 7 日

部落格社群

PyTorch 韓國使用者組 Meetup 回顧：與 PyTorch 核心維護者共同舉辦的技術會議

3月底，PyTorch 韓國使用者組舉辦了一場特別的聚會，……

Jiho Kim，PyTorch 韓國使用者組2025 年 5 月 5 日

部落格

FlexAttention 第二部分：用於推理的 FlexAttention

概述在 PyTorch 2.5.0 版本中，我們為希望瞭解的 ML 研究人員引入了 FlexAttention torch.nn.attention.flex_attention...

Joy Dong, Boyuan Feng, Driss Guessous, Joel Schlosser, Yanbo Liang, Horace He2025 年 4 月 30 日

6x faster Async Checkpointing in PyTorch

部落格

PyTorch 非同步檢查點速度提升 6 倍，使用快取計劃，無 GIL 爭用

Meta：Less Wright, Meet Vadakkanchery, Saurabh Mishra, Ela Krepska, Hamid Shojanazeri, Pradeep Fernando Crusoe：Ethan...

Meta 和 Crusoe2025 年 4 月 30 日

Accelerating Large Scale Training and Convergence with PyTorch Float8 Rowwise on Crusoe 2K H200s

部落格

在 Crusoe 2K H200s 上使用 PyTorch Float8 Rowwise 加速大規模訓練和收斂

Meta：Less Wright, Hamid Shojanazeri, Vasiliy Kuznetsov, Daniel Vega-Myhre, Gokul Nadathur, Will Constable, Tianyu Liu,...

Meta 和 Crusoe2025 年 4 月 28 日

部落格

在英特爾® GPU 上加速 PyTorch 2.7

PyTorch 2.7 繼續為 Intel® GPU 架構提供重要的功能和效能增強，以簡化...

Intel PyTorch 團隊2025 年 4 月 25 日

部落格

PyTorch 2.7 釋出

我們很高興地宣佈 PyTorch® 2.7 (發行說明) 釋出！此版本具有：...

PyTorch 團隊2025 年 4 月 23 日

Accelerating Whisper on Arm with PyTorch and Hugging Face Transformers

部落格

使用 PyTorch 和 Hugging Face Transformers 在 Arm 上加速 Whisper

自動語音識別 (ASR) 徹底改變了我們與技術的互動方式，為...

Pareena Verma, Arm2025 年 4 月 8 日

部落格生態系統

SGLang 加入 PyTorch 生態系統：高效的 LLM 服務引擎

我們很高興地宣佈 SGLang 專案已整合到 PyTorch 生態系統中！...

SGLang 團隊2025 年 3 月 19 日

Scaling Open Source AI: From Foundation Models to Ecosystem Success

部落格社群

PyTorch 亮相 GTC 2025

GTC 將於 2025 年 3 月 17 日至 21 日重返聖何塞。加入 PyTorch 基金會成員 Arm，……

PyTorch 基金會2025 年 3 月 16 日

Scaling Recommendation Systems Training to Thousands of GPUs with 2D Sparse Parallelism

部落格

使用 2D 稀疏並行將推薦系統訓練擴充套件到數千個 GPU

在 Meta，推薦系統是向數十億使用者提供相關和個性化廣告的基石...

Meta 的 PyTorch 團隊：Chunzhi Yang, Rich Zhu, Zain Huda, Liangbei Xu, Xin Zhang, Jiyan Yang, Dennis van der Staay, Wang Zhou, Jin Fang, Jade Nie, Yuxi Hu2025 年 3 月 11 日

部落格社群

利用 PyTorch、Fedora 和開源社群賦能人工智慧

在浦那舉行的 DevConf.IN 2025 上，我有機會在 2 月 28 日主持了一場 PyTorch 聚會。本次會議，……

Sudhir Dharanendraiah2025 年 3 月 7 日

部落格

巔峰效能，最小化記憶體：使用 torch.compile 和 Liger Kernel 最佳化 torchtune 的效能

LinkedIn：Shivam Sahni, Byron Hsu, Yanning ChenMeta：Ankith Gunapal, Evan Smothers 此部落格探討了...

LinkedIn 和 Meta2025 年 3 月 6 日

Current and New Activation Checkpointing Techniques in PyTorch

部落格

PyTorch 中現有及全新的啟用檢查點技術

隨著模型在深度、批次大小和序列長度等方面的擴充套件，啟用記憶體成為一個...

PyTorch 基金會2025 年 3 月 5 日

部落格

使用 PyTorch 加速生成式 AI：Segment Anything 2 – 以低延遲和快速冷啟動實現極速推理

這篇文章是我們多系列部落格第一篇的後續，該部落格專注於如何...

PyTorch 基金會2025 年 2 月 26 日

部落格社群

最佳化 LLM 以提高效率和可持續性

大型語言模型 (LLM) 應用的快速增長與……的快速增長息息相關。

Zach Lasiuk，Arm2025 年 2 月 19 日

部落格

解鎖 PyTorch 2.6 在英特爾平臺上的最新功能

PyTorch* 2.6 已釋出，帶有一系列令人興奮的新功能，包括 torch.compile 相容性...

Intel PyTorch 團隊2025 年 2 月 11 日

使用 Triton 加速 GPU 效能：4 月 30 日 PyTorch ATX 活動

PyTorch/XLA 2.7 版本釋出：可用性、vLLM 增強、JAX 橋接、GPU 構建

MetaShuffling：加速 Llama 4 MoE 推理

PyTorch：人工智慧的開放語言

PyTorch 韓國使用者組 Meetup 回顧：與 PyTorch 核心維護者共同舉辦的技術會議

FlexAttention 第二部分：用於推理的 FlexAttention

PyTorch 非同步檢查點速度提升 6 倍，使用快取計劃，無 GIL 爭用

在 Crusoe 2K H200s 上使用 PyTorch Float8 Rowwise 加速大規模訓練和收斂

在英特爾® GPU 上加速 PyTorch 2.7

PyTorch 2.7 釋出

使用 PyTorch 和 Hugging Face Transformers 在 Arm 上加速 Whisper

SGLang 加入 PyTorch 生態系統：高效的 LLM 服務引擎

PyTorch 亮相 GTC 2025

使用 2D 稀疏並行將推薦系統訓練擴充套件到數千個 GPU

利用 PyTorch、Fedora 和開源社群賦能人工智慧

巔峰效能，最小化記憶體：使用 torch.compile 和 Liger Kernel 最佳化 torchtune 的效能

PyTorch 中現有及全新的啟用檢查點技術

使用 PyTorch 加速生成式 AI：Segment Anything 2 – 以低延遲和快速冷啟動實現極速推理

最佳化 LLM 以提高效率和可持續性

解鎖 PyTorch 2.6 在英特爾平臺上的最新功能

文件

教程

資源

保持聯絡以獲取更新、活動資訊和最新新聞