一行設定：Amazon 的 TorchNeuron 瞄準 Nvidia 的 CUDA 鎖定效應

新聞摘要

Amazon Web Services（AWS）於太平洋時間 2026 年 10 月 19 日星期一發布 TorchNeuron，這是一款開發者工具，目的是讓 AI 團隊更容易把應用程式遷移到 Amazon 自研的 Trainium 晶片上。TorchNeuron 以 PyTorch 為基礎，PyTorch 是用來建置、訓練和執行 AI 模型的開源框架。AWS 表示，現有的 PyTorch 應用程式只要修改一行設定，就能在 Trainium 上執行，完全不需要改寫程式碼。這項發布瞄準了許多人眼中 Nvidia 最強的優勢：CUDA 軟體層，正是它讓 Nvidia 硬體成為 AI 開發者的預設選擇。

TorchNeuron 是什麼

TorchNeuron 是 AWS Trainium 的 PyTorch 後端。根據 AWS 公開的 Neuron 文件，它透過 PyTorch 的 PrivateUse1 裝置機制，以原生 PyTorch 整合取代了先前以 XLA 為基礎的做法。它同時支援 eager 模式和 torch.compile，並以 Trn2 和 Trn3 執行個體為目標。這個套件保留了前身 torch-neuronx 的名稱，並被描述為開源專案，最初託管在 GitHub 的 aws-neuron/torch-neuronx 儲存庫。

對開發者來說，實際的改變是為 CUDA GPU 撰寫的程式碼只需要極少的修改。AWS 常見問答中的主要範例，就是把裝置從 CUDA 改成 Neuron。FSDP 和 DTensor 等分散式功能都有支援，不過分片設定取決於 NeuronCore 的數量，而不是 GPU 的數量。

為什麼 PyTorch 和 CUDA 很重要

PyTorch 最初是在 Facebook 開發的，自 2022 年起成為 Linux Foundation 的一部分。Amazon 表示，大約 85% 的 AI 應用程式都是用 PyTorch 撰寫的。Nvidia 的 CUDA 是讓這類應用程式能在其 GPU 上執行的軟體層，而 Nvidia 一直努力讓 CUDA 對 PyTorch 的支援保持無縫順暢。這種便利性正是開發者傾向留在 Nvidia 硬體上的重要原因。

Amazon 不是第一家承諾輕鬆移植 PyTorch 的公司。PyTorch 應用程式也可以透過修改設定，遷移到 AMD GPU 或 Apple 晶片上。Amazon 推銷的是同樣低摩擦的路徑，只是目的地換成自家的晶片和雲端。

Trainium 的賣點

Trainium 的設計目標是在同一顆晶片上同時處理訓練和推論。AWS 主張，這一點加上與其更廣泛雲端基礎架構的整合，可以幫新創公司省錢，即使 AWS 在每個 token 的價格上不是最便宜的選項。AWS 也把在自家雲端上建置定位為比 CoreWeave、Nebius 和 Firmus 等「新雲端」供應商更好的選擇，因為這些供應商大多與 Nvidia 硬體綁定。

AWS 客製化晶片部門 Annapurna Labs 的技術軟體副總裁 Colin Brace 把這次發表定位在「選擇」上：「真正的重點是消除那個讓開發者根本沒有真正選擇的鎖定效應。」

客戶案例：Deepgram

AWS 以 Deepgram 為早期採用者，這是一家與 ElevenLabs 競爭的 AI 語音公司。Deepgram 使用原生 PyTorch 支援遷移到 Trainium，根據 AWS 的說法，現在每一美元能處理的音訊量增加了 70%，同時維持生產等級的準確度。這個數字來自 AWS；原始報導並未包含獨立基準測試。

PyTorch 本身的變革

Amazon 也表示會貢獻變更到 PyTorch 主專案，移除把框架綁定在特定晶片上的程式碼，讓它更不受硬體限制。原始報導提到一個可能的取捨：支援多種硬體的框架，可能帶給開發者更多設定工作，而不只是更多選擇。

背景：Trainium 的大規模部署

產業報導描述了 Project Rainier，它在 2025 年 10 月上線，使用近 50 萬顆 Trainium2 晶片來訓練 Anthropic 的 Claude 模型，並報導 Trainium3 在 AWS re:Invent 2025 上推出。這些細節來自一份二手產業指南，應該比 AWS 自家文件更謹慎看待。

值得關注的重點

定價、全面上市細節以及與 Nvidia GPU 的獨立效能比較，在發表報導中都沒有揭露。開發者是否會在真實生產工作負載上看到「一行設定」遷移的承諾成立，以及上游 PyTorch 的變更多快落地，將決定 TorchNeuron 能否縮小 CUDA 長期握有的軟體差距。

來源

本報導取材自 TechCrunch 2026 年 10 月 19 日的報導、AWS Neuron 文件，以及 Introl 關於 AWS 晶片生態系的產業指南。