一行配置:亚马逊 TorchNeuron 瞄准英伟达 CUDA 锁定

新闻摘要
亚马逊云科技(AWS)于太平洋时间 2026 年 10 月 19 日(周一)发布了 TorchNeuron,这是一款开发者工具,旨在让 AI 团队更容易将应用迁移到亚马逊自研的 Trainium 芯片上。TorchNeuron 基于 PyTorch 构建,PyTorch 是用于构建、训练和运行 AI 模型的开源框架。AWS 表示,现有的 PyTorch 应用只需修改一行配置即可在 Trainium 上运行,无需重写代码。此次发布瞄准了许多人眼中英伟达最强的优势:其 CUDA 软件层,正是这一层让英伟达硬件成为 AI 开发者的默认选择。
TorchNeuron 是什么
TorchNeuron 是 AWS Trainium 的 PyTorch 后端。根据 AWS 公开的 Neuron 文档,它通过 PyTorch 的 PrivateUse1 设备机制,以原生 PyTorch 集成取代了此前基于 XLA 的方案。它同时支持 eager 模式和 torch.compile,目标实例为 Trn2 和 Trn3。该软件包沿用了前身 torch-neuronx 的名称,据称是开源的,最初托管在 GitHub 的 aws-neuron/torch-neuronx 仓库下。
对开发者而言,实际的变化在于为 CUDA GPU 编写的代码只需极少的修改。AWS 常见问题解答中的主要示例是将设备从 CUDA 改为 Neuron。FSDP 和 DTensor 等分布式特性均受支持,不过分片设置取决于 NeuronCore 的数量,而非 GPU 的数量。
为什么 PyTorch 和 CUDA 如此重要
PyTorch 最初由 Facebook 开发,自 2022 年起成为 Linux 基金会的一部分。亚马逊表示,约 85% 的 AI 应用是用它编写的。英伟达的 CUDA 是让此类应用能在其 GPU 上运行的软件层,英伟达一直致力于保持 CUDA 对 PyTorch 的无缝支持。这种便利性是开发者倾向于留在英伟达硬件上的重要原因。
亚马逊并非第一家承诺轻松实现 PyTorch 可移植性的公司。PyTorch 应用也可以通过配置更改迁移到 AMD GPU 或苹果芯片上。亚马逊所推销的,是通往自家芯片和云平台的同等级低阻力路径。
Trainium 的卖点
Trainium 的设计目标是在同一颗芯片上同时处理训练和推理。AWS 认为,这一点加上与其更广泛云基础设施的集成,即使 AWS 并非每 token 成本最低的选择,也能为初创公司节省资金。AWS 还将基于其云平台构建定位为优于 CoreWeave、Nebius 和 Firmus 等“新云”提供商的选择,这些提供商中有许多与英伟达硬件深度绑定。
AWS 自研芯片部门 Annapurna Labs 的技术软件副总裁 Colin Brace 将此次发布的核心概括为选择权:“真正的意义在于消除那种让开发者根本无法拥有真正选择权的锁定。”
客户案例:Deepgram
AWS 将 AI 语音公司 Deepgram(与 ElevenLabs 竞争)列为首批采用者。Deepgram 利用原生 PyTorch 支持迁移到了 Trainium,据 AWS 称,现在每美元可处理的音频量提升了 70%,同时保持生产级精度。这一数据来自 AWS;原始报道中并未包含独立基准测试。
对 PyTorch 本身的改动
亚马逊还表示将向 PyTorch 主项目贡献代码修改,移除将框架与特定芯片绑定的代码,使其更加硬件无关。原始报道指出了一种可能的权衡:一个支持多种硬件的框架可能会给开发者带来更多配置工作,而不仅仅是更多选择。
背景:Trainium 的大规模部署
行业报道描述了 Project Rainier,该项目于 2025 年 10 月上线,拥有近 50 万颗 Trainium2 芯片,用于训练 Anthropic 的 Claude 模型,另有报道称 Trainium3 已在 AWS re:Invent 2025 上发布。这些细节来自二手行业指南,应比 AWS 官方文档更加谨慎对待。
值得关注的方向
发布报道中未披露定价、全面可用性详情以及与英伟达 GPU 的独立性能对比。开发者是否会在真实生产工作负载中验证“一行迁移”的承诺,以及上游 PyTorch 改动能以多快的速度落地,将决定 TorchNeuron 能否缩小 CUDA 长期以来保持的软件差距。
来源
本报告基于 TechCrunch 2026 年 10 月 19 日的报道、AWS Neuron 文档以及 Introl 关于 AWS 芯片生态系统的行业指南。
本文由 AIBARS 编辑部在 AI 辅助下整理。AI 可能出错,重要信息请以原始来源为准。发现错误?请发邮件至 [email protected]。