설정 한 줄: 아마존의 TorchNeuron, 엔비디아 CUDA 종속을 겨냥하다

뉴스 요약

아마존웹서비스(AWS)는 2026년 10월 19일 월요일(태평양 시간)에 개발자 도구인 TorchNeuron을 출시했다. AI 팀이 애플리케이션을 아마존의 자체 Trainium 칩으로 더 쉽게 옮길 수 있도록 돕는 도구다. TorchNeuron은 AI 모델을 구축하고 학습시키고 실행하는 데 쓰이는 오픈소스 프레임워크인 PyTorch를 중심으로 만들어졌다. AWS에 따르면 기존 PyTorch 애플리케이션은 코드를 다시 작성하지 않고 설정 한 줄만 바꾸면 Trainium에서 실행할 수 있다. 이번 출시는 많은 사람이 엔비디아의 가장 강력한 이점으로 꼽는 CUDA 소프트웨어 계층을 겨냥한다. CUDA는 엔비디아 하드웨어를 AI 개발자의 기본 선택으로 만들어 왔다.

TorchNeuron이란

TorchNeuron은 AWS Trainium을 위한 PyTorch 백엔드다. AWS의 공개 Neuron 문서에 따르면, 기존의 XLA 기반 방식을 대신해 PyTorch의 PrivateUse1 디바이스 메커니즘을 통한 네이티브 PyTorch 통합을 지원한다. 즉시 실행(eager) 모드와 torch.compile을 모두 지원하며, Trn2 및 Trn3 인스턴스를 대상으로 한다. 패키지 이름은 전작인 torch-neuronx를 그대로 유지하며 오픈소스로 설명되고, 처음에는 GitHub의 aws-neuron/torch-neuronx 저장소에서 공개된다.

개발자 입장에서 실질적인 변화는 CUDA GPU용으로 작성된 코드를 최소한만 수정하면 된다는 점이다. AWS FAQ의 주요 예시는 디바이스를 CUDA에서 Neuron으로 바꾸는 것이다. FSDP와 DTensor 같은 분산 기능도 지원되지만, 샤딩 설정은 GPU 개수가 아니라 NeuronCore 개수에 따라 달라진다.

PyTorch와 CUDA가 중요한 이유

PyTorch는 원래 페이스북에서 개발됐으며 2022년부터 리눅스 재단의 일부가 됐다. 아마존은 AI 애플리케이션의 약 85%가 PyTorch로 작성된다고 말한다. 엔비디아의 CUDA는 그러한 애플리케이션을 자사 GPU에서 실행할 수 있게 해주는 소프트웨어 계층이며, 엔비디아는 PyTorch에 대한 CUDA 지원을 끊김 없이 유지하기 위해 힘써 왔다. 그 편의성이 개발자들이 엔비디아 하드웨어에 계속 머무는 큰 이유다.

아마존이 쉬운 PyTorch 이식성을 약속한 첫 회사는 아니다. PyTorch 애플리케이션은 설정 변경만으로 AMD GPU나 애플 칩으로도 옮길 수 있다. 아마존이 내세우는 것은 자사 실리콘과 클라우드로 향하는 동일한 저마찰 경로다.

Trainium의 제안

Trainium은 하나의 칩에서 학습과 추론을 모두 처리하도록 설계됐다. AWS는 이것이 더 넓은 자사 클라우드 인프라와의 통합과 맞물려, 토큰당 비용이 AWS가 가장 저렴한 선택지가 아닐 때조차 스타트업의 비용을 절약할 수 있다고 주장한다. AWS는 또한 자사 클라우드 위에 구축하는 것이 CoreWeave, Nebius, Firmus 같은 '네오클라우드' 제공업체보다 나은 선택이라고 자리매김한다. 이들 다수는 엔비디아 하드웨어에 묶여 있다.

아마존의 맞춤형 칩 부문인 Annapurna Labs의 기술 소프트웨어 담당 부사장 콜린 브레이스는 이번 출시를 선택권이라는 관점에서 설명했다. "진짜 이야기는 개발자들이 실질적인 선택권 자체를 갖지 못하게 막아 온 종속을 제거하는 것입니다."

고객 사례: Deepgram

AWS는 ElevenLabs와 경쟁하는 AI 음성 기업인 Deepgram을 초기 도입 사례로 언급했다. Deepgram은 네이티브 PyTorch 지원을 활용해 Trainium으로 이전했으며, AWS에 따르면 이제 생산 수준의 정확도를 유지하면서 달러당 70% 더 많은 오디오를 처리한다. 이 수치는 AWS가 제시한 것으로, 원래 보도에는 독립적인 벤치마크가 포함되지 않았다.

PyTorch 자체에 대한 변경

아마존은 또한 프레임워크를 특정 칩에 묶는 코드를 제거해 PyTorch를 더 하드웨어 중립적으로 만들기 위한 변경 사항을 PyTorch 메인 프로젝트에 기여하겠다고 밝혔다. 원래 보도는 가능한 절충점을 짚었다. 여러 종류의 하드웨어를 지원하는 프레임워크는 선택지만 늘리는 것이 아니라 개발자에게 더 많은 설정 작업을 만들 수 있다는 점이다.

배경: 대규모 Trainium

업계 보도에 따르면 Project Rainier는 2025년 10월에 가동을 시작했으며, Anthropic의 Claude 모델을 학습시키는 데 사용된 약 50만 개의 Trainium2 칩을 갖췄다. 또한 Trainium3는 AWS re:Invent 2025에서 공개됐다고 전해진다. 이러한 세부 사항은 2차 업계 가이드에서 나온 것으로, AWS 자체 문서보다 더 신중하게 다뤄야 한다.

주목할 점

가격, 정식 출시 세부 사항, 엔비디아 GPU와의 독립적인 성능 비교는 출시 보도에서 공개되지 않았다. 개발자들이 실제 프로덕션 워크로드에서 '한 줄' 마이그레이션이 유지된다고 보는지, 그리고 업스트림 PyTorch 변경 사항이 얼마나 빨리 반영되는지가 TorchNeuron이 CUDA가 오랫동안 지켜 온 소프트웨어 격차를 좁힐 수 있을지를 결정할 것이다.

출처

이 보도는 2026년 10월 19일 TechCrunch 보도, AWS Neuron 문서, AWS 실리콘 생태계에 관한 Introl 업계 가이드를 바탕으로 작성됐다.