AMD

AMD, AI 에이전트로 엔지니어가 CUDA에 못 했던 일을 하길 원하다

2026년 8월 7일7 분 소요

칼럼 개요

17년 동안 NVIDIA의 GPU 사업을 방탄으로 만든 것은 결코 실리콘이 아니었다. 그 위에 쌓인 17년간의 축적된 근육 기억, 즉 수백만 줄의 CUDA 커널, 튜닝 요령, 그리고 다른 것으로 전환하는 것이 걷는 법을 다시 배우는 것처럼 느껴지게 만든 제도적 습관이었다. AMD는 7월 22~23일 샌프란시스코에서 열린 'Advancing AI 2026' 컨퍼런스에서 이 해자를 능가하려는 대신 그 재학습을 기계에 맡기기로 한 답을 내놓았다. 핵심은 AI 코딩 에이전트가 인간 엔지니어가 수년간 시도하지 않을 일을 몇 주 만에 해낼 수 있다는 것이다. 즉, 직원 중 누구도 먼저 ROCm 전문가가 될 필요 없이 CUDA 워크로드를 AMD의 ROCm 스택으로 포팅하고 재튜닝하는 것이다.

AMD가 실제로 발표한 것

핵심은 ROCm.AI로, ROCm 위에 놓이는 AI 네이티브 계층이며 2026년 8월부터 출시될 예정이다. 이는 독립 제품이 아닌 함께 작동하도록 설계된 세 가지 구성 요소로 이루어져 있다. ROCm CLI는 개발자에게 AMD 하드웨어에서 AI 워크로드를 설치, 검증, 서빙, 업데이트, 문제 해결하는 통합 명령줄 경로를 제공한다. 이는 플랫폼이 완성된 느낌인지 아니면 영원히 베타 버전인지를 결정하는 화려하지 않은 배관 작업이다. AMD Skills는 더 도발적인 부분이다. AMD가 작성한 전문 지식을 개발자들이 이미 매일 사용하는 코딩 어시스턴트(Claude Code, Cursor, Codex 포함)에 직접 내장하여, 개발자가 일반 언어로 의도를 설명하면 에이전트가 커널을 직접 작성하는 대신 AMD 특화 GPU 프로그래밍을 처리하도록 한다. 마지막으로 Hyperloom은 AMD 하드웨어에서 엔드투엔드 추론 워크로드의 최적화를 자동화하는 것을 목표로 하는 오픈소스 에이전트 시스템이다.

종합하면, 이 제안은 "우리 칩이 더 빠르다"는 것이 아니다. MI300X의 원시 사양은 이미 192GB HBM3 메모리(NVIDIA H100보다 2.4배 많음)와 경쟁력 있는 가격으로 그 점을 입증한다. 제안은 "어려운 부분을 직접 하지 않아도 마침내 우리 칩을 사용할 수 있다"는 것이다. 이는 구분할 가치가 있는 차이인데, 경쟁 구도를 완전히 바꾸기 때문이다. AMD는 더 이상 벤치마크 전쟁에서 이기려는 것이 아니라 인건비 전쟁에서 이기려는 것이며, 에이전트 지원 포팅의 한계 비용이 충분히 빠르게 떨어져 ROCm 채택이 맹목적 도약이 아닌 합리적 기본값이 되기를 바라고 있다.

닭과 달걀 문제, 자동화로 해결

MI300X의 메모리 이점은 시장 점유율로 이어지지 않은 채 한동안 존재해 왔으며, 그 이유는 익숙한 함정이다. 개발자들은 도구가 성숙할 때까지 ROCm에 진지한 엔지니어링 시간을 투자하지 않을 것이고, 도구는 이를 스트레스 테스트하는 개발자들의 임계 질량 없이는 성숙하지 않는다. AI GPU 시장에서 NVIDIA의 약 80% 점유율 대 AMD의 5~7%는 대체로 영구적인 기술 격차보다는 그 교착 상태의 기념비이다. ROCm 7은 이제 대부분의 워크로드에서 CUDA 성능의 약 10~30% 이내에 있으며, 몇 년 전의 두 자릿수 배수 격차와는 거리가 멀다.

ROCm.AI는 성능 격차가 아니라 닭과 달걀 역학 자체를 직접 공격한다. 에이전트가 튜닝 부담을 흡수할 수 있다면, "성숙할 때까지 기다리자"는 변명은 처음부터 어디에 구축할지 결정하는 새 프로젝트에서 더 이상 말이 되지 않는다는 논리다. 이것이 바로 AMD의 자체 프레임워킹에 의문을 제기해야 하는 이유이기도 하다. 이는 공급업체가 자신의 해자 파괴 무기를 설명하는 것이며, 해자 파괴 무기는 기조연설에서보다 새벽 2시의 프로덕션 장애에서 훨씬 더 완성된 것처럼 들린다. 일부 분석가들은 에이전트 내러티브 아래에 더 평범한 위험이 있다고 지적한다. AMD는 기업 고객이 결국 요구할 규모에서 이 도구를 자체 테스트하고 검증할 충분한 GPU 클러스터를 보유하지 못할 수도 있다는 것이다. 커널 최적화에 대해 자신 있게 틀린 에이전트는 에이전트가 없는 것보다 오히려 나쁠 수 있으며, 어떤 것을 구축했는지 알 수 있는 유일한 방법은 실제 대규모 워크로드에 먼저 실행해 보는 것이다.

NVIDIA도 가만히 있지 않다, 그리고 돈이 그 이유를 말해준다

ROCm.AI를 NVIDIA가 갑자기 수세에 몰린 것으로 읽는 것은 실수일 것이다. CUDA는 여전히 AI 개발 프레임워크 중 약 92%의 점유율을 차지한다. 이는 NVIDIA의 하드웨어 점유율조차 압도하는 수치로, 연구 코드부터 프로덕션 파이프라인까지 AI 스택의 상당 부분이 CUDA가 그 아래에 존재한다고 가정하고 작성되었음을 반영한다. 그리고 NVIDIA는 AMD가 노리는 것과 동일한 추론 계층 위협에 대한 자체 답을 가지고 있다. TensorRT-LLM은 ONNX Runtime, vLLM, Triton과 같은 오픈 표준이 모델을 하드웨어에 구애받지 않게 만들려는 가운데, AI 파이프라인에서 가장 높은 볼륨과 가장 비용에 민감한 워크로드를 NVIDIA 스택 내부에 잠그도록 설계된 독점 추론 최적화 소프트웨어다.

그리고 전체 싸움을 비대칭으로 보이게 만드는 숫자가 있다. NVIDIA의 블랙웰 세대만 2026년에 약 3200억 달러의 데이터 센터 매출을 올릴 것으로 예상된다. 이는 단순한 점수판 수치가 아니라 연료다. 그 규모의 매출은 CUDA, cuDNN, TensorRT에 재투자되어 다음 하드웨어 세대를 이전보다 더 뽑아내기 어렵게 만들고, 이는 더 많은 매출을 창출하며, 그 다음 세대에 자금을 지원한다. 이는 AMD의 에이전트 베팅이 아직 대응할 수 없는 플라이휠이다. Hyperloom과 AMD Skills는 여전히 수익 전 단계의 인프라 투자일 뿐 자체 자금 조달 루프가 아니기 때문이다.

균열이 실제로 있는 곳

AMD의 기조연설 이후 유통되고 있는 "AI가 NVIDIA 제국을 해체하고 있다"는 프레임은 실재하지만, 그보다 더 좁으며 정확히 할 필요가 있다. 더 넓은 도구 추세(PyTorch의 torch.compile이 모델 코드에서 하드웨어 차이를 점점 더 추상화하고, OpenAI의 Triton이 여러 백엔드를 대상으로 할 수 있는 한 번 작성 GPU 프로그래밍을 추진)를 겹쳐 보면, 이는 CUDA 설치 기반에 대한 정면 공격이 아니라 두 가지 특정 지점에 집중된 침식이다. 즉, 서빙된 토큰당 가장 저렴한 스택이 보상받는 추론 워크로드와, 보호할 기존 CUDA 투자가 없고 전환 비용이 아직 굳어지지 않은 신규 프로젝트다.

적어도 이 시간표에서는 균열이 나지 않는 것은 이미 대규모로 실행 중인 CUDA 기반 훈련 및 프로덕션 시스템의 깊은 우물이다. 에이전트가 커널 작성에 아무리 능숙해져도 기존 설치 기반을 재최적화하고 재검증하는 것은 여전히 엄청나게 비싸며, 이에 대한 분석가들의 합의는 일관된다. ROCm과 Triton은 하룻밤 사이에 CUDA를 대체하지 않을 것이다. 2026년과 그 이후의 더 흥미로운 질문은 AMD의 에이전트가 작동하는지 여부가 아니라, "충분히 좋고 자동화된" 것이 "최고이면서 기존에 자리 잡은" 것을 가장자리에서 충분히 자주 이겨 더 큰 것으로 복리화될 수 있는지 여부다. NVIDIA는 3200억 달러를 걸고 그렇지 않을 것이라고 베팅한다. AMD는 모든 곳에서 이길 필요는 없고, 아직 편을 들지 않은 다음 워크로드만 이기면 된다고 베팅한다.

AMDNVIDIA