구글, AI 칩을 두 개로 분리: TPU 8t와 8i가 에이전트 시대를 위해 어떻게 구축되었나
뉴스 요약
Google Cloud Next 2026(4월 22~24일, 라스베이거스, PDT)에서 Google은 8세대 Tensor Processing Unit(TPU)을 공개하며, AI 모델 학습용으로 특수 제작된 TPU 8t와 추론용 TPU 8i 두 가지 칩을 선보였습니다. 이는 Google이 이러한 워크로드를 별도의 아키텍처로 분리한 첫 사례입니다. TPU 8t는 이전 세대 대비 컴퓨팅 성능이 거의 3배 향상되었으며, TPU 8i는 에이전트 및 다단계 AI 워크플로우를 위한 초저지연 성능을 위해 설계되었습니다. 두 칩 모두 Google의 광범위한 AI Hypercomputer 플랫폼의 일부로 설계되었으며, 2026년 하반기에 일반 출시될 예정입니다.
에이전트 시대를 위한 새로운 아키텍처
Google이 8세대 TPU를 두 개의 특수 프로세서로 분리하기로 결정한 것은 AI 인프라 설계 방식의 근본적인 변화를 반영합니다. 10년 이상 동안 단일 TPU는 대규모 모델 학습의 집약적인 연산과 해당 모델을 최종 사용자에게 제공하는 지속적인 작업을 모두 처리해 왔습니다. AI 시스템이 단순한 질문 답변 도구에서 복잡한 워크플로우를 실행할 수 있는 자율적이고 다단계적인 에이전트로 발전함에 따라, 학습 및 추론에 대한 성능 요구 사항은 급격히 달라졌습니다. Google DeepMind와 긴밀히 협력한 Google 엔지니어들은 단일 통합 설계로는 더 이상 두 가지 요구 사항을 최대 효율로 충족할 수 없다고 결론 내렸습니다.
TPU 8t: 학습 파워하우스
TPU 8t는 고처리량 AI 모델 학습을 위해 특별히 제작되었습니다. 각 슈퍼팟은 9,600개의 칩을 클러스터링하여 121 엑사플롭스의 컴퓨팅 성능과 고속 칩 간 상호 연결(ICI)을 통해 연결된 2페타바이트의 공유 메모리를 제공합니다. 이 구성은 가장 복잡한 모델 아키텍처에서도 거의 선형적인 확장을 가능하게 합니다. Google의 공식 발표(2026년 4월 22일 수요일, PDT 게시)에 따르면, 이 칩은 이전 7세대 Ironwood TPU보다 약 2.8배 더 나은 가격 대비 성능을 제공하며, 이전에는 몇 달이 걸리던 학습 시간을 몇 주로 단축할 수 있습니다. Google은 최대 배포 규모에서 Pathways 및 JAX 소프트웨어 시스템을 사용하여 단일 클러스터에서 백만 개 이상의 TPU 8t 칩을 오케스트레이션할 수 있다고 밝혔습니다.
TPU 8i: 추론 및 추론을 위한 설계
TPU 8i는 배포된 AI 모델이 낮은 지연 시간으로 수백만 건의 사용자 요청에 동시에 응답해야 하는 빠르게 성장하는 추론 시장을 겨냥합니다. 핵심 아키텍처 기능은 온칩 정적 랜덤 액세스 메모리(SRAM) 사용입니다. 각 TPU 8i에는 Ironwood 세대에서 발견된 양의 세 배에 달하는 384메가바이트의 SRAM이 포함되어 있습니다. 이 대용량 SRAM 버퍼를 통해 칩은 모델 가중치와 중간 연산을 컴퓨팅 코어 가까이에 유지하여 메모리 액세스 병목 현상을 크게 줄일 수 있습니다. Google은 TPU 8i가 이전 세대보다 달러당 성능이 80% 향상되었으며, 차세대 AI 추론 시스템의 기반이 되는 Mixture of Experts(MoE) 모델 및 강화 학습(RL) 작업을 지원하도록 특별히 설계되었다고 밝혔습니다.
AI Hypercomputer 및 생태계 통합
두 칩 모두 특수 제작된 하드웨어, 개방형 소프트웨어 프레임워크 및 유연한 클라우드 소비 모델을 결합한 통합 인프라 스택인 Google의 AI Hypercomputer에 통합됩니다. 이 플랫폼은 Google이 경쟁 하이퍼스케일러에 비해 에이전트 런타임 워크로드에 대해 최대 30% 더 나은 가격 대비 성능을 제공한다고 말하는 새로운 Axion 기반 N4A CPU 인스턴스도 통합합니다. AI Hypercomputer는 Google 자체 Gemini 모델 제품군 및 엔터프라이즈 AI 서비스를 지원하는 동일한 기반입니다. Google은 또한 칩 설계 파트너인 Broadcom 및 Marvell Technology와의 지속적인 협력을 발표하여 실리콘 공급망을 확장하고 인프라가 수 기가와트 규모의 용량으로 확장될 수 있도록 보장했습니다.
기업 채택 증가
Google의 TPU 플랫폼 채택은 이번 세대 출시 이전에 크게 확대되었습니다. Citadel Securities는 Google TPU를 기반으로 정량 연구 소프트웨어를 구축했으며, 미국 에너지부 산하 17개 국립 연구소 모두 플랫폼에서 실행되는 AI 공동 과학자 소프트웨어를 사용합니다. Anthropic은 Google Cloud로부터 수 기가와트의 TPU 용량을 소비하기로 약속했습니다. Meta 또한 2026년 2월 The Information이 보도한 바와 같이 TPU 액세스를 위해 다년간 수십억 달러 규모의 계약을 체결했습니다. 이러한 파트너십은 기업들이 AI를 대규모로 배포하는 것을 가속화함에 따라 Google의 맞춤형 실리콘 전략에 대한 상업적 모멘텀이 커지고 있음을 강조합니다.