할라페뇨는 OpenAI의 첫 맞춤형 실리콘 — AI 지원 설계로 9개월 만에 구축
뉴스 요약
OpenAI와 Broadcom이 공식적으로 Jalapeño를 공개했습니다. 이는 OpenAI의 첫 자체 설계 AI 추론 칩으로, 대규모 언어 모델(LLM) 워크로드를 위한 맞춤형 하드웨어로의 광범위한 산업 변화를 알리는 중요한 이정표입니다.
Jalapeño란 무엇인가?
Jalapeño는 AI 추론 전용으로 설계된 레티클 크기(reticle-sized)의 주문형 반도체(ASIC)입니다. 훈련 워크로드를 위해 설계된 범용 그래픽 처리 장치(GPU)나 가속기와 달리, Jalapeño는 LLM 추론의 특정 계산 패턴을 중심으로 처음부터 설계되었습니다. 추론, 즉 훈련된 모델을 실행하여 응답을 생성하는 과정은 훈련 단계와는 다른 하드웨어 요구 사항을 가지며, 원시 부동 소수점 처리량보다는 극도의 메모리 대역폭 효율성과 저지연 데이터 이동을 필요로 하기 때문에 이러한 구분이 중요합니다.
파트너십 및 개발 속도
OpenAI와 Broadcom은 2025년 10월에 협력을 공식 발표했습니다. 이후 놀랍도록 압축된 엔지니어링 타임라인이 이어졌습니다. Jalapeño는 초기 설계도에서 전체 제조 준비까지 약 9개월 만에 완료되었습니다. 일반적인 칩 개발 주기는 보통 수년에 걸립니다. 이러한 가속화된 속도는 OpenAI 자체 AI 모델이 칩 설계 작업 지원에 적극적으로 활용된 공동 개발 방법론 덕분이기도 하며, AI 시스템이 차세대 AI 하드웨어 구축을 돕는 새로운 피드백 루프를 보여줍니다. 제조 파트너인 Celestica 또한 칩 생산에 중요한 역할을 했습니다.
기술 아키텍처 및 설계 철학
Jalapeño의 아키텍처는 OpenAI의 자체 모델 제품군, 커널 구현, 서빙 인프라 및 제품 로드맵에 대한 깊이 있는 1차적 지식을 반영합니다. 일반적인 AI 벤치마크가 아닌 실제 생산 요구 사항에 기반한 칩을 설계함으로써, 팀은 대규모 트랜스포머 기반 추론에 최적화된 메모리 하위 시스템, 상호 연결 대역폭 및 컴퓨팅 밀도를 구현할 수 있었습니다. 그 결과는 훈련 가속기를 개조한 것이 아니라 추론 전용 플랫폼입니다.
성능 및 효율성
초기 내부 테스트에 따르면 Jalapeño는 현재 최첨단 상용 대안보다 훨씬 높은 와트당 성능을 제공합니다. OpenAI는 Jalapeño를 대규모 언어 모델을 위한 최고의 추론 플랫폼으로 설명했습니다. 2026년 6월 24일(미국 동부 시간) 발표 시점까지 경쟁 하드웨어와의 정확한 벤치마크 수치는 아직 공개되지 않았습니다.
배포 타임라인 및 규모
Jalapeño는 다세대 맞춤형 컴퓨팅 플랫폼의 첫 번째 세대로 구상되었습니다. 초기 배포는 2026년 하반기를 목표로 하며, 더 광범위한 확산은 이후 몇 년에 걸쳐 진행될 예정입니다. 주요 OpenAI 투자자이자 인프라 파트너인 Microsoft는 Jalapeño 칩의 약 40%를 인수할 것으로 예상되며, 이는 OpenAI의 모델 서빙 인프라와 Microsoft의 Azure 클라우드 플랫폼 간의 깊은 통합을 강조하는 수치입니다.
산업적 함의
Jalapeño의 데뷔는 OpenAI를 Google의 Tensor Processing Units(TPU), Amazon의 Trainium 및 Inferentia, Meta의 MTIA 칩과 같이 자체 실리콘을 개발하여 일반 GPU 공급업체에 대한 의존도를 줄이고 대규모 총 소유 비용을 최적화하는 대규모 AI 조직의 증가하는 명단에 합류시켰습니다. Broadcom에게 이 협력은 하이퍼스케일러 맞춤형 ASIC 설계의 선도적인 파트너로서의 입지를 강화합니다. 추론 워크로드가 계속 빠르게 성장함에 따라 이 발표는 업계 전반의 하드웨어 조달 및 AI 인프라 계획에 영향을 미칠 것으로 예상됩니다.
향후 전망
OpenAI는 Jalapeño를 일회성 실험이 아닌 장기적인 실리콘 전략의 기반으로 프레임했습니다. 회사는 생산 배포에서 얻은 교훈을 통합하여 향후 세대에 걸쳐 설계를 반복할 계획입니다. Jalapeño 개발에 AI 지원 설계 도구를 사용한 것도 AI가 자체 하드웨어 진화를 가속화하는 미래를 시사하며, 이는 반도체 개발 타임라인을 업계 전반에 걸쳐 크게 단축할 수 있는 재귀적 역학 관계입니다.
이 칩은 2026년 6월 24일(미국 동부 시간)에 Broadcom 사장 겸 CEO인 Hock Tan과 사장 Charlie Kawwas가 OpenAI CEO인 Sam Altman 및 사장 Greg Brockman에게 공식적으로 발표되었습니다.