Jalapeño 是 OpenAI 首款客製化晶片 — 僅用九個月以 AI 輔助設計打造

新聞摘要
OpenAI 與 Broadcom 正式發布 Jalapeño,這是一款客製化設計的人工智慧推論晶片,標誌著 OpenAI 首次涉足自有晶片領域——此舉預示著整個產業正朝向專為大型語言模型 (LLM) 工作負載打造的專用硬體轉變。
什麼是 Jalapeño?
Jalapeño 是一款視網膜尺寸的專用積體電路 (ASIC),專門為人工智慧推論而設計。與通用圖形處理單元 (GPU) 或最初為訓練工作負載設計的加速器不同,Jalapeño 從零開始圍繞 LLM 推論的特定計算模式進行架構設計。這種區別很重要,因為推論——運行已訓練模型以生成回應的過程——與訓練階段相比,對硬體的要求不同,需要極高的記憶體頻寬效率和低延遲的數據移動,而非原始的浮點吞吐量。
合作與開發速度
OpenAI 與 Broadcom 於 2025 年 10 月公開宣布合作。隨後,工程開發時間表被顯著壓縮:Jalapeño 從早期電路圖到完全具備製造準備僅用了約九個月。傳統晶片開發週期通常需要數年時間。這種加速的步伐部分歸因於一種共同開發方法,其中 OpenAI 自有的人工智慧模型被積極用於協助晶片設計任務,展示了一種新興的迴路,即人工智慧系統幫助構建下一代人工智慧硬體。製造合作夥伴 Celestica 在將晶片投入生產方面也發揮了關鍵作用。
技術架構與設計理念
Jalapeño 的架構反映了 OpenAI 對其自有模型系列、核心實現、服務基礎設施和產品路線圖的深入、第一方了解。透過根據實際生產需求而非通用人工智慧基準來設計晶片,團隊能夠專門針對大規模的 Transformer 推論優化記憶體子系統、互連頻寬和計算密度。其結果是一個專用的推論平台,而非經過改裝的訓練加速器。
效能與效率
早期的內部測試表明,Jalapeño 的每瓦效能數字遠高於目前最先進的商業替代品。OpenAI 將 Jalapeño 描述為大型語言模型的最佳推論平台。在 2026 年 6 月 24 日(美國東部時間)的發布會上,尚未公布與競爭性硬體的精確基準數字。
部署時間表與規模
Jalapeño 被設想為多代客製化計算平台的首代產品。初步部署目標是 2026 年下半年,並將在隨後的幾年內擴大推廣。據報導,作為 OpenAI 主要投資者和基礎設施合作夥伴的微軟預計將採購約 40% 的 Jalapeño 晶片——這一數字突顯了 OpenAI 模型服務基礎設施與微軟 Azure 雲平台之間的深度整合。
行業影響
Jalapeño 的問世使 OpenAI 加入了越來越多的大型人工智慧組織的行列——包括擁有其 Tensor 處理單元 (TPU) 的 Google、擁有 Trainium 和 Inferentia 的 Amazon,以及擁有其 MTIA 晶片的 Meta——這些組織都已開發出客製化晶片,以減少對通用 GPU 供應商的依賴並大規模優化總體擁有成本。對 Broadcom 而言,此次合作鞏固了其作為超大規模客製化 ASIC 設計領域領先合作夥伴的地位。隨著推論工作負載持續快速增長,此次發布預計將影響整個行業的硬體採購和人工智慧基礎設施規劃。
展望未來
OpenAI 將 Jalapeño 定位為一項長期晶片策略的基礎,而非一次性的實驗。該公司計劃在未來幾代產品中不斷迭代設計,並融入從生產部署中學到的經驗教訓。在 Jalapeño 開發中使用人工智慧輔助設計工具也預示著未來人工智慧將加速其自身的硬體演進——這種遞歸動態可能會顯著壓縮整個行業的半導體開發時間表。
該晶片於 2026 年 6 月 24 日(美國東部時間)由 Broadcom 總裁兼執行長 Hock Tan 和總裁 Charlie Kawwas 正式向 OpenAI 執行長 Sam Altman 和總裁 Greg Brockman 提交。