OpenAIのJalapeñoチップ、初のベンチマークでAIレイテンシを最大3.6倍削減

ニュース概要

OpenAIは、Broadcomと共同開発したカスタムAI推論チップ「Jalapeño」について、初の独立ベンチマーク結果を公開した。実際の言語モデルのワークロードを、同等の商用GPU構成よりも高速かつ低消費電力で処理できることが示された。2026年8月25日午後3時（米国東部時間）に発表されたこの数値は、OpenAIが同チップについて従来示してきた性能主張を、社内予測ではなく第三者によるテストデータで裏付けた初めての事例となる。

ベンチマークの測定内容

OpenAIは、合成されたピークスループット数値ではなく、現実的な推論ワークロードでAIアクセラレータを比較するために広く使われている独立テストフレームワーク「SemiAnalysis InferenceX」ベンチマークスイートでJalapeñoを実行した。テストでは、異なる規模と用途を代表する3つのオープンウェイト言語モデル（GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1T）が対象となった。

単一の指標だけを取り出すのではなく、このスイートは、モデルが入力プロンプトを処理するプレフィル段階と、応答を生成するトークン生成段階を含む推論パイプライン全体にわたってチップの性能を測定する。OpenAIによると、この二段階に注目した姿勢は、チップの実際の設計思想を反映しているという。つまり、単一のリーダーボード指標で高い数値を出すことではなく、実際の導入環境でボトルネックになりがちなデータ移動や通信の遅延を減らすことを目指して設計されたということだ。

主要な性能数値

公開された結果によると、Jalapeñoのエンドツーエンドの応答レイテンシは、同じモデルを実行する標準的な商用GPU構成と比べて1.7倍から3.6倍高速だった。電力効率では、ピーク容量時に消費電力1ワットあたりでこなせる総作業量が1.5倍から1.9倍多かった。多数の高速なステップを連続して実行する必要があるAIエージェントのようなインタラクティブで低レイテンシが求められるワークロードでは、OpenAIは同等構成と比べて2.1倍から4.1倍の性能向上を報告した。

より具体的な直接比較では、OpenAIとBroadcomは、定格熱設計電力700ワットで動作するJalapeñoが、およそその2倍の消費電力が定格とされるNvidiaのフラッグシップGPU「GB300」を上回ったと述べた。この比較では、Jalapeñoは消費電力1キロワット時あたりのスループットで最大1.9倍、レイテンシで最大3.6倍優れていた。注目すべきは、OpenAIによると、テスト中の実際の消費電力は定格上限を下回る550ワット未満に抑えられていたことだ。

OpenAIが自社チップを開発した理由

JalapeñoはOpenAI初のカスタムシリコンであり、トレーニング用チップの転用や汎用プロセッサではなく、当初から推論専用アクセラレータとして設計された。OpenAIとBroadcomは2026年6月24日（米国東部時間）にこのチップを初めて公開し、初期設計から製造テープアウトまで約9か月で完了したと発表した。これは、この複雑さのチップとしては最速級の開発サイクルだと両社は述べている。当時、Broadcomの経営陣は、推論に使われる一般的な汎用GPUと比べて運用コストが大幅に低いことも指摘していた。

このプロジェクトの背景にある理屈は明快だ。AI企業がリアルタイムで何百万人ものユーザーに応答するチャットボットやエージェント製品を拡大するにつれて、学習済みモデルを実行して問い合わせに答える推論のコストとエネルギー消費が、モデルの一度きりのトレーニングコストよりも総支出に占める割合が大きくなっている。トレーニングも処理しなければならない汎用アクセラレータではなく、推論ワークロード専用に調整されたチップは、原理的に、必要な特定の作業においてより効率的になり得る。

今後の展開

OpenAIは、Jalapeñoがまだ初期テスト段階にあり、インフラ全体への本格展開は2027年を予定していると示している。同社は、どの製品やサービスが最初にこのチップで動作するのか、また製造数量についてもまだ明らかにしていない。現時点では、新たに公開されたベンチマークデータは、OpenAI自身のマーケティング資料だけで説明されるのではなく、独立してテストされたチップの実性能が、プロジェクト初発表時に同社が設定した効率性とレイテンシの目標と一致していることを検証する役割を主に果たしている。

AI業界にとってのより広い意味は、OpenAIがGoogleやAmazonなどの企業と並んで、市販の汎用GPUにのみ依存するのではなく、自社推論シリコンを設計する道を選んだ主要AI開発企業の小グループに加わったことだ。この分野を追跡するアナリストは、Jalapeñoの効率性向上が大規模に維持されれば、何百万人もの同時接続ユーザー向けに大規模言語モデルを運用するコストを大幅に引き下げられる可能性があると指摘している。このコストは、AIアシスタントやエージェントをどれだけ広く展開できるかを左右する中心的な制約の一つとなっている。