OpenAIs Jalapeño-Chip senkt KI-Latenz in ersten Benchmarks um bis zu 3,6-fach
Nachrichtenüberblick
OpenAI hat die ersten unabhängigen Benchmarkergebnisse für Jalapeño veröffentlicht, den eigens entwickelten KI-Inferenzchip, den das Unternehmen gemeinsam mit Broadcom gebaut hat. Die Daten zeigen, dass der Chip reale Sprachmodell-Workloads schneller und mit weniger Stromverbrauch bewältigt als vergleichbare kommerzielle GPU-Systeme. Die am 25. August 2026 um 15:00 Uhr US-Ostküstenzeit veröffentlichten Zahlen sind das erste Mal, dass OpenAI seine früheren Leistungsversprechen zu dem Chip mit Testdaten Dritter untermauert statt nur mit internen Prognosen.
Was die Benchmarks gemessen haben
OpenAI ließ Jalapeño die InferenceX-Benchmarksuite von SemiAnalysis durchlaufen, ein unabhängiges Testverfahren, das weithin genutzt wird, um KI-Beschleuniger bei realistischen Inferenz-Workloads zu vergleichen statt anhand synthetischer Spitzenwerte beim Durchsatz. Die Tests umfassten drei offen gewichtete Sprachmodelle, die unterschiedliche Größenordnungen und Anwendungsfälle abbilden sollen: GPT-OSS 120B, DeepSeek R1 670B und Kimi K2.5 1T.
Statt eine einzelne Kennzahl isoliert zu betrachten, misst die Suite, wie sich ein Chip über die gesamte Inferenzpipeline schlägt – einschließlich der Prefill-Phase, in der ein Modell eine eingehende Anfrage verarbeitet, und der Token-Erzeugungsphase, in der es eine Antwort produziert. Laut OpenAI spiegelt dieser doppelte Fokus wider, wie der Chip tatsächlich konstruiert wurde: Er soll die Datenbewegungs- und Kommunikationsverzögerungen verringern, die reale Bereitstellungen typischerweise ausbremsen, statt nur einen hohen Wert in einer einzelnen Bestenlisten-Kennzahl zu liefern.
Die wichtigsten Leistungswerte
Den veröffentlichten Ergebnissen zufolge war die End-to-End-Antwortlatenz von Jalapeño 1,7- bis 3,6-mal schneller als bei üblichen kommerziellen GPU-Bereitstellungen mit denselben Modellen. Bei der Energieeffizienz erledigte der Chip bei Spitzenlast 1,5- bis 1,9-mal mehr Gesamtarbeit pro Watt Strom. Für interaktive Workloads mit niedriger Latenz, etwa KI-Agenten, die viele schnelle Schritte nacheinander ausführen müssen, meldete OpenAI Verbesserungen um das 2,1- bis 4,1-Fache gegenüber vergleichbaren Systemen.
In einem konkreteren Direktvergleich erklärten OpenAI und Broadcom, dass Jalapeño mit einer thermischen Verlustleistung von 700 Watt Nvidias Flaggschiff-GPU GB300 übertroffen habe, die mit ungefähr der doppelten Leistungsaufnahme spezifiziert ist. In diesem Vergleich lieferte Jalapeño bis zu 1,9-mal mehr Durchsatz pro verbrauchter Kilowattstunde Strom und eine bis zu 3,6-mal geringere Latenz. Bemerkenswert ist laut OpenAI, dass der Chip im Test eine reale Leistungsaufnahme von unter 550 Watt hielt und damit unter seiner spezifizierten Obergrenze blieb.
Warum OpenAI einen eigenen Chip gebaut hat
Jalapeño ist OpenAIs erster eigener Chip und wurde von Anfang an als zweckgebundener Inferenzbeschleuniger entworfen und nicht als umfunktionierter Trainingschip oder Allzweckprozessor. OpenAI und Broadcom hatten den Chip erstmals am 24. Juni 2026 um US-Ostküstenzeit vorgestellt und erklärt, er sei in rund neun Monaten vom ersten Entwurf bis zum Fertigungs-Tape-out gelangt – ein Tempo, das die Unternehmen als einen der schnellsten Entwicklungszyklen für einen Chip dieser Komplexität bezeichneten. Damals verwies die Broadcom-Führung zudem auf deutlich niedrigere Betriebskosten im Vergleich zu typischen Allzweck-GPUs, die für Inferenz eingesetzt werden.
Die Logik hinter dem Projekt ist einfach: Während KI-Unternehmen Chatbot- und Agentenprodukte ausbauen, die Millionen Nutzern in Echtzeit antworten, machen die Kosten und der Energieverbrauch der Inferenz – also das Ausführen eines bereits trainierten Modells zur Beantwortung von Anfragen – einen größeren Anteil der Gesamtausgaben aus als die einmaligen Kosten für das Training des Modells. Ein speziell auf Inferenz-Workloads abgestimmter Chip kann grundsätzlich effizienter bei genau der Aufgabe sein, die er erledigen muss, als ein Allzweckbeschleuniger, der auch Training bewältigen muss.
Wie es weitergeht
OpenAI hat angedeutet, dass sich Jalapeño weiterhin in einer frühen Testphase befindet und ein breiterer Einsatz in der eigenen Infrastruktur für 2027 geplant ist. Das Unternehmen hat noch nicht bekannt gegeben, welche konkreten Produkte oder Dienste zuerst auf dem Chip laufen werden, und auch keine Produktionsmengen genannt. Die neu veröffentlichten Benchmarkdaten dienen vorerst vor allem als Beleg dafür, dass die reale Leistung des Chips – unabhängig getestet statt nur in OpenAIs eigenen Marketingunterlagen beschrieben – mit den Effizienz- und Latenzzielen übereinstimmt, die das Unternehmen bei der ersten Ankündigung des Projekts gesetzt hatte.
Die größere Bedeutung für die KI-Branche liegt darin, dass OpenAI zu einer kleinen Gruppe großer KI-Entwickler aufschließt, zu der auch Unternehmen wie Google und Amazon gehören, die eigene Inferenzchips entwerfen, statt sich ausschließlich auf Standard-GPUs von kommerziellen Chipherstellern zu verlassen. Analysten, die den Bereich beobachten, weisen darauf hin, dass Jalapeños Effizienzgewinne – falls sie im großen Maßstab Bestand haben – die Kosten für den Betrieb großer Sprachmodelle für Millionen gleichzeitiger Nutzer spürbar senken könnten. Diese Kosten sind zu einer der zentralen Grenzen dafür geworden, wie breit KI-Assistenten und -Agenten eingesetzt werden können.