OpenAI sperrt Astra-Modell nach Erreichen der eigenen höchsten Cyber-Risikostufe

Nachrichtenübersicht

OpenAI erklärte diese Woche, dass sein Modell der nächsten Generation, intern Astra genannt, möglicherweise die Stufe „Kritisch“ für Cyberfähigkeiten erreicht hat, die im eigenen Preparedness Framework des Unternehmens definiert ist – das erste Mal, dass OpenAI diese Einstufung für eines seiner Modelle vorgenommen hat. Die Offenlegung, die am Freitag, dem 7. August 2026 (US-Ostküstenzeit), veröffentlicht wurde, löste eine Reihe interner Schutzmaßnahmen aus, darunter die Aussetzung von Entwicklungsaktivitäten, die die neu verschärften Sicherheitsanforderungen nicht erfüllen, sowie die Verlagerung weiterer Tests in isolierte Sandbox-Umgebungen.

Was „Kritisch“ im OpenAI-Framework bedeutet

Das Preparedness Framework von OpenAI definiert mehrere Risikokategorien in Bereichen wie biologischen, chemischen, nuklearen und Cybersicherheitsfähigkeiten. Ein Modell wird als Erreichen der Schwelle „Kritisch“ für Cybersicherheit eingestuft, wenn interne Bewertungen nicht ausschließen können, dass es autonom schwerwiegende, bisher unbekannte Software-Schwachstellen – allgemein als Zero-Day-Exploits bezeichnet – entdecken und ausnutzen oder komplexe, mehrstufige Cyberangriffe gegen gut verteidigte Ziele ohne bedeutende menschliche Anleitung eigenständig durchführen könnte. Das Erreichen dieser Stufe bestätigt nicht, dass das Modell diese Fähigkeiten definitiv besitzt; vielmehr bedeutet es, dass die Bewerter die Möglichkeit nicht ausschließen konnten, was nach der eigenen Richtlinie von OpenAI ausreicht, um zusätzliche Vorsichtsmaßnahmen zu verlangen, bevor eine breitere Entwicklung oder Freigabe fortgesetzt werden kann.

Eingeführte Schutzmaßnahmen

Laut OpenAI haben Teams, die an Astra arbeiten, jede interne Aktivität pausiert, die die erhöhte Sicherheitsstufe noch nicht erfüllt. Künftig werden Entwicklung und Tests des Modells in isolierten Sandbox-Umgebungen mit eingeschränktem Netzwerkzugriff, strengeren Kontrollen darüber, welche Werkzeuge das Modell aufrufen kann, zusätzlicher Verschlüsselung und Schutz der Modellgewichte sowie erweiterter Überwachung stattfinden, die darauf ausgelegt ist, riskantes oder fehlausgerichtetes Verhalten zu erkennen. Das Unternehmen erklärte, es habe auch eine automatisierte Überprüfung der internen Denkabläufe des Modells, manchmal auch als Gedankenkette bezeichnet, eingeführt, sodass verdächtige Planungsaktivitäten markiert und unterbrochen werden können, bevor sie zu realen Handlungen führen.

Externe Überprüfung und Regierungszusammenarbeit

OpenAI erklärte, es beabsichtige, mit externen Gruppen zusammenzuarbeiten, um die tatsächlichen Fähigkeiten des Modells unabhängig zu verifizieren, anstatt sich ausschließlich auf interne Tests zu verlassen. Dies umfasst die Zusammenarbeit mit relevanten staatlichen Cybersicherheitsbehörden und einer kleinen Anzahl externer KI-Sicherheitsorganisationen, die sich auf die Bewertung offensiver Sicherheitsfähigkeiten spezialisiert haben. Das Unternehmen erklärte außerdem, es plane, empfohlene Sicherheitskontrollen mit Drittbewertern zu teilen, damit praktische Tests der Modellfähigkeiten durchgeführt werden können, ohne das reale Risiko wesentlich zu erhöhen.

Warum diese Offenlegung hervorsticht

Führende KI-Labore veröffentlichen seit mehreren Jahren Fähigkeitsschwellen und Sicherheitsrahmenwerke, aber die tatsächliche Aktivierung der höchsten Stufe eines Rahmens für ein benanntes, bald erscheinendes Modell ist ungewöhnlich. Forscher, die die KI-Sicherheitspolitik verfolgen, merkten an, dass dieser Schritt sowohl das Tempo signalisiert, mit dem sich Modellfähigkeiten in spezialisierten technischen Bereichen wie offensiver Cybersicherheit entwickeln, als auch die Bereitschaft mindestens eines großen Labors, eine Veröffentlichung öffentlich zu verlangsamen, anstatt nach einem festen Zeitplan zu liefern. Der Vorfall wird wahrscheinlich die Diskussion in der KI-Forschungsgemeinschaft darüber erneuern, wie Fähigkeitsbewertungen durchgeführt werden, wie viele Details öffentlich offengelegt werden sollten und wie Regierungen und unabhängige Forscher Behauptungen der Labore, die diese Systeme bauen, sinnvoll verifizieren können.

Was als Nächstes passiert

OpenAI hat kein festes Datum genannt, wann Astra den zusätzlichen Überprüfungsprozess abschließen oder breiter verfügbar sein wird. Das Unternehmen erklärte, die Pause gelte speziell für Aktivitäten, die hinter den neuen Sicherheitsanforderungen zurückbleiben, und nicht für einen Stopp aller Arbeiten am Modell, und dass die letztendliche Freigabe von Astra vom Ergebnis der oben beschriebenen erweiterten internen und externen Bewertungen abhängen werde.