OpenAI beruft RLHF-Pionier Paul Christiano in sein Sicherheitsaufsichtsgremium

Zusammenfassung der Meldung

OpenAI hat Paul Christiano, einen Forscher, der seit Langem vor katastrophalen Risiken durch fortschrittliche künstliche Intelligenz warnt, in den Vorstand seiner gemeinnützigen Stiftung sowie in das Sicherheits- und Security-Komitee berufen, das unternehmensweit Entscheidungen über Modellfreigaben überwacht. Die Ankündigung erfolgte am 9. September 2026 (US-Pazifikküstenzeit) und bringt eine der prominentesten risikobewussten Stimmen des Fachgebiets in die Governance-Struktur jenes Unternehmens, das einige der leistungsfähigsten KI-Systeme der Welt entwickelt.

Wer Paul Christiano ist

Christiano ist vor allem als Mitentwickler von Reinforcement Learning from Human Feedback (RLHF) bekannt – der Trainingsmethode, die dafür sorgt, dass moderne große Sprachmodelle Anweisungen befolgen und hilfreiche, angemessene Antworten liefern. Er arbeitete von 2017 bis 2021 bei OpenAI und leitete in dieser Zeit die Alignment-Forschung, bevor er das Unternehmen verließ, um das Alignment Research Center (ARC) zu gründen. Diese gemeinnützige Organisation widmet sich der Entwicklung theoretischer und empirischer Werkzeuge, um fortschrittliche KI-Systeme im Einklang mit menschlichen Absichten zu halten.

Seit seinem Weggang von OpenAI hat Christiano zudem eine beratende Rolle für die Regierung übernommen. Er ist Senior Technical Advisor am Center for AI Standards and Innovation (CAISI), das dem US National Institute of Standards and Technology (NIST) angegliedert ist. Dort hat er an der Bewertung von Frontier-KI-Modellen hinsichtlich sicherheitsrelevanter Fähigkeiten mitgewirkt. Laut OpenAI erstreckt sich diese Erfahrung über zwei Regierungsperioden hinweg und verschafft ihm einen Blickwinkel auf die KI-Sicherheit, der technische Forschung mit Politik- und Standardentwicklung verbindet.

Die neue Rolle bei OpenAI

Mit seiner Berufung tritt Christiano dem Vorstand der OpenAI Foundation und insbesondere deren Sicherheits- und Security-Komitee (SSC) bei, wo er gemeinsam mit dem Vorsitzenden des Komitees, Professor Zico Kolter von der Carnegie Mellon University, arbeitet. Das SSC ist das Gremium, das für die Governance der Sicherheits- und Security-Praktiken bei OpenAI verantwortlich ist – einschließlich der gemeinwohlorientierten Kapitalgesellschaft OpenAI Group – und befugt ist, die Einsatzbereitschaft neuer Frontier-Modelle zu prüfen und freizugeben, bevor sie der Öffentlichkeit zugänglich gemacht werden.

Christianos Position im Vorstand der OpenAI Group PBC ist die eines Beobachters ohne Stimmrecht. OpenAI erklärte, dass er sich in seiner beratenden Funktion bei Angelegenheiten und Modellbewertungen zurückhält, die mit seiner separaten Regierungsarbeit beim CAISI zusammenhängen. Diese Struktur soll Interessenkonflikte zwischen seinen Rollen im öffentlichen und im privaten Sektor vermeiden.

Warum diese Berufung auffällt

Die Berufung ist bemerkenswert, weil Christiano sich wiederholt deutlich zum Ausmaß der Risiken geäußert hat, die er mit dem Tempo der KI-Entwicklung verbindet. In einer Erklärung zur Ankündigung schrieb er, er glaube mittlerweile, dass „ein erhebliches Risiko besteht, dass eine rasante Beschleunigung der KI-Fähigkeiten in sehr naher Zukunft zu einem katastrophalen und unumkehrbaren Kontrollverlust führt“. Zudem sei er nicht der Ansicht, dass die KI-Branche insgesamt – einschließlich OpenAI – derzeit auf dem richtigen Weg sei, dieses Risiko auf ein akzeptables Maß zu senken. Er fügte hinzu, dass er sich für den Beitritt entschieden habe, weil er glaube, OpenAI könne dieses Risiko spürbar verringern, wenn das Unternehmen „der Herausforderung gewachsen ist“.

Bret Taylor, Vorsitzender des Vorstands der OpenAI Foundation, stellte die Berufung als Stärkung der unabhängigen Aufsicht dar. Er sagte, Christiano „hat das Feld des KI-Alignments durch Arbeit geprägt, die rigoros ist und sich auf die schwierigsten Fragen konzentriert, die zunehmend leistungsfähige Systeme aufwerfen“. Seine Erfahrung in der Sicherheit von Frontier-KI und in der Entwicklung staatlicher Standards werde sowohl die Aufsicht des Vorstands als auch die Arbeit des Komitees stärken. Christiano selbst merkte an, dass „sich die KI-Fähigkeiten im vergangenen Jahr sehr schnell weiterentwickelt haben und Alignment weiterhin ein schwieriges technisches Problem bleibt“ – was unterstreiche, warum er die Verantwortung des Komitees heute für wichtiger halte als je zuvor.

Einordnung in die Governance-Struktur von OpenAI

Der Schritt folgt auf die Umstrukturierung von OpenAI im Jahr 2025, bei der die ursprüngliche gemeinnützige Stiftung von der neu gegründeten gemeinwohlorientierten Kapitalgesellschaft OpenAI Group getrennt wurde. Diese Struktur soll sicherstellen, dass eine gemeinnützige Mission und eine Sicherheitsebene über der kommerziellen Einheit bestehen bleiben. Dem Sicherheits- und Security-Komitee gehörten bereits Persönlichkeiten wie Zico Kolter, Adam D'Angelo, Sue Desmond-Hellmann, Paul M. Nakasone und Nicole Seligman an, neben CEO Sam Altman. Die Aufnahme eines Forschers, der für seine Betonung existenzieller Risiken bekannt ist, erweitert das Spektrum der Perspektiven in jenem Komitee, das das letzte Wort darüber hat, ob neue Modelle sicher genug für eine Veröffentlichung sind.

Der breitere Branchenhintergrund

Christianos Berufung erfolgt zu einem Zeitpunkt, an dem Fragen zur Governance der KI-Sicherheit in der gesamten Technologiebranche große Aufmerksamkeit erhalten. Die öffentliche Debatte darüber, wie schnell leistungsfähige KI-Systeme voranschreiten und wie gut die Sicherheitsforschung Schritt hält, hat sich 2026 branchenweit intensiviert; Forschende aus zahlreichen Laboren veröffentlichen Arbeiten zu Alignment, Interpretierbarkeit und Containment. Indem OpenAI einen Forscher mit tiefgreifender technischer Alignment-Expertise und Erfahrung in staatlichen Standards in eine formale Aufsichtsrolle holt, signalisiert das Unternehmen, dass seine Sicherheits-Governance auch jene Stimmen einschließen soll, die öffentlich darauf hingewiesen haben, dass die aktuellen Branchenpraktiken noch nicht ausreichen – und nicht nur diejenigen, die einem optimistischeren Zeitplan folgen.

Für Studierende und Beobachter des Bereichs KI-Sicherheit bietet die Berufung ein konkretes Beispiel dafür, wie Alignment-Forschung – einst eine akademische Nische – Einzug in die Unternehmensführung gehalten hat. Forschende, die untersuchen, wie KI-Systeme vorhersehbar und kontrollierbar bleiben, sitzen nun in genau jenen Vorständen, die entscheiden, wann ein neues Modell reif für die Welt ist.