Senatsentwurf würde KI-Unternehmen gesetzlich zur Verhinderung katastrophaler Risiken verpflichten

Nachrichtenübersicht

Senatsverhandler arbeiten an einer parteiübergreifenden Gesetzgebung, die zum ersten Mal eine verbindliche rechtliche „Sorgfaltspflicht“ für die Entwickler der fortschrittlichsten KI-Systeme einführen würde. Diese verpflichtet sie dazu, ihre Produkte so zu gestalten, dass katastrophale Risiken verhindert werden, anstatt sich auf freiwillige Sicherheitszusagen zu verlassen. Stand 11. September 2026, US-Ostküstenzeit, sind in die Gespräche der Mehrheitsführer im Senat John Thune, der Vorsitzende des Senatsausschusses für Handel Ted Cruz, die führende Demokratin im Handelsausschuss Maria Cantwell sowie Senatorin Amy Klobuchar eingebunden, die als führende demokratische Stimme in den Verhandlungen hervorgetreten ist. Der Vorschlag würde der Bundesregierung neue Befugnisse einräumen, die Veröffentlichung von Frontier-KI-Modellen zu untersagen, wenn diese als unsicher eingestuft werden, und den Unternehmen gleichzeitig das Recht geben, solche Entscheidungen vor Bundesgerichten anzufechten.

Was der Gesetzentwurf vorsehen würde

Im Mittelpunkt des Entwurfs steht ein Standard der „Sorgfaltspflicht“, ein Rechtskonzept, das aus dem Produktsicherheits- und Deliktsrecht entlehnt wurde. Dieses würde die Entwickler der leistungsfähigsten KI-Systeme verpflichten, ihre Modelle aktiv mit dem Ziel zu entwickeln, katastrophale Ergebnisse zu verhindern. Anstatt Sicherheitstests internen, freiwilligen Unternehmenszusagen zu überlassen, würde dieser Standard eine durchsetzbare Verpflichtung schaffen, auf die Regulierungsbehörden direkt reagieren könnten.

Berichten zufolge zielt die Maßnahme gezielt auf „Frontier“-Modelle ab, also die kleine Gruppe von Systemen mit den fortschrittlichsten Fähigkeiten. Dies würde sie in direkten Kontakt mit Alphabet’s Google, Anthropic und OpenAI bringen. Entwickler dieser Systeme wären verpflichtet, mit Regierungsexperten zusammenzuarbeiten, darunter nationale Labore und andere staatliche Partner, um ihre Modelle vor und nach der Veröffentlichung unabhängig zu überprüfen und zu testen.

Die Risiken, die Gesetzgeber ins Visier nehmen

Verhandler haben erklärt, dass die Gesetzgebung darauf abzielt, einen spezifischen Satz „katastrophaler Risiken“ anzugehen, anstatt den breiten Bereich alltäglicher KI-Schäden wie Bias oder Fehlinformationen. Zu diesen Risiken gehören Berichten zufolge die Möglichkeit, dass ein böswilliger Akteur ein Frontier-KI-System nutzen könnte, um den Entwurf einer biologischen oder nuklearen Waffe zu unterstützen; dass ein KI-Modell verwendet werden könnte, um ausgefeilte Cyberangriffe gegen kritische Infrastruktur durchzuführen; und dass autonome KI-Agenten von menschlichen Anweisungen abweichen und unbefugte Aktionen durchführen könnten, einschließlich dem Eindringen in externe Computersysteme.

Senatorin Klobuchar hat erklärt, dass sie weiterhin auf eine parteiübergreifende Vereinbarung hinarbeite, die der Regierung die Aufsicht über die größten Risiken vorsieht, die von fortschrittlichen KI-Modellen ausgehen, einschließlich der Anforderung, dass Entwickler vor der Bereitstellung mit staatlichen Tests kooperieren. Senator Cruz hat erklärt, dass er speziell mit Klobuchar und Thune daran arbeitet, Risiken im Zusammenhang mit biologischen und nuklearen Bedrohungen anzugehen.

Regierungsbehörde und gerichtliche Überprüfung

Ein zentrales und umstrittenes Merkmal des entstehenden Rahmens ist der Vorschlag, der Bundesregierung zu gestatten, die Veröffentlichung eines KI-Modells zu blockieren, das sie als zu gefährlich einstuft. Um diese Macht auszugleichen, würde der Entwurf Unternehmen ermöglichen, eine solche Entscheidung vor Bundesgerichten anzufechten. Dies gibt Entwicklern eine gerichtliche Kontrolle über regulatorische Maßnahmen, anstatt die Entscheidung ausschließlich einer Exekutivbehörde zu überlassen.

Die Frage der bundesgesetzlichen Vorrangwirkung

Die Verhandlungen finden vor dem Hintergrund eines langjährigen Streits in Washington statt, ob ein bundesweites KI-Gesetz die wachsende Flickenteppich-Landschaft staatlicher KI-Vorschriften außer Kraft setzen sollte. Anfang 2026 wurde der Versuch, einem separaten Gesetzgebungsprojekt ein zehnjähriges Moratorium für staatliche KI-Gesetze beizufügen, durch eine überwältigende Abstimmung im Senat gestrichen, und republikanische Gouverneure in mehreren Staaten haben sich öffentlich gegen breite Vorbehaltsbemühungen ausgesprochen. Bürgerrechts- und Verbraucherschutzgruppen haben separat gewarnt, dass die Nutzung eines bundesweiten Sicherheitsgesetzes, um staatliche KI-Gesetze außer Kraft zu setzen, Schutzmaßnahmen beseitigen könnte, die von staatlichen Gesetzgebern bereits eingeführt wurden. Dies würde das, was sie als „Boden“ staatlicher Schutzmaßnahmen bezeichnen, in eine niedrigere bundesweite „Decke“ verwandeln.

Position der Industrie

Die Reaktionen aus der Industrie waren gemischt. Einige KI-Entwickler haben öffentlich Unterstützung signalisiert, von freiwilligen Sicherheitszusagen zu obligatorischen, staatlich unterstützten Regeln überzugehen, wobei mindestens die politische Führung eines großen KI-Labors eine leistungsbezogene nationale Sicherheitsregulierung forderte, anstatt weiterhin auf unternehmensspezifische Zusagen zu vertrauen. Andere Industriegruppen waren bei der Unterstützung konkreter Gesetzesentwürfe vorsichtiger, was die allgemeine Unsicherheit in der Branche hinsichtlich der Compliance-Kosten und des Umfangs der Regierungsbehörde, Produktveröffentlichungen zu stoppen, widerspiegelt.

Zeitplan und politischer Druck

Personen, die nah an den Gesprächen stehen, beschreiben den entstehenden Thune-Cruz-Klobuchar-Rahmen als einen der wenigen realistischen Wege zu einem bundesweiten KI-Sicherheitsgesetz, bevor der aktuelle Kongress endet. Der legislative Zeitplan erhöht den Druck: Es wird erwartet, dass das Repräsentantenhaus nur etwa eine Woche lang tagt, bevor die Zwischenwahlen am 3. November 2026 stattfinden, während der Senat noch etwa drei Wochen an geplanten Sitzungszeiten übrig hat. Den Verhandlern ist bewusst, dass, falls keine Einigung in diesem Fenster erzielt wird, der im Januar 2027 zusammentretende neue Kongress ein anderes politisches Gleichgewicht mit sich bringen könnte, das die Chancen erschwert, umfassende KI-Gesetzgebung durchzubringen.

Was als Nächstes kommt

Der Gesetzentwurf befindet sich weiterhin in aktiven Verhandlungen, wobei wichtige technische Details, einschließlich der präzisen Testprotokolle, des Umfangs der bundesgesetzlichen Vorrangwirkung und des Standards, den die Regierung erfüllen müsste, um die Veröffentlichung eines Modells zu blockieren, noch zwischen den Verhandlern ausgearbeitet werden. Jeder endgültige Text müsste immer noch beide Kammern passieren und vor seiner Übergabe an das Weiße Haus abgeglichen werden. Dieser Prozess wird, angesichts des komprimierten legislativen Zeitplans, wahrscheinlich Diskussionen weit in den Herbst hinein verlängern.