Ein überparteilicher Senatsentwurf würde KI-Sicherheit zur gesetzlichen Pflicht machen

US-Senatsunterhändler erarbeiten Gesetze, die KI-Sicherheit zu einer gesetzlichen Pflicht statt zu einem Unternehmensversprechen machen und der Bundesregierung einen Weg eröffnen würden, die Veröffentlichung eines unsicheren Modells zu stoppen. Es ist der bislang konkreteste Vorstoß zur Regulierung von Frontier-KI in Washington – und es ist noch immer nur eine Reihe von Entwürfen.

Zum Weiterlesen: Hawley eröffnet Senatsuntersuchung zu OpenAIs Rogue-Agent-Einbruch bei Hugging Face · Trump und sechs KI-Chefs unterzeichnen eine freiwillige Frontier-Sicherheitsvereinbarung ohne Durchsetzung.

Die Gespräche werden von Senatsmehrheitsführer John Thune (R-S.D.), dem Vorsitzenden des Handelsausschusses des Senats, Ted Cruz (R-Texas), und Senatorin Amy Klobuchar (D-Minn.), der beteiligten führenden Demokratin, geführt. Reuters beschrieb den Vorstoß erstmals am 11. September, mit weiteren Details von Nextgov/FCW und der Zusammenfassung bei Progressive Robot. Es gibt keine Gesetzesnummer und keinen öffentlichen Text. Bekannt ist, was aus zwei Senatsmitarbeitern, einem Lobbyisten und Personen stammt, die Versionen des Entwurfs gesehen haben – vieles davon anonym berichtet –, plus einige Aussagen auf Protokoll.

Diese Lücke ist wichtig. Der Unterschied zwischen der Schlagzeile, wonach Unterhändler erwägen, Unternehmen zur Minderung „known major risks“ zu verpflichten, und dem berichteten Text, der die weiter gefasste Formulierung „catastrophic risks“ verwendet, ist der Unterschied zwischen einer Pflicht, auf gemessenen Schaden zu reagieren, und einer Pflicht, gegen Gefahren zu konstruieren, die noch niemand quantifiziert hat. Bis ein Gesetzentwurf eingebracht ist, ist das Design eine Schlussfolgerung.

Eine gesetzliche Pflicht, kein freiwilliges Versprechen

Im Zentrum des Vorschlags steht eine „duty of care“ für Entwickler der leistungsfähigsten Modelle. Zwei Senatsmitarbeiter sagten Reuters, die Maßnahme würde Unternehmen verpflichten, ihre Produkte mit dem Ziel zu gestalten, „catastrophic risks“ zu verhindern. Rechtlich ist eine Sorgfaltspflicht die Verpflichtung, angemessene Vorsichtsmaßnahmen gegen vorhersehbaren Schaden zu ergreifen – die Grundlage von Fahrlässigkeitsklagen. Auf KI angewandt, würde sie die Frage davon, ob ein Labor einen Sicherheitsrahmen veröffentlicht hat, dahin verschieben, ob es angemessene Schritte unternommen hat, um eine definierte Schadenskategorie zu verhindern.

Zu den im Entwurf genannten Risikokategorien gehören Berichten zufolge:

• biologische und nukleare Waffen
• offensive Cyberoperationen
• Modelle, die sich auf eine Weise verhalten, die ihre Entwickler nicht zuverlässig kontrollieren können

Der Geltungsbereich wäre auf die fortschrittlichsten „Frontier“-Modelle begrenzt. Reuters nannte Alphabets Google, Anthropic und OpenAI als die US-Unternehmen mit den leistungsfähigsten Systemen, spezifizierte aber keinen Schwellenwert. Der Handelsausschuss beaufsichtigt das Handelsministerium, in dem hauseigene KI-Sicherheitsforscher sitzen.

Dies ist ein anderer Ansatz als der FRONTIER Act des Repräsentantenhauses, der überparteiliche Gesetzentwurf, den die Abgeordneten Jay Obernolte (R-Kalif.) und Lori Trahan (D-Mass.) im Juli einbrachten. Wie TechTimes erklärt hat, stützt sich die Maßnahme des Repräsentantenhauses auf Sicherheitsrahmen, halbjährliche unabhängige Prüfungen, Vorfallberichte und Geldstrafen von bis zu 1 Million US-Dollar pro Tag. Der Senatstext würde dagegen eine Haftung für die Designentscheidung selbst schaffen. Der eine ahndet nach einem Versagen mit Strafe; der andere macht das Versagen rechtlich einklagbar.

Wie die Durchsetzung funktionieren würde – und wie vielleicht nicht

Der Durchsetzungsmechanismus ist der Punkt, an dem die Darstellungen auseinandergehen und an dem die eigentliche Stärke des Gesetzentwurfs liegt.

POLITICOs Darstellung zufolge würde ein Labor, das feststellt, dass ein Modell bestimmte fortgeschrittene Fähigkeiten aufweist, das Handelsministerium vor der Veröffentlichung benachrichtigen, die ergriffenen Minderungsmaßnahmen erläutern und dem Handelsminister eine Möglichkeit geben, sie zu überprüfen. Gelangt der Minister zu dem Schluss, dass ein katastrophales Risiko nicht ausreichend adressiert ist, könnte das Ministerium beim Gericht eine bundesstaatliche einstweilige Verfügung beantragen, um die Veröffentlichung zu blockieren. Unternehmen könnten die Regierung vor einem Bundesgericht anfechten.

Entscheidend ist, dass dies kein pauschales Vorabgenehmigungsregime ist. POLITICO berichtete, dass Labore ohne eine einstweilige Verfügung selbst entscheiden würden, ob sie ein Modell veröffentlichen. Reuters sagte, der genaue Umfang der Regierungsbefugnis werde noch verhandelt. Diese Unterscheidung ist das ganze Spiel: Ein verbindliches Vorabgenehmigungsregime würde die Regierung in jeden qualifizierenden Release einbeziehen, während das berichtete Design die Last den Regulierern auferlegt, vor einen Richter zu gehen und zu gewinnen.

Die Aussagen auf Protokoll lassen sich in beide Richtungen lesen. Cruz schrieb auf X, er arbeite mit Klobuchar und Thune daran, „address catastrophic risks involving biological or nuclear threats“, und sagte am 9. September in ABCs „The View“, der Gesetzentwurf würde „government supervision and approval“ von Modellen verlangen. Ein demokratischer Ausschussmitarbeiter bezeichnete gegenüber Nextgov/FCW die aktuelle Version als „primarily a voluntary standard type situation“. Eine zweite mit den Gesprächen vertraute Person sagte dagegen, „Republicans have created legal duties for companies to manage catastrophic risks and ensure that government can verify they are doing so.“

Der Teststreit: Wer überprüft die Modelle?

Der offenste Streit dreht sich darum, wer Frontier-Modelle testet. Senatorin Maria Cantwell (D-Wash.), die ranghöchste Demokratin im Handelsausschuss, hat sich eingebracht und widerspricht Teilen des aktuellen Ansatzes.

„Meaningful legislation would require the most powerful AI models undergo testing by scientists and experts at our national laboratories to assess whether they could enable sophisticated cyberattacks or aid the development of biological or nuclear weapons“, sagte Cantwell auf X.

Nextgov/FCW zufolge stützen sich die Bestimmungen, die Cantwell überarbeitet haben will, auf Sicherheitstests, die die Unternehmen selbst durchführen und deren Ergebnisse sie dann dem Handelsminister zur Genehmigung des Einsatzes vorlegen würden. Cantwell will stattdessen verbindliche Tests durch Bundesbehörden und nationale Labore. Ein demokratischer Mitarbeiter sagte, ihr Büro habe Formulierungen an Klobuchars Büro angeboten, das als „very receptive“ beschrieben worden sei, doch Cruz' Zustimmung wäre ein entscheidender Faktor.

Der Ort des Tests ist wichtig. Ein vom Unternehmen durchgeführter Test erzeugt Beweise, die der Entwickler zu erzeugen wählte; ein von einem nationalen Labor durchgeführter Test erzeugt die eigenen Beweise der Regierung. Klobuchars Formel – Entwickler zu verpflichten, „work with government experts to verify and test models“ – lässt sich in beide Richtungen lesen, weshalb sie wahrscheinlich jede Seite zitiert. In einer Erklärung gegenüber Reuters und Nextgov/FCW sagte sie, sie arbeite „continuing to work toward a bipartisan agreement on legislation for government oversight of the greatest risks posed by AI models“ und fügte hinzu: „We cannot allow the release of dangerous models, including those that evade the control of their developers.“

Preemption: die Bruchlinie, an der schon früher Gesetze gescheitert sind

Der Entwurf enthält Berichten zufolge Formulierungen, die einige KI-Sicherheitsgesetze der Bundesstaaten verdrängen würden. Weder Reuters noch POLITICO berichteten, welche Gesetze, und genau dieses Schweigen greift Cantwell an. Sie widerspricht entschieden einem „weak federal standard“, der stärkere Schutzmaßnahmen der Bundesstaaten überlagert, und schrieb, „the answer is not a weak federal standard that becomes a backdoor for wiping out stronger state protections.“

Der Kontext ist nicht abstrakt:

• Kaliforniens Gouverneur Gavin Newsom unterzeichnete am 9. September 2026 das erste verpflichtende KI-Auditgesetz, das KI bei Einstellungen, Versicherungen und anderen folgenreichen Entscheidungen abdeckt und als SB 813 und AB 1405 gemeldet wurde.
• New York und Illinois haben ebenfalls Frontier-KI-Sicherheitsmaßnahmen erlassen.
• Ein Versuch von 2025 für ein zehnjähriges bundesweites Moratorium gegen staatliche KI-Regulierung scheiterte im Senat mit 99 zu 1.

Preemption ist die Bestimmung, die am ehesten darüber entscheiden dürfte, ob der Gesetzentwurf demokratische Stimmen gewinnen kann, und diejenige, bei der das berichtete Schweigen tragend ist.

Warum diese Woche

Der Gesetzentwurf wird mindestens seit Juli verhandelt. Ein für vor der Augustpause geplantes Markup des Handelsausschusses wurde abgesagt. Was sich im September änderte, war eine Reihe von Ereignissen innerhalb von vier Tagen.

• Am 8. September trat der Forscher Jacob Coxon bei Anthropic zurück und warnte, die Unternehmen „gambling with our lives“. Anthropics Alignment-Leiter Evan Hubinger stimmte öffentlich einer Schätzung zu, dass das Risiko einer KI-verursachten Katastrophe innerhalb eines Jahrzehnts über 10 Prozent liegt.
• Am 9. September trat Cruz in „The View“ auf, nannte KI-Risiken „frightening“ und sagte, der Gesetzentwurf würde eine staatliche Aufsicht und Genehmigung von Modellen verlangen.
• Am 10. September hieß es in Anthropics Bedrohungsbericht, für neuere Claude-Modelle könne nicht mehr angenommen werden, dass sie unter der Schwelle blieben, die Entwicklung biologischer Waffen nennenswert zu unterstützen: „Older models were well below the threshold... This is no longer a certainty with newer models.“
• Senator Josh Hawley eröffnete eine Untersuchung zu OpenAIs Rogue-Agent-Sicherheitspanne bei Hugging Face im Juli.

Cruz bestätigte öffentlich auf X, dass er mit Klobuchar und Thune an Gesetzen arbeite, um „address catastrophic risks involving biological or nuclear threats“. Die Offenlegung von Anthropic ist bemerkenswert, weil dort ein Frontier-Labor in seinem eigenen öffentlichen Bericht genau die Fähigkeitsklasse beschreibt, die die Sponsoren des Gesetzentwurfs nach eigenen Angaben ins Visier nehmen.

Staatliche Eingriffe haben bereits Präzedenzfälle

Eine gesetzliche Blockierbefugnis wäre neu, doch staatliche Eingriffe bei Modellveröffentlichungen sind es nicht. Im Juni 2026 berief sich das Handelsministerium auf den Export Control Reform Act, um den globalen Zugang zu Anthropics Mythos 5 und Fable 5 auszusetzen; Anthropic schaltete sie für rund drei Wochen ab. OpenAI beschränkte den Start von GPT-5.6 Sol auf regierungsgenehmigte Partner. Und die Executive Order von Präsident Trump vom 2. Juni 2026 schuf einen freiwilligen Rahmen für bis zu 30 Tage staatlichen Vorabzugang und verbietet ausdrücklich eine verbindliche Vorabgenehmigung.

Der berichtete Senatsentwurf würde eine zweckgebundene Befugnis mit einem Gerichtsverfahren schaffen, statt Handelsrecht zu dehnen. Das ist zugleich seine verfassungsrechtliche Verwundbarkeit: Eine Regierungsbefugnis, ein Produkt vor der Veröffentlichung zu blockieren, ist eine Form vorheriger Zurückhaltung – eine Kategorie, die Gerichte genau prüfen.

Was der Gesetzentwurf für Unternehmen bedeuten würde

Für die betroffenen Labore ist die praktische Veränderung der Zeitpunkt. Eine Sorgfaltspflicht verlagert die Sicherheitsarbeit in die Designphase, in der ein rechtlicher Standard des „Angemessenen“ von Gerichten im Nachhinein festgelegt wird, statt in eine Berichtsphase, die nach dem Bau eines Modells stattfindet. Für alle anderen – Unternehmen, die Frontier-Modelle über APIs kaufen und einsetzen – ist der kurzfristige Effekt indirekt: Berichterstattung, Überprüfung und mögliche Gerichtsstreitigkeiten finden vorgelagert statt.

Das prägt auch das Lobbying. Preemption würde nationalen Regeln einen einzigen Mindeststandard geben; Gegner lesen es als Obergrenze, die strengeres Landesrecht verdrängt. Unternehmen, die bereits Compliance rund um die Regeln Kaliforniens, New Yorks und Illinois' aufgebaut haben, hätten lieber Klarheit darüber, welches Regime gilt.

Der Kalender könnte der eigentliche Gegner sein

Selbst Unterhändler, die sich bei jeder Klausel einig sind, stehen vor einer kurzen Uhr.

• Der Senat wird voraussichtlich rund drei Wochen vor den Midterms am 3. November in Washington sein.
• Das Repräsentantenhaus ist für etwa eine Woche angesetzt.
• Semafor berichtete, Quellen nannten dies die „only viable option“ für KI-Sicherheitsmaßnahmen vor 2027.
• Eine Einbringung wurde als möglicherweise schon in der Woche des 14. September beschrieben.

Ein Gesetzentwurf muss beide Kammern in identischer Form passieren. Wenn der Senat sich innerhalb seiner drei Wochen bewegt, hätte das Repräsentantenhaus eine einzige Woche, um einen Text zu behandeln, den es nicht verhandelt hat, neben zwingend zu verabschiedenden Finanzierungsgesetzen. Ein neuer Kongress tritt im Januar 2027 zusammen, und alles, was bis dahin nicht verabschiedet ist, muss neu eingebracht werden. Die realistischen Ergebnisse vor der Wahl sind ein Ausschuss-Markup, eine Senatsabstimmung oder ein eingebrachter Text, der den nächsten Kongress prägt, statt eines unterzeichneten Gesetzes.

Was zu beobachten ist

• Ob eine Gesetzesnummer und ein öffentlicher Text erscheinen und ob sie zum berichteten Design passen. Solange kein Text existiert, ist der Durchsetzungsmechanismus eine Schlussfolgerung, keine Tatsache.
• Ob Cantwells Formulierung zu Tests in nationalen Laboren übernommen wird und ob Cruz sie akzeptiert. Ihre Unterstützung ist für einen überparteilichen Weg wahrscheinlich notwendig.
• Ob die Preemption-Klausel bestimmte Landesgesetze nennt oder allgemein bleibt. Ihr Umfang wird bestimmen, ob die Schutzmaßnahmen Kaliforniens, New Yorks und Illinois' überleben.
• Ob der Weg über die einstweilige Verfügung das Redigieren übersteht. Muss die Regierung jedes Mal vor Gericht gewinnen, ist die Sorgfaltspflicht hauptsächlich eine Offenlegungspflicht; müssen Labore auf eine Entscheidung warten, wird sie eher so etwas wie eine Vorabgenehmigung.
• Ob der Kalender ein Ausschuss-Markup oder eine Abstimmung im Plenum zulässt oder ob der Gesetzentwurf zu einer Markierung für 2027 wird.
• Ob die Sicherheitsnachrichten der Woche das Thema präsent halten: weitere Insider-Warnungen, mehr Fähigkeitsoffenlegungen der Labore oder die Ergebnisse von Hawleys Untersuchung zu OpenAI.

Titelbild: offizielle Porträts der US-Senatoren Ted Cruz, John Thune und Amy Klobuchar, gemeinfrei, via Wikimedia Commons.