Illinois verabschiedet Amerikas erstes KI-Sicherheitsgesetz mit Pflichtaudits für Frontier-Labs

Am 27. Mai verabschiedete die Illinois General Assembly SB 315, den Artificial Intelligence Safety Measures Act, mit 110 zu 0 Stimmen. Das Gesetz geht nun an Gouverneur JB Pritzker, der angekündigt hat, es zu unterzeichnen. Nach der Unterzeichnung wird dies das erste US-Bundesstaatsgesetz sein, das jährliche unabhängige Sicherheitsaudits durch Dritte für Frontier-KI-Entwickler wie OpenAI, Anthropic, Google DeepMind und Meta vorschreibt. Bemerkenswert: Sowohl OpenAI als auch Anthropic haben das Gesetz öffentlich unterstützt.

Was SB 315 konkret verlangt

Das Gesetz richtet sich an „Frontier-KI-Entwickler”, also Unternehmen, die die leistungsfähigsten Modelle trainieren und einsetzen. Unter die aktuelle Definition fallen OpenAI, Anthropic, Google DeepMind, Meta sowie jedes andere Labor, dessen Trainingskosten die gesetzliche Schwelle überschreiten.

Vier Kernpflichten stechen heraus. Erstens müssen Unternehmen jährlich unabhängige Audits in Auftrag geben, die überprüfen, ob ihre Sicherheitspraktiken den eigenen veröffentlichten Zusagen entsprechen. Zweitens müssen sie ein Frontier-KI-Framework erstellen und jährlich aktualisieren, das Katastrophenrisikobewertung, Cybersicherheit, interne Governance und Drittanbieter-Evaluierungen abdeckt. Drittens müssen sie den Behörden regelmäßig Zusammenfassungen interner Risikobewertungen vorlegen. Viertens sind kritische Sicherheitsvorfälle aktiv zu melden.

Das Gesetz enthält Whistleblower-Schutz und zivilrechtliche Strafen bei Verstößen. Als mögliche Prüfer gelten die Big Four, Deloitte, EY, KPMG und PwC, sowie Forschungsorganisationen des AI Evaluator Forum wie METR, Transluce und AVERI. Das Inkrafttreten ist für 2028 geplant, was den Unternehmen etwa zwei Jahre Vorbereitungszeit lässt.

Warum die KI-Labs ihre eigene Regulierung unterstützen

Chris Lehane, Leiter der öffentlichen Angelegenheiten bei OpenAI, sagte, das Gesetz schaffe „klare Erwartungen in Bezug auf Sicherheit, Transparenz, Vorfallsberichterstattung und Verantwortlichkeit”. Anthropics Policy-Verantwortlicher Cesar Fernandez erklärte, das Gesetz „etabliere eine Grundlage, die jeder führende KI-Entwickler erfüllen soll”, und behauptete, Anthropic sei das erste KI-Labor, das es öffentlich unterstützt habe.

Dahinter steckt eine klare Interessenlage. Keine der beiden Unternehmen fürchtet primär die Regulierung an sich, sondern uneinheitliche Standards. Verpflichtende Drittanbieter-Audits legen für alle Wettbewerber gleiche Compliance-Kosten fest und verringern den Vorteil, den kleinere oder weniger sicherheitsbewusste Neueinsteiger durch geringere Standards gewinnen könnten. Ein gemeinsamer Regulierungsrahmen schützt die etablierten Anbieter genauso wie die Öffentlichkeit.

Der Hauptwiderstand kam von Chamber of Progress, einer Tech-Lobby-Organisation, die argumentierte, das Gesetz würde Unternehmen zwingen, „sensible Systeme gegenüber unerfahrenen Prüfern offenzulegen”. Dieser Einwand hat Substanz: KI-Sicherheitsaudits verfügen noch über keine ausgereiften Berufsstandards. Die Big Four verstehen Bilanzen. Die Frage, ob ein Modell waffenrelevante Fähigkeiten besitzt, erfordert eine völlig andere Fachkompetenz. Das Gesetz definiert, was geprüft werden soll, aber nicht, was als bestanden gilt.

Bundesstaaten handeln, Washington zögert

Die föderale KI-Regulierung kommt in diesem Jahr kaum voran. Ein Entwurf des Weißen Hauses für eine KI-Executive Order wurde Anfang Mai verzögert, ohne klaren Zeitplan. Illinois hat nun vorgeprescht und schließt sich einem Muster an, das sich in Kalifornien und Colorado bereits abzeichnet.

Kaliforniens SB 1047 wurde 2024 vom Gouverneur abgelehnt, ein Nachfolgegesetz ist jedoch in Arbeit. Das entstehende Bild: US-KI-Regulierung wird wahrscheinlich zuerst auf Bundesstaatsebene greifen und ein Flickenteppich von Compliance-Anforderungen entstehen statt eines einheitlichen Bundesstandards. Für Frontier-KI-Entwickler bedeutet das möglicherweise gleichzeitig Anforderungen aus Illinois, Kalifornien und Colorado.

Zwei Punkte bleiben zu beobachten: Wird die Bundesgesetzgebung aus dem Illinois-Rahmen schöpfen und so einen Bottom-up-Standard formen? Und werden andere große Bundesstaaten folgen? Ein 110-zu-0-Votum ist ein seltener parteiübergreifender Konsens. Ob sich dieser auf Washington überträgt, gehört zu den folgenreichsten KI-Politikfragen des Jahres.

---

Wenn dieser Artikel hilfreich war, abonniere den Newsletter für wöchentliche KI-PM-Einblicke.

---

Quellen:

• Illinois Lawmakers Just Passed America’s Strongest AI Safety Bill — DNYUZ
• Illinois Legislature passes historic AI bill — NBC News
• Illinois lawmakers send landmark AI bill to Gov. Pritzker — Transparency Coalition

Verwandte Artikel:

• Trumps KI-Executive Order verzögert: Das Schwanken in der föderalen KI-Regulierung
• Anthropic prognostiziert 10,9 Mrd. $ Q2-Umsatz und unterzeichnet 45-Mrd.-Deal mit SpaceX