KI-Sicherheitsindex Sommer 2026: Anthropic führt das Feld an, mit nur einem C+

Das Future of Life Institute hat gestern seinen KI-Sicherheitsindex für den Sommer 2026 veröffentlicht. Unter neun großen KI-Unternehmen erzielte Anthropic mit einem C+ die beste Note. Die eigentlich spannende Frage ist nicht, wer auf Platz eins liegt. Ein erheblicher Teil der Bewertung stützt sich auf einen Fragebogen, den die Firmen selbst ausgefüllt haben. Wer im Audit- oder Compliance-Bereich arbeitet, dem stelle ich gerne die Frage: Wie stark würdest du solche Selbstauskünfte abwerten?

Was passiert ist: Neun Zeugnisse

Sieben unabhängige Gutachter bewerteten den Index anhand von 37 Indikatoren in sechs Bereichen: Risikobewertung, aktuelle Schäden, Sicherheitsrahmen, existenzielle Sicherheit, Governance und Rechenschaftspflicht sowie Informationsaustausch. Die Datenbasis reicht bis zum 3. Juni und stammt aus öffentlichen Modellkarten, Forschungsarbeiten, Benchmark-Ergebnissen und einer eigens versendeten Umfrage an jedes Unternehmen.

Die Streuung ist groß. Anthropic kam auf 2,66 Punkte, umgerechnet ein C+, die höchste Note im Feld. OpenAI liegt bei 2,28 und Google DeepMind bei 2,01, beide im Bereich C. Danach fällt die Kurve steil ab: Meta erreicht 1,32 Punkte, ein D+. xAI kommt auf 0,65, DeepSeek auf 0,47 und Mistral auf 0,33, alle drei fallen glatt durch. Stuart Russell, Professor an der UC Berkeley, formulierte es im Bericht unverblümt: „Es wird durchaus gute Sicherheitsarbeit in der Branche geleistet, aber das Wettrüsten um Fähigkeiten hat sich weiter zugespitzt.”

Bemerkenswerter als die Punktzahlen selbst ist ein Muster, das die Gutachter direkt benannt haben. Anthropic, OpenAI, Google DeepMind und Meta hatten zuvor zugesagt, die Entwicklung zu pausieren, sobald ihre Systeme bestimmte Gefahrenschwellen erreichen. Der Bericht beschreibt das Verhalten dieser vier Firmen in den vergangenen sechs Monaten als „sich verschiebende Torpfosten”, eine Formulierung, mit der die Gutachter meinen, dass die Sicherheitsrahmen der gesamten Branche dadurch untergraben wurden. Es geht hier nicht darum, ob überhaupt Sicherheitsforschung stattfindet. Es geht darum, dass die roten Linien, auf die sich diese Firmen vorher geeinigt hatten, jetzt neu gezogen werden.

Was die Zahlen wirklich bedeuten

Zuerst zur Skala selbst. Das ist keine absolute Messung, sondern eine relative Rangfolge, abgeglichen zwischen sieben Gutachtern, ähnlich wie bei Empfehlungsschreiben für ein Studium: Das Wort „exzellent” wiegt je nach Verfasser unterschiedlich schwer. Wichtiger noch, ein beträchtlicher Teil der 37 Indikatoren stützt sich auf Umfrageantworten der Unternehmen selbst statt auf externe Prüfungen, ohne begleitende Prüfspur. Die Note spiegelt also teilweise wider, wer die besseren Compliance-Dokumente schreibt, nicht zwingend, wessen System tatsächlich sicherer ist.

Selbst wenn man diesen Abschlag einrechnet, bleibt die Tatsache bestehen, dass Anthropics C+ die beste Note im gesamten Feld ist. Genau das ist die eigentliche Schlagzeile. Legt man die übliche US-amerikanische 4,0-GPA-Skala an, liegt ein C+ bei ungefähr 2,3 Punkten, knapp über der Bestehensgrenze, weit entfernt von einer Auszeichnung. Das Unternehmen, das in der Branche als das sicherheitsbewussteste gilt, bekommt am Ende ein Zeugnis, das „gerade so bestanden” liest. Was sagt das über die anderen acht?

Eine Fermi-Schätzung zur Größenordnung: 37 Indikatoren mal 7 Gutachter ergeben rund 259 einzelne Bewertungspunkte pro Unternehmen, insgesamt knapp 2.300 Datenpunkte über neun Firmen hinweg, komprimiert in einen einzigen öffentlichen Bericht. Das ist ein beachtliches Arbeitsvolumen, bedeutet aber auch, dass der Fehler eines einzelnen Indikators im Gesamtdurchschnitt verwässert wird. Das C+ oder F, das man am Ende liest, verbirgt eine ziemlich grobe Körnung darunter.

Und dann die Formulierung von den „sich verschiebenden Torpfosten” selbst. Sicherheits-Pausenzusagen waren von Anfang an rechtlich nicht bindend. Keine externe Partei kann sie durchsetzen, und kein unabhängiges Auditteam hat einen dauerhaften Zugang, um die Einhaltung zu prüfen. Diese Firmen als Wortbrüchige zu bezeichnen, trifft daher nur einen Teil der Wahrheit. Diese Zusagen waren von Beginn an weiche PR-Sprache ohne Durchsetzungsmechanismus. Die eigentliche Frage ist nicht, warum diese Firmen ihre Zusagen aufgegeben haben. Sie lautet, ob ein Pausenmechanismus, der komplett auf Selbstdisziplin beruht, jemals einen Veröffentlichungsrhythmus überstehen konnte, in dem GPT-5.6, Claude Sonnet 5 und Gemini 3.5 innerhalb weniger Wochen nacheinander erscheinen. Die Lücke zwischen diesem Tempo und der Zeit, die ein ordentlicher Sicherheits-Red-Team-Zyklus tatsächlich braucht, ist strukturell bedingt, nicht das Ergebnis einer einzelnen Firma, die absichtlich abkürzt.

Indikatoren, die sich zu beobachten lohnen

Erstens: die Durchführungsbestimmungen zum EU AI Act. Wird dieser Bericht als Gesetzgebungsargument dafür herangezogen, dass freiwillige Zusagen nicht tragen, dürften Regulierer in den kommenden Monaten verstärkt auf verpflichtende Prüfklauseln durch Dritte drängen, statt weiterhin firmeneigene Umfragen zu akzeptieren.

Zweitens: ob der Anteil der Selbstauskünfte im nächsten Index sinkt. Nimmt das Future of Life Institute die Kritik an der Selbstauskunft ernst, sollte die Methodik der Winterausgabe stärker auf extern überprüfbare Quellen setzen und weniger Gewicht auf firmeneigene Umfragen legen. Dieses Verhältnis sagt mehr darüber aus, ob sich der Bericht weiterentwickelt, als die Buchstabennoten allein.

Drittens: ob die drei durchgefallenen Firmen, xAI, DeepSeek und Mistral, in den nächsten sechs Monaten irgendwelche Aktualisierungen ihrer Sicherheitsrahmen veröffentlichen. Bleiben die Noten unverändert bei null Reaktion, bedeutet das, dass diese drei Firmen diesen Index schlicht nicht als etwas betrachten, dem sie Rechenschaft schuldig sind. Der viel zitierte „Branchendruck” würde dann nur für die Spitzenreiter gelten, nicht für den Rest des Feldes.

Auf keine dieser drei Fragen habe ich bereits eine Antwort, ich werde sie in den kommenden Monaten weiterverfolgen. Wer Erfahrung mit externen Audits oder Red-Team-Arbeit hat und eine Einschätzung dazu, ob die Körnung dieses Index fein genug ist, um aussagekräftig zu sein, dem höre ich gerne zu.

Wenn dieser Artikel hilfreich war, abonniere den Newsletter für wöchentliche KI-PM-Einblicke.

Weiterführende Artikel: UN eröffnet ersten globalen KI-Governance-Dialog, Anthropics Claude Sonnet 5 wird Standardmodell

Quellen:

• Future of Life Institute: AI Safety Index Summer 2026
• Axios: AI companies retreat from safety pledges