Zum Inhalt
← Zurück zu Einblicke

Gericht bestätigt Anthropic-Ausschluss: Sicherheitsgrenzen müssen berechenbar sein

AI Anthropic AI Safety Product Design Nachrichten

Kurzfassung

Ein US-Berufungsgericht bestätigt mit 2-1 Stimmen den Ausschluss von Claude aus der Verteidigungslieferkette. Das Urteil betrifft Beschaffungsbefugnisse, nicht den Zuverlässigkeitsgewinn durch weniger Schutzvorkehrungen. Gewollte Ablehnung und irrtümliche Blockade bleiben zu unterscheiden.

Gericht bestätigt Anthropic-Ausschluss: Sicherheitsgrenzen müssen berechenbar sein

Anthropic ist mit seiner Anfechtung des Ausschlusses aus der Verteidigungslieferkette gescheitert: Das US-Berufungsgericht für den District of Columbia bestätigte die Regierungsentscheidung mit 2-1 Stimmen. Eine technische Frage bleibt offen: Lassen sich durch das Entfernen von Nutzungsbeschränkungen Unterbrechungen reduzieren, ohne schädliche Ausgaben zu vermehren? Das Gericht prüfte die Befugnisse der Regierung, nicht die Zuverlässigkeit zweier Produktvarianten bei identischen Aufgaben.Urteil Reuters-Bericht

Das Urteil trägt das Datum 2026-09-25, nennt aber keine Veröffentlichungszeit. Diese Reuters-Fassung erschien an diesem Tag um 12:08 EDT, entsprechend 00:08 Uhr am 26. September in Taipeh. Dieser Artikel ist auf den 26. September in Taipeh datiert; Redaktionsschluss war 20:25 Uhr. Er behandelt eine substanzielle Entscheidung des Vortags innerhalb des 48-Stunden-Fensters. Ein Bericht nach Mitternacht verschiebt nicht das Entscheidungsdatum.Urteilsdatum Berichtszeit

Ausgangspunkt war die Weigerung von Anthropic, Claudes Einschränkungen für tödliche autonome Waffen und massenhafte Überwachung im Inland aufzuheben. Die Mehrheit akzeptierte die Einschätzung des Ministeriums, dass eingebaute Beschränkungen und ungeklärte Vertragsfragen militärische Aufgaben beeinträchtigen könnten. Die abweichende Meinung hält die offene, ehrliche Durchsetzung von Nutzungsgrenzen dagegen nicht für das gesetzlich gemeinte Manipulationsrisiko in der Lieferkette.Beide Positionen

Das Urteil unterscheidet zudem zwei Mechanismen. Anthropic bestreitet, auf ein bereits an geheime Systeme ausgeliefertes Modell noch zugreifen oder es verändern zu können. Sicherheitstraining beeinflusst dennoch das Verhalten der ausgelieferten Version; neue Versionen können weitere Einschränkungen enthalten. Das ist etwas anderes als die Fähigkeit eines Anbieters, ein installiertes Modell jederzeit aus der Ferne abzuschalten.Auslieferung und Training

Die Akten enthalten den Fall, dass Claude Anfragen der US-Gesundheitsbehörde CDC zur Forschung über die Eindämmung von Infektionskrankheiten ablehnte. Anthropic erklärte, seine Ingenieure hätten die betreffenden Probleme gemeinsam mit staatlichen Nutzern behoben. Das belegt sowohl mögliche Beeinträchtigungen legitimer Arbeit als auch die Möglichkeit einer Korrektur. Eine allgemeine Quote irrtümlicher Ablehnungen lässt sich daraus nicht ableiten.Fall und Unternehmensantwort

Ablehnungsbedingungen gehören zum Produktversprechen

Ich würde klare Nutzungsgrenzen beibehalten und zugleich von Anbietern verlangen, deren Umsetzung im Modell zu erklären. Liegt eine Aufgabe außerhalb des Leistungsumfangs, ermöglicht eine frühe Ablehnung dem Kunden eine andere Planung. Stoppt hingegen eine akzeptierte Aufgabe mittendrin wegen einer falschen Einstufung, entsteht eine unvorhersehbare Unterbrechung. Beide Situationen können dieselbe Ablehnungsmeldung erzeugen, benötigen aber unterschiedliche Produktreaktionen.

Als hypothetische Fortsetzung des CDC-Beispiels könnte ein Forscher ein autorisiertes Dokument zur Krankheitsprävention einreichen, dessen Aufbereitung das Modell wegen eines falsch erkannten Zwecks abbricht. Eine geeignete Korrektur sollte diese Arbeit wieder ermöglichen und zugleich prüfen, ob zuvor untersagte Verwendungen weiterhin blockiert bleiben. Wer nur weniger Ablehnungen zählt, vermischt die Behebung von Fehlern mit dem Abbau von Schutz. Besonders konsequente Ablehnung allein zeigt wiederum nicht, ob Nutzer berechtigte Aufgaben abschließen können.

Damit entsteht bei Versionswechseln eine zusätzliche Verantwortung. Anbieter sollten neben Leistungssteigerungen auch erklären, ob sich zuvor unterstützte Arbeiten verändern. Können Nutzer mangelnde Fähigkeit, eine Leistungsgrenze und eine irrtümliche Blockade nicht unterscheiden, reduziert ein weiterer Haftungshinweis keine Wiederholungsversuche. Ich bevorzuge nachvollziehbare Ablehnungsgründe, zu denen Nutzer Fehler melden können, und Tests bestätigter Fehlblockaden in späteren Versionen. Das sind Produktvorschläge, keine gerichtlichen Vorgaben oder neu angekündigten Anthropic-Funktionen.

Das Urteil erhält den Ausschluss aus der Verteidigungslieferkette aufrecht. Ein kalifornisches Gericht entschied bei einer parallelen Maßnahme auf anderer gesetzlicher Grundlage anders. Das Ergebnis ist daher kein pauschales Verbot der privaten Nutzung von Claude. Anthropic erwägt weitere gerichtliche Schritte.Geltungsbereich Paralleles Verfahren Die Zugangsbeschränkung erhält durch dieses Urteil Unterstützung. Welche Sicherheitsgestaltung zuverlässiger ist, lässt sich erst beurteilen, wenn sowohl irrtümlich blockierte legitime Aufgaben als auch durchgelassene verbotene Verwendungen erfasst werden.

Das Titelbild übernimmt eine frühere Illustration dieser Website zu Anthropic und dem Pentagon; es zeigt nicht die aktuelle Gerichtsverhandlung. Der Download eines Nachrichtenbildes scheiterte an der Namensauflösung.

Quellen:

Abonnieren Sie die neuesten Erkenntnisse

Abonnieren Sie den Newsletter, um meine neuesten Artikel über AI Agents in Finanzinstituten, GenAI und Architektur zu erhalten.

Kein Spam. Jederzeit kündbar.