British Columbia verklagt OpenAI: ChatGPT markierte Gewaltprompts, niemand rief die Polizei
Kurzfassung
Am 7. Juli gab die Generalstaatsanwältin von British Columbia bekannt, dass die Provinz Anwälte für eine Klage gegen OpenAI beauftragt hat. Das Unternehmen habe das Konto des Täters bereits im Juni intern markiert, die Polizei aber nie informiert. Die fünfmonatige Lücke zwischen Erkennung und Meldung ist die eigentliche Frage in diesem Fall.
Die Generalstaatsanwältin von British Columbia, Niki Sharma, gab am 7. Juli auf einer Pressekonferenz in Vancouver bekannt, dass die Provinz Anwaltskanzleien in British Columbia und Kalifornien beauftragt hat, um eine Klage gegen OpenAI wegen des Amoklaufs in Tumbler Ridge im Februar vorzubereiten. Der Kernvorwurf: OpenAIs eigene Systeme hatten die gewaltverherrlichenden Konversationen des Täters auf ChatGPT markiert und das Konto bereits im Juni 2025 gesperrt, die Information ging aber nie an die Strafverfolgungsbehörden. Interessant ist nicht die vage Frage, ob KI grundsätzlich haftbar gemacht werden sollte. Interessant ist eine konkrete, überprüfbare Frage zum Betriebsablauf: Was passiert zwischen der Entscheidung eines Sicherheitssystems, ein Konto sei gefährlich genug zum Sperren, und einem Anruf bei der Polizei, und warum dauerte es fünf Monate, bis jemand außerhalb des Unternehmens davon erfuhr. Wer selbst Eskalationsstufen für eine Trust-and-Safety-Pipeline gebaut hat, kann gerne schreiben, wo die eigene Schwelle liegt.
Was passiert ist
Am 10. Februar tötete der 18-jährige Jesse Van Rootselaar acht Menschen in Tumbler Ridge. Er begann zu Hause mit seiner Mutter und seinem Bruder, tötete dann fünf Schüler und eine pädagogische Assistenzkraft an der örtlichen Sekundarschule und nahm sich anschließend das Leben. Siebenundzwanzig weitere Personen wurden verletzt. Ermittler stellten danach fest, dass der Täter ChatGPT in den Monaten vor der Tat intensiv genutzt hatte, um Gewaltszenarien zu beschreiben und auszuarbeiten. OpenAIs interne Prüfsysteme hatten das erfasst. Das Konto wurde im Juni 2025 gesperrt. Eine Meldung an die Polizei erfolgte zu diesem Zeitpunkt nicht.
Sharma wählte klare Worte: Die Provinz bereite rechtliche Schritte vor, um OpenAI und die verantwortlichen Entscheidungsträger dafür zur Rechenschaft zu ziehen, dass sie es versäumt hätten, die Strafverfolgungsbehörden über gewalttätige ChatGPT-Prompts des Täters zu informieren. Die Provinz hat Kanzleien in Vancouver und in Kalifornien beauftragt, wo OpenAI seinen Sitz hat, und fordert Schadenersatz, der auch die Kosten für den Wiederaufbau der Schule umfassen soll. Sam Altman reagierte mit einem schriftlichen Entschuldigungsschreiben: Es tue ihm zutiefst leid, dass man nach der Sperrung des Kontos im Juni die Strafverfolgungsbehörden nicht alarmiert habe. OpenAI-Vizepräsidentin Ann O’Leary kündigte an, direkte Kontaktstellen zu kanadischen Strafverfolgungsbehörden einzurichten und die internen Meldeprozesse zu überarbeiten. Die kanadische Bundesregierung hat unabhängig davon 200 Millionen Dollar für den Wiederaufbau der Highschool und des Gesundheitszentrums in Tumbler Ridge zugesagt, und eine gerichtsmedizinische Untersuchung wurde eingeleitet. British Columbia hat dieses Vorgehen schon einmal angewandt, gegen Tabakkonzerne und Opioid-Vertreiber. Zum ersten Mal richtet es sich gegen ein KI-Unternehmen.
Was die Zahlen wirklich bedeuten
Es ist verlockend, die Geschichte auf ein einfaches Narrativ zu reduzieren: ein Unternehmen, das Beweise zurückhielt. Die eigentlich relevante Frage betrifft die Funktionsweise von Moderationssystemen. Ein Konto zu sperren ist interne Plattform-Governance. Eine Meldung an die Polizei erfordert rechtliche Befugnis und Abstimmung zwischen Behörden, und die meisten automatisierten Systeme sind nur für Ersteres gebaut. Bei rund 900 Millionen wöchentlich aktiven ChatGPT-Nutzern würde eine automatische Weiterleitung jeder als gewaltverdächtig markierten Konversation an die Polizei selbst bei einer Falsch-Positiv-Rate von eins zu zehntausend täglich Hunderte unnötiger Meldungen erzeugen, ganz abgesehen davon, dass Rechtsräume keine einheitliche Definition dafür haben, was eine meldepflichtige Bedrohung ausmacht. Der nächstliegende Präzedenzfall ist die Meldepflicht bei Material zum sexuellen Missbrauch von Kindern, die in den meisten Rechtsordnungen klar kodifiziert ist. Für vagere Kategorien wie gewaltverherrlichende Nutzerbeschreibungen existiert keine vergleichbare gesetzliche Meldepflicht. Ob gemeldet wird, liegt weitgehend im Ermessen des Unternehmens.
Genau dieses Ermessen wird die Klage nun auf die Probe stellen. British Columbias Argumentation lautet nicht, dass OpenAI die technischen Mittel zur Meldung fehlten. Sie lautet, dass OpenAI diese Mittel hatte und sie nicht nutzte, und die Frage ist, ob diese Lücke einer Warnpflicht entspricht, jenem Rechtsprinzip, das Fachleute verpflichtet, bei einer glaubwürdigen Gefahr für Dritte zu warnen. Diese Doktrin hat Präzedenzfälle in der Psychotherapie. Ob sie sich auf ein KI-Unternehmen mit einem Moderationssystem übertragen lässt, ist vor nordamerikanischen Gerichten bislang ungetestet, und dieser Fall ist faktisch der erste Versuch, einen solchen Präzedenzfall zu schaffen. Die fünfmonatige Lücke läuft letztlich auf eine Frage hinaus, die außerhalb von OpenAI derzeit niemand beantworten kann: Wie sieht der interne Prozess vom automatisierten Flag über die menschliche Prüfung bis zur Meldeentscheidung tatsächlich aus, und wie lange dauert jeder einzelne Schritt.
Indikatoren, die es zu beobachten lohnt
Erstens, ob OpenAIs neue kanadische Kontaktstelle für Strafverfolgungsbehörden nach Inbetriebnahme konkrete Zahlen veröffentlicht, etwa Reaktionszeiten oder Meldungszahlen. Das ist der direkteste Test dafür, ob aus der Entschuldigung ein Prozess wird. Zweitens, ob die gerichtsmedizinische Untersuchung den internen Zeitablauf offenlegt, wie das Moderationsteam dieses Konto tatsächlich geprüft hat, denn dieser Zeitablauf dürfte darüber entscheiden, ob Sharmas Klage Bestand hat. Drittens, ob sich diese Klage und die Untersuchung von 42 Generalstaatsanwälten gegen OpenAI gegenseitig in ihrer Rechtsargumentation zitieren. Bewegen sich beide in Richtung einer aktiven Warnpflicht für KI-Unternehmen, handelt es sich nicht um einen Einzelfall in einer Provinz. Es zeichnet sich ein neuer regulatorischer Konsens für ganz Nordamerika ab.
Wenn dieser Artikel hilfreich war, abonniere den Newsletter für wöchentliche KI-PM-Einblicke.
Quellen: CBC News, The Globe and Mail, Al Jazeera
Weiterführende Artikel:
Verwandte Artikel
OpenAI unter Druck: 42 US-Staaten ermitteln gegen ChatGPT
Eine Koalition aus 42 US-Bundesstaaten hat OpenAI per Subpoena zu ChatGPTs Schmeichel-Tendenz, Versäumnissen beim Jugendschutz und dem Umgang mit Gesundheitsdaten befragt, nur drei Wochen nach der vertraulichen IPO-Anmeldung. Übersteht der Billionen-Dollar-Börsengang diese Untersuchung?
OpenAI meldet 1 Milliarde aktive Nutzer und mehr als 2 Millionen Geschäftskunden
OpenAI-Finanzchefin Sarah Friar nennt mehr als 1 Milliarde aktive Nutzer und über 2 Millionen Unternehmen; starke Modellpreissenkungen sollen die Nutzung ausweiten, doch Zahlungsquote und Kosten bleiben offen.