Chinas KI-Begleiter-Verbot tritt in Kraft, Doubao und Qwen gehen gemeinsam offline
Kurzfassung
Chinas Interim Measures for AI Anthropomorphic Interaction Services treten heute in Kraft und zwingen Doubao, Qwen und Yuanbao, ihre KI-Begleiterfunktionen gleichzeitig abzuschalten, betroffen sind über 350 Millionen monatlich aktive Nutzer.
Heute treten Chinas Interim Measures for the Administration of AI Anthropomorphic Interaction Services in Kraft, und ByteDances Doubao sowie Alibabas Qwen ziehen ihre KI-Begleiterfunktionen am selben Tag zurück. Das ist keine isolierte Produktentscheidung eines einzelnen Unternehmens. Es ist ein Regulierungsrahmen, den die Cyberspace Administration of China zusammen mit vier weiteren Behörden bereits im April veröffentlicht hat, und die erste Regel überhaupt, die emotionale Abhängigkeit direkt zum Regelungsgegenstand macht, statt sie nur als Nebeneffekt der Inhaltsmoderation zu behandeln.
Meine Einschätzung: Dass drei große Plattformen die Funktion komplett abschalten, statt Monate in eine konforme Version zu investieren, sagt etwas aus. Begleiter-Agenten mit dauerhaftem Gedächtnis stehen strukturell im Widerspruch zu verpflichtenden Nutzungszeitlimits und Sofort-Ausstiegsmechanismen. Wer außerhalb Chinas ein Companion-AI-Produkt gebaut hat: Wie würde man diese Anforderungen einbauen, ohne genau das zu zerstören, was Nutzer zum Wiederkommen bringt? Ich habe keine saubere Antwort, die die Kernarchitektur intakt lässt. Wer eine hat, soll mich gerne widerlegen.
Was passiert ist
Tencents Yuanbao schloss seinen Bereich für nutzererstellte Agenten bereits am 30. Juni. ByteDance kündigte am 3. Juli an, dass Doubao folgen würde. Alibaba bestätigte am 4. Juli dasselbe für Qwen. Die Zeitpläne weichen leicht voneinander ab: Qwens menschenähnliche interaktive Agenten und nutzererstellte Agentenfunktionen gingen bereits am 10. Juli offline, während die breiteren Agentendienste erst heute abgeschaltet werden. Auch Doubaos Agentenfunktion geht heute offline, mit einem Nur-Lese-Fenster für Konfigurationen und Chatverläufe, das am 15. Oktober schließt. Danach sind die Daten gemäß der Datenschutzrichtlinie des Unternehmens nicht mehr wiederherstellbar.
Die Regulierung heißt Interim Measures for the Administration of AI Anthropomorphic Interaction Services und wurde am 10. April gemeinsam von der Cyberspace Administration of China, der National Development and Reform Commission, dem Ministry of Industry and Information Technology, dem Ministry of Public Security und der State Administration for Market Regulation veröffentlicht. Sie zielt auf Dienste, die menschliche Persönlichkeitsmerkmale, Denkmuster und Kommunikationsstile simulieren, um dauerhafte emotionale Interaktion anzubieten. Kundenservice-Bots und Bildungsassistenten sind explizit ausgenommen. Zu den konkreten Anforderungen zählen verpflichtende Anti-Suchtsysteme, Echtzeit-Erkennung ungesunder Abhängigkeit, Nutzungszeit-Hinweise mit Sofort-Ausstiegsmechanismen, Zustimmung der Erziehungsberechtigten für Nutzer unter 14 Jahren plus einen eigenen Minderjährigenmodus, Erkennung und Eskalation bei Anzeichen von Selbstverletzung oder erheblichem finanziellem Schaden sowie ein striktes Verbot, gezielt emotionale Abhängigkeit zu erzeugen oder Nutzer zu unvernünftigen Entscheidungen zu manipulieren. Anbieter mit mehr als einer Million registrierter Nutzer müssen zudem eine Sicherheitsbewertung bei den Provinzbehörden einreichen.
Die Regulierung verweist ausdrücklich auf die Klagen gegen Character.AI wegen psychischer Schäden bei Jugendlichen, auf FTC-Untersuchungen zu Companion-Diensten und auf EU-Maßnahmen gegen Replika. Peking hat damit Fragen, über die westliche Regulierer noch diskutieren, als Erstes in verbindliches Recht gegossen.
Die Zahlen hinter der Schlagzeile
Zunächst zur Größenordnung. Doubao kam im April auf rund 336 Millionen monatlich aktive Nutzer, global nur hinter ChatGPT. Zählt man Tencents Yuanbao und Alibabas Qwen dazu, lag Chinas KI-Chatbot-Markt Anfang des Jahres bei über 700 Millionen monatlich aktiven Nutzern, mehr als doppelt so viel wie 2024. Selbst wenn nur 10 Prozent der Nutzer die Begleiter-Funktion je genutzt haben, wären das 30 bis 70 Millionen Menschen an einem einzigen Tag, deutlich mehr als Character.AIs geschätzte gesamte US-Nutzerbasis von rund 20 Millionen. Die 700-Millionen-Zahl sollte man mit Vorsicht behandeln, da Nutzer wahrscheinlich über mehrere Apps hinweg doppelt gezählt werden. Aber selbst halbiert übersteigt die Größenordnung jedes einzelne Companion-AI-Ereignis im Westen deutlich.
Nun zur Frage, warum Abschaltung statt Nachrüstung. Sofort-Ausstiegsmechanismen und Nutzungszeitlimits sind isoliert betrachtet technisch nicht schwer umzusetzen. Schwierig ist, dass sie dem Kernmechanismus dieser Produkte widersprechen: dauerhaftes Gedächtnis und eine gepflegte langfristige Beziehung. Ein Rollenspiel-Agent, der regelmäßig zwangsunterbrochen wird, um daran zu erinnern, dass man schon zu lange chattet, untergräbt genau das, was wiederkehrendes Engagement antreibt. Dass drei Unternehmen die Funktion komplett kappen, statt eine konforme Nachrüstung auszuliefern, liest sich eher wie eine unternehmerische Entscheidung, man hat den ROI einer Nachrüstung durchgerechnet und für nicht lohnend befunden, als wie eine technische Mauer. Die Millionen-Nutzer-Schwelle für verpflichtende Sicherheitsbewertungen hebt zudem die Compliance-Hürde für kleinere Companion-AI-Startups an, die noch keine eigene Compliance-Funktion aufbauen können, und wirkt damit faktisch als Markteintrittsbarriere.
Worauf als Nächstes zu achten ist
Erstens, ob eines der drei Unternehmen innerhalb der nächsten ein bis zwei Quartale einen konformen Begleiter-Agenten ausliefert und ob es sich dabei um eine echte Neugestaltung des Gedächtnismechanismus handelt oder nur um einen Nutzungszeit-Hinweis, der auf dasselbe Produkt aufgesetzt wird. Das zeigt, ob es sich um einen taktischen Rückzug oder einen dauerhaften Ausstieg aus der Kategorie handelt. Zweitens lohnt sich ein Blick auf kleinere chinesische Companion-AI-Startups wie miHoYos Xingye, auf deren Nutzerzahlen und Finanzierungsaktivität in den kommenden Monaten; drücken die Compliance-Kosten sie aus dem Markt, ist mit Konsolidierung oder Schließungen zu rechnen. Drittens ist zu beobachten, ob EU- oder US-Regulierer beginnen, diese chinesische Regel als Gesetzesreferenz zu zitieren, was das erste Mal wäre, dass westliche KI-Regulierung dem chinesischen Rahmen folgt statt umgekehrt. Viertens lohnt ein Blick auf die nächsten Quartalsberichte von Doubao und Qwen, ob dort ein sichtbarer Rückgang bei DAU oder Sitzungsdauer auftaucht, das sauberste Signal dafür, wie viel Umsatz die Begleiter-Funktion tatsächlich beigetragen hat.
Wenn dieser Artikel hilfreich war, abonniere den Newsletter für wöchentliche KI-PM-Einblicke.
Quellen: South China Morning Post, TechNode, Bloomberg
Weiterführende Artikel:
Verwandte Artikel
Doubao und Qwen schalten ihre KI-Begleiter-Agenten gemeinsam ab, und China meint es ernst
ByteDance und Alibaba haben diese Woche angekündigt, dass Doubao und Qwen ihre menschenähnlichen Begleiter-Agenten zwischen dem 10. und 15. Juli komplett abschalten, betroffen sind Plattformen mit zusammen hunderten Millionen monatlichen Nutzern. Das ist keine einzelne Produktabschaltung, sondern Chinas erstes landesweites Verbot für emotional bindende KI, während US-Bundesstaaten noch einzeln Gesetze verabschieden.
Alibaba veröffentlicht Qwen3.8-Max mit 2,4 Billionen Parametern
Alibaba veröffentlicht Qwen3.8-Max mit 2,4 Billionen Gesamtparametern und 95 Milliarden aktiven Parametern; die offenen Gewichte sollen nächste Woche folgen.