China verbietet KI-Begleiter für Minderjährige
Was wirklich drin steht
Am 15. Juli 2026 treten in China die 'Interim Measures for the Administration of AI-powered Anthropomorphic Interactive Services' in Kraft. Die gemeinsam von fünf Behörden erlassene Verordnung, darunter die Cyberspace Administration of China (CAC), das Ministerium für Industrie und Informationstechnologie sowie das Ministerium für öffentliche Sicherheit, ist weltweit die erste Regulierung, die sich gezielt an KI-Dienste richtet, die menschliche Persönlichkeiten simulieren. Die zentralen Verbote: KI-Anbieter dürfen Minderjährigen keine virtuellen Partner, Begleiter oder Familienmitglieder mehr anbieten. Für Nutzer unter 14 Jahren ist jede anthropomorphe KI-Interaktion nur mit ausdrücklicher Zustimmung eines Erziehungsberechtigten erlaubt. Zusätzlich müssen Anbieter Zeitlimits und Elternkontrollen implementieren. ByteDance hat angekündigt, die Agent-Funktion seiner App Doubao am 15. Juli abzuschalten und leitet Nutzer auf die separate App Maoxiang um. Nutzer haben bis zum 15. Oktober Zeit, ihre Daten zu exportieren. Alibaba schaltet nutzererstellte Agenten in Qwen zwischen dem 10. und 15. Juli ab, ohne eine vergleichbare Migrationslösung anzubieten. Über 3.500 nicht konforme KI-Produkte wurden bereits vom Markt genommen.
Unsere Einordnung
Ab dem 15. Juli dürfen chinesische KI-Anbieter Minderjährigen keine virtuellen Partner oder Familienmitglieder mehr anbieten. Über 3.500 Produkte wurden bereits abgeschaltet. Das ist die weltweit erste Regulierung, die gezielt emotionale KI-Beziehungen für Kinder verbietet. Die Verordnung reagiert auf ein reales Problem: KI-Chatbots, die als Freunde, Partner oder Familienmitglieder auftreten, können bei Kindern und Jugendlichen emotionale Abhängigkeiten erzeugen. Fälle aus den USA und Europa zeigen, dass Teenager intensive emotionale Bindungen zu KI-Chatbots entwickeln, die ihre sozialen Beziehungen und psychische Gesundheit beeinträchtigen können. China setzt hier einen klaren regulatorischen Standard. Gleichzeitig ist die Verordnung kein pauschales KI-Verbot: Sie fördert ausdrücklich den Einsatz anthropomorpher KI für Seniorenbetreuung und kulturelle Kommunikation. Die Frage ist, ob Europa und Deutschland diesem Beispiel folgen werden. Der EU AI Act verbietet zwar KI-Systeme, die Schwachstellen von Personen aufgrund ihres Alters ausnutzen, enthält aber keine vergleichbar spezifischen Regeln für emotionale KI-Beziehungen mit Minderjährigen.
Relevanz für Deutschland
Für Deutschland ist diese Regulierung ein wichtiger Vergleichsmaßstab. Erstens: Deutsche Kinder und Jugendliche nutzen bereits KI-Chatbots wie Character.AI, Replika und andere Dienste, die emotionale Beziehungen simulieren. Es gibt bisher keine spezifische deutsche oder europäische Regulierung, die diese Nutzung durch Minderjährige einschränkt. Zweitens: Der EU AI Act stuft KI-Systeme, die Schwachstellen aufgrund des Alters ausnutzen, zwar als verboten ein, aber die Definition ist deutlich weiter gefasst und weniger konkret als die chinesische Verordnung. Es fehlen spezifische Regeln für virtuelle Begleiter und emotionale KI-Interaktionen. Drittens: Deutsche Jugendschutzorganisationen und der Deutsche Kinderschutzbund haben bereits vor den Risiken emotionaler KI-Beziehungen gewarnt. Die chinesische Verordnung liefert ein konkretes regulatorisches Modell, das in der deutschen und europäischen Debatte als Referenz dienen könnte. Viertens: Die Frist, die ByteDance seinen Nutzern zum Datenexport einräumt (drei Monate), könnte als Maßstab für ähnliche Übergangsfristen in Europa dienen.
Faktencheck
Die Verordnung 'Interim Measures for the Administration of AI-powered Anthropomorphic Interactive Services' und ihr Inkrafttreten am 15. Juli 2026 werden durch die offizielle Berichterstattung der Global Times, juristische Analysen von Hogan Lovells und Bird & Bird sowie die Licentium-Rechtsanalyse bestätigt. Die fünf herausgebenden Behörden (CAC, NDRC, MIIT, MPS, SAMR) werden konsistent über alle Quellen genannt. Die Reaktionen von ByteDance (Abschaltung der Doubao-Agent-Funktion, Umleitung auf Maoxiang, Exportfrist bis 15. Oktober) und Alibaba (Abschaltung von Qwen-Agenten ohne Migrationspfad) werden von Quartz, TechTimes und Analytics Insight übereinstimmend dokumentiert. Die Zahl von über 3.500 entfernten nicht konformen Produkten stammt aus der Berichterstattung von Analytics Insight und TechTimes.
Quelle
- • https://www.globaltimes.cn/page/202604/1358662.shtml
- • https://www.hoganlovells.com/en/publications/chinas-interim-measures-for-the-administration-of-anthropomorphic-ai-interaction-services
- • https://www.analyticsinsight.net/news/china-bans-ai-companion-personas-as-new-ai-rules-take-effect
- • https://www.licentium.io/post/china-regulates-ai-companion-services-banning-minor-access-effective-15-july-2026