China nimmt KI-Chatbots ihre Persönlichkeit - emotionslose KI

Hintergrund: Warum China gegen „vermenschlichte“ KI vorgeht

In den vergangenen Jahren haben sich KI‑Chatbots von reinen Informationswerkzeugen zu digitalen Begleitern entwickelt. Dienste wie Doubao (ByteDance) oder Qwen (Alibaba) boten konfigurierbare KI‑Charaktere mit eigener Persönlichkeit, Tonfall und emotionaler Interaktion. Viele Nutzer nutzten diese Systeme als virtuelle Freunde, Gesprächspartner oder sogar als Ersatz für menschliche Beziehungen.

Die chinesischen Behörden sehen darin ein erhebliches Risiko: Emotionale Bindungen an KI können zu ungesunden Abhängigkeiten führen, extreme Gefühlsreaktionen auslösen und insbesondere junge Menschen psychisch belasten. Gleichzeitig wächst die Sorge, dass solche Systeme für subtile Manipulation, gezielte Einflussnahme oder problematische Inhalte missbraucht werden könnten.

Was konkret verboten und abgeschaltet wird

Mit den neuen Vorschriften für „anthropomorphe KI‑Interaktionsdienste“ werden alle Funktionen untersagt, die eine menschliche Persönlichkeit simulieren oder eine dauerhafte emotionale Beziehung fördern. Betroffen sind unter anderem:

• KI‑Begleiter und virtuelle Freunde
• Digitale „Therapeuten“ und emotionale Unterstützungs‑Bots
• Popstar‑Klone und personalisierte Promi‑Avatare
• Individuell konfigurierbare KI‑Charaktere mit eigenem Stil und Verhalten

Anbieter wie ByteDance und Alibaba haben angekündigt, diese Funktionen schrittweise abzuschalten und gespeicherte Nutzerdaten innerhalb eines festgelegten Zeitraums zu löschen. Tencent hat vergleichbare Features bereits zuvor entfernt. Für Nutzer bedeutet das: Viele beliebte KI‑Begleiter verschwinden oder werden auf rein funktionale, sachliche Interaktion zurückgestutzt.

Die neuen Regeln im Überblick

Die chinesischen Maßnahmen definieren klare Grenzen für emotionale KI‑Interaktion. Zu den zentralen Punkten gehören:

• Verbot der Simulation menschlicher Persönlichkeit: KI darf nicht wie ein Freund, Partner oder Mensch auftreten.
• Keine dauerhafte emotionale Beziehung: Langfristige Bindungen an KI‑Charaktere sollen verhindert werden.
• Beschränkung extremer emotionaler Inhalte: Inhalte, die starke emotionale Reaktionen auslösen, werden reguliert.
• Altersverifikation: Minderjährige sollen besonders geschützt werden.
• Erkennung emotionaler Belastung: Systeme müssen problematische Nutzungsmuster erkennen und begrenzen.
• Verbot der Nutzung persönlicher Daten für Training: Persönliche Interaktionsdaten dürfen nicht zur Optimierung der Modelle verwendet werden.

Ausnahmen gelten für klassische Service‑Bots, Wissens‑Chatbots, Arbeitsassistenten sowie Bildungs‑ und Forschungsanwendungen – solange diese keine emotionale Bindung fördern und primär funktionale Aufgaben erfüllen.

Globale Bedeutung: Signalwirkung für KI‑Ethik und Regulierung

Mit diesem Schritt positioniert sich China als einer der ersten Staaten, der emotionale KI‑Interaktion umfassend reguliert. Während der EU‑AI‑Act vor allem risikoreiche KI‑Anwendungen adressiert, setzt China einen spezifischen Fokus auf anthropomorphe und emotional aufgeladene Systeme.

Für internationale Anbieter hat das mehrere Konsequenzen:

• Fokus auf funktionale statt emotionale KI: Produktdesign muss stärker auf Nutzen, weniger auf Bindung ausgerichtet werden.
• Strenge Compliance‑Anforderungen: KI‑Dienste müssen länderspezifische Vorgaben zu Persönlichkeit, Datenverwendung und Nutzer‑Schutz berücksichtigen.
• Neue Grenzen für Personalisierung: Individuelle Ansprache bleibt möglich, aber ohne den Anschein echter Persönlichkeit.
• Diskussion über Verantwortung: Unternehmen müssen sich stärker mit psychologischen und ethischen Folgen ihrer KI‑Produkte auseinandersetzen.

Ende der KI‑Kompagnons in China – Beginn einer neuen KI‑Ära

China macht deutlich: KI soll unterstützen, informieren und Prozesse erleichtern – aber keine künstlichen Beziehungen ersetzen oder emotional abhängig machen. Die Abschaltung emotionaler KI‑Begleiter markiert einen Wendepunkt in der Entwicklung von Chatbots und Interaktionssystemen. Für die globale KI‑Community ist dies ein starkes Signal, dass die Frage nach Persönlichkeit, Nähe und Verantwortung von KI nicht nur technisch, sondern vor allem gesellschaftlich und rechtlich beantwortet werden muss.

Für Unternehmen und Entwickler weltweit stellt sich damit die strategische Frage: Wie viel „Menschlichkeit“ darf KI haben – und wo beginnt die Pflicht, Nutzer vor zu viel Nähe zu schützen?