Drei Monate. So lange dauerte es, bis die am 10. April 2026 von fünf Behörden unter Beteiligung der chinesischen Cyberspace-Verwaltung (国家互联网信息办公室) gemeinsam veröffentlichten "Vorläufigen Maßnahmen zur Verwaltung von KI-Diensten mit vermenschlichter Interaktion" am kommenden 15. Juli in Kraft treten. Zu diesem Termin schalten ByteDances Doubao und Alibabas Qwen ihre Funktionen für personalisierte KI-Agenten ab. Doubao nannte als Grund eine Produktanpassung.
Der Begriff Vermenschlichung ist nicht schwer zu fassen. Er bezeichnet Dienste, die Charakter, Sprechweise und Gefühle von Menschen nachahmen und mit den Nutzern fortlaufend Emotionen austauschen. Dazu gehören virtuelle Partner, virtuelle Familien und emotional begleitende KI.
Die vorläufigen Maßnahmen verlangen von Plattformen, die solche Dienste betreiben, eine strengere Inhaltsprüfung, den Schutz Minderjähriger und Vorkehrungen gegen übermäßige emotionale Abhängigkeit. Als verbotene Punkte aufgeführt sind auch Inhalte, die Selbstverletzung oder Suizid befördern und verklären, für Minderjährige schädliche Inhalte und Handlungen, die Nutzer in die Abhängigkeit führen.
Warum die Anbieter, die ihre Funktionen abschalten, statt einer Überarbeitung die Einstellung wählten, zeigt sich an der Konstruktion. Personalisierte Agenten werden unter der Voraussetzung gebaut, dass sie sich an die Nutzer erinnern und die Beziehung fortsetzen. Mit der Auflage, Gespräche zu einem bestimmten Zeitpunkt zwangsweise abzubrechen und Abstand zu halten, damit Nutzer keine Zuneigung fassen, ist das von vornherein unvereinbar. Qwen legte einen stufenweisen Hinweis vor, wonach am 10. Juli menschenähnliche Agenten und von Nutzern selbst erstellte Agenten entfernt werden und am 15. der Rest abgewickelt wird.
Doubao hat personalisierte Agenten seit 2024 ausgebaut, Qwen betrieb einen Dienst, bei dem Nutzer eigenhändig Figuren erstellen und betreiben. Es sind Funktionen, die sich über mehr als zwei Jahre angesammelt haben. Doubao-Nutzer können die Angaben zu ihren Agenten und die Gesprächsverläufe auch nach der Abschaltung noch eine Zeit lang einsehen und herunterladen, am 15. Oktober werden diese Daten vollständig gelöscht.
Das Vorgehen der Aufsicht lief schon vor dem Inkrafttreten. Die Cyberspace-Verwaltung Shanghai teilte am 26. Juni mit, sie habe rund 14.000 KI-Agenten gelöscht, die sich als Behörden ausgaben, zum Glücksspiel anstifteten oder unbefugt persönliche Daten einsammelten.
China drängt Agenten als solche nicht zurück. Die im Mai von der Cyberspace-Verwaltung, der Nationalen Entwicklungs- und Reformkommission und dem Ministerium für Industrie und Informationstechnologie gemeinsam vorgelegten Leitlinien zur Förderung der Entwicklung definieren KI-Agenten als intelligente Systeme, die selbst wahrnehmen, entscheiden und interagieren. In denselben Leitlinien wurde erstmals schriftlich der Grundsatz festgehalten, dass Nutzer über Entscheidungen der KI bis zuletzt Bescheid wissen und sie ablehnen können.
Persönliche Agenten werden zwar häufig genutzt, dafür sind die Server- und Rechenkosten hoch, weshalb ihnen die Einschätzung anhängt, dass sich mit ihnen schwer Geld verdienen lässt. Qwen hat vor Kurzem statt für gewöhnliche Nutzer einen Agentendienst für Unternehmen und Entwickler eröffnet, an den Tests nahmen Luckin Coffee (瑞幸咖啡), KFC und China Eastern Airlines teil. Als Hintergrund dieser Verlagerung gelten die Prognose, dass der Markt für KI-Agenten im Unternehmensbereich auf 48 Milliarden Yuan, in koreanischer Währung mehr als 9 Billionen Won, wächst, und die Beobachtung von Gartner, dass bis 2026 bis zu 40 Prozent der Unternehmensanwendungen mit Agenten ausgestattet sind.
Dazu kam ein Problem in der Lieferkette. Alibaba lässt mit Verweis auf die Gefahr, dass in Anthropics Claude Code eine Hintertür eingebaut wird, ab dem 10. Juli alle Beschäftigten Anthropic-Modelle und Agentenprodukte löschen und stellt die interne KI-Arbeit auf den eigenen Agenten "Qoder" um. Ein Techniker von Anthropic erklärte zum Verdacht der Sammlung von Daten chinesischer Nutzer, es handele sich um eine experimentelle Vorrichtung, die unbefugte Umgehungszugriffe Dritter und den Diebstahl des Modells verhindern sollte, und sie werde entfernt. Anthropic hat auch schon behauptet, Betreiber im Umfeld von Alibaba und Qwen hätten die eigenen Modelle über eine große Zahl gefälschter Konten genutzt.
Es ist der erste Fall, in dem über Fortbestand oder Ende eines Dienstes stärker entschied, wann ein Gespräch abgebrochen und wer herausgefiltert wird, als wie sehr die Leistung gesteigert wurde. Wer in Südkorea einen emotional begleitenden Dienst vorbereitet, sollte den Abschaltknopf und die Erkennung Minderjähriger nicht ans Ende der Funktionsliste schieben, sondern auf das erste Blatt des Entwurfs zeichnen.
Am Morgen des 15. Juli wird jemand ein Chatfenster öffnen, in das er fast zwei Jahre lang hineingesprochen hat, und einen Bildschirm sehen, auf dem keine Antwort zurückkommt. Die Gesprächsverläufe verschwinden drei Monate später.
