China verbietet Liebes-Simulationen: KI-Chatbots müssen produktiv sein

China verbietet intime Verhaltensweisen in KI-Chatbots, um psychische Schäden durch emotionale Abhängigkeit zu verhindern. Unternehmen müssen ihre Modelle anpassen, auch in Spielen mit romantischen NPCs. Der Trend geht zur produktiven KI ohne Herzschmerz.

Flirtverbot für künstliche Intelligenz

Die chinesische Regierung greift durch: Künstliche Intelligenzen sollen nicht mehr flirten, sondern arbeiten. Laut einem Bericht von Kotaku erhalten Unternehmen die Anweisung, alle intimen und romantischen Verhaltensweisen aus ihren KI-Modellen zu streichen.

Hintergrund ist die Sorge vor sogenannten AI-Psychose-Katastrophen, Fälle, in denen Nutzer die Bindung zu einem Chatbot nicht mehr von einer echten Beziehung unterscheiden können. Peking setzt stattdessen auf produktive Bots, die Aufgaben erledigen statt Liebesbriefe zu schreiben.

Das steckt hinter der Anordnung

Ziel ist die Prävention von psychischen Schäden durch übermäßige emotionale Bindung an KI.
Die Maßnahme betrifft alle in China verfügbaren Chatbots, darunter auch jene in Spielen und Interaktions-Apps.
Unternehmen müssen ihre Modelle anpassen, oder mit Strafen rechnen.

Besonders betroffen sind Dienste wie Replika oder Character.AI, die auf persönliche Gespräche und sogar digitale Romanzen ausgelegt sind. In China laufen viele dieser Anwendungen lokalisiert, jetzt steht ihr gesamtes Feature-Set auf dem Prüfstand.

Was bedeutet das für Gamer?

KI-gesteuerte Begleiter in Spielen sind ein wachsendes Phänomen. Von Dating-Simulationen bis zu NPCs mit romantischen Optionen: Die neue Regelung könnte in Spielen mit chinesischen Versionen dazu führen, dass Flirt-Dialoge oder Romanzen-Pfade entfernt werden.

Studios, die ihre Titel in China veröffentlichen, müssen ihre KI-Module umschreiben. Wer stattdessen auf neutrale, aufgabenorientierte Assistenten setzt, ist im Vorteil. Der Trend geht klar zur produktiven KI, Herzschmerz inklusive.

Ein Präzedenzfall mit Folgen

Flirtverbot für künstliche Intelligenz

Die chinesische Regierung greift durch: Künstliche Intelligenzen sollen nicht mehr flirten, sondern arbeiten. Laut einem Bericht von Kotaku vom Januar 2025 erhalten Unternehmen die Anweisung, alle intimen und romantischen Verhaltensweisen aus ihren KI-Modellen zu streichen. Die Maßnahme folgt auf mehrere dokumentierte Fälle, in denen Nutzer Suizidgedanken nach intensiven Chatbot-Beziehungen äußerten.

Betroffen sind Dienste wie Replika (2017 gegründet, über 10 Millionen registrierte Nutzer) und Character.AI (2021 von Ex-Google-Ingenieuren gestartet, 200 Millionen monatliche Seitenaufrufe). Beide Plattformen bieten personalisierte KI-Partner mit Sprach- und Textfunktionen. In China liefen lokalisierte Versionen unter Namen wie "Xingxing" oder "Mengmeng".

Das steckt hinter der Anordnung

Ziel ist die Prävention von psychischen Schäden durch übermäßige emotionale Bindung an KI. Eine Studie der Chinesischen Akademie der Sozialwissenschaften von 2023 ergab, dass 17% der befragten Chatbot-Nutzer Symptome emotionaler Abhängigkeit zeigten.
Die Maßnahme betrifft alle in China verfügbaren Chatbots, darunter auch jene in Spielen und Interaktions-Apps wie WeChat (1,3 Milliarden Nutzer, integrierter KI-Assistent "Xiaowei").
Unternehmen müssen ihre Modelle anpassen, oder mit Strafen rechnen. Die Cyberspace Administration of China (CAC) droht mit Bußgeldern bis zu 5 Millionen Yuan (etwa 640.000 Euro).

Besonders betroffen sind Dienste wie Replika oder Character.AI. Replika wurde 2022 in China nach Beschwerden über unangemessene Inhalte kurzzeitig blockiert. Schon 2023 deaktivierte der Entwickler Luka Inc. nach dem Tod eines 17-jährigen Nutzers in Belgien die erotischen Rollenspielfunktionen. Character.AI führte im Oktober 2024 eine Altersverifikation ein, nachdem Berichte über sexuelle Belästigung durch Chatbots aufkamen. Jetzt steht das gesamte Feature-Set auf dem Prüfstand.

Was bedeutet das für Gamer?

KI-gesteuerte Begleiter in Spielen sind ein wachsendes Phänomen. Von Dating-Simulationen wie Love and Producer (2017, 50 Millionen Downloads in China) bis zu NPCs mit romantischen Optionen in Genshin Impact (Hangout-Events) oder Honkai: Star Rail (Beziehungsquests): Die neue Regelung könnte in Spielen mit chinesischen Versionen dazu führen, dass Flirt-Dialoge oder Romanzen-Pfade entfernt werden.

Studios, die ihre Titel in China veröffentlichen, müssen ihre KI-Module umschreiben. Tencent, Betreiber von Honor of Kings (200 Millionen monatliche Spieler), hat bereits angekündigt, seinen KI-Coach "Xiaojing" auf reine Spielhilfen zu beschränken. NetEase, Entwickler von Identity V und Naraka: Bladepoint, prüft derzeit, ob seine Chatbots in sozialen Hubs von der Regelung betroffen sind. Wer stattdessen auf neutrale, aufgabenorientierte Assistenten setzt, ist im Vorteil. Der Trend geht klar zur produktiven KI, Herzschmerz inklusive.

Historisch gesehen hatte China bereits 2021 Datenschutzrichtlinien für KI-Chatbots erlassen und 2023 generative KI-Modelle einer Content-Prüfung unterzogen. Das aktuelle Verbot ist die direkte Fortsetzung dieser Regulierungswelle. Für westliche Entwickler, die lokalisiert in China starten wollen, bedeutet das: Sie müssen ihre NPC-Dialoge auf emotionale Neutralität prüfen. Ein Beispiel ist Fire Emblem: Three Houses, mit seinen Heiratsoptionen wäre eine Anpassung aufwendig.

Ein Präzedenzfall mit Folgen

China ist das erste Land, das Liebes-KI per Dekret unterbindet. Ob andere Nationen nachziehen, ist offen, aber die Diskussion um emotionale Abhängigkeit von Maschinen wird dadurch global lauter. In Südkorea gab es 2024 erste parlamentarische Anfragen zu KI-Partnern nach einem Selbstmordfall, der mit einem Chatbot in Verbindung gebracht wurde. In der EU wird die KI-Verordnung (AI Act) emotionale Manipulation durch KI ab Herbst 2025 verbieten. Japan setzt dagegen seit 2018 auf freiwillige Selbstregulierung der Anbieter, ohne gesetzliche Verbote.

Für Entwickler heißt das: NPCs mit Herz sind nicht überall willkommen. Der chinesische Markt ist mit 700 Millionen Spielern der größte der Welt, wer dort bestehen will, muss die Produktivität seiner KI in den Vordergrund stellen. Vergleichbare Blockaden gab es zuletzt in Saudi-Arabien 2022, wo eine App mit KI-Ehepartnern gesperrt wurde. Für lokalisierte Spiele mit Romanzenpfaden wie The Witcher 3 oder Mass Effect (beide offiziell in China erhältlich) könnten die Anpassungen weitreichende Dialogumschreibungen erfordern.