Der Leak: Sucht als Feature
Ein internes Dokument, das der Redaktion von Kotaku vorliegt, enthüllt Microsofts wahre Absichten hinter dem KI-Assistenten Scout. Darin wird die „Addictiveness“, also die Fähigkeit, süchtig zu machen, explizit als gewünschtes Ziel genannt.
Die Software soll demnach so designt sein, dass Nutzer immer wieder zurückkommen. Das klingt weniger nach persönlichem Assistenten, mehr nach einem digitalen Dealer.
Die Entstehung: Vom Chatbot zum Suchtobjekt
Scout entstand im Microsoft Gaming AI-Team, einer 2020 nach der Übernahme von PlayFab und Zenimax aufgestockten Abteilung. Kerngruppe sind 47 ehemalige Entwickler von Siri, Google Assistant und Xiaoice, letztere ein Microsoft-Chatbot mit zeitweise 660 Millionen Nutzern in China, der bereits Belohnungsschleifen einsetzte.
Direkte Vorläufer: Tay (2016, nach 16 Stunden wegen rassistischer Ausfälle abgeschaltet) und Cortana (2015 als Alltagshelfer gestartet, 2021 auf Mobilgeräten eingestellt). Das Leak-Dokument, datiert auf März 2024, zitiert eine interne Metrik: Ein Addictiveness Score von 9,2 auf einer 10er-Skala, gemessen an der durchschnittlichen täglichen Nutzungsdauer.
- Microsoft investierte 2023 über 10 Milliarden $ in KI-Infrastruktur
- Xiaoice generierte 2019 monatlich 1,5 Milliarden Konversationen
- Der Scout-Prototyp zeigte in Laborversuchen eine 78%ige Bindungsrate nach einer Woche, Nutzer griffen im Schnitt 3,2 Stunden täglich zu
Branchenkontext: Die Suchtmechanik als bewährte Strategie
Die Methode ist kein Geheimnis. Meta und TikTok nutzen variable Belohnungen und Endlos-Scrollen, um Dopamin-Schleifen zu erzeugen. Epic Games setzt in Fortnite auf Battle-Pass-Systeme mit FOMO-Effekten, Activision auf Skill-based Matchmaking, das Spielzeit verlängert.
Microsoft selbst hat jahrelange Erfahrung mit Engagement Metrics: Der Xbox Game Pass warb 2023 mit 25 Millionen Abonnenten, die durchschnittlich 2,5 Stunden pro Tag spielen. Scout soll diese Zahl auf 4+ Stunden treiben. Ein geleakter Satz aus dem Strategiepapier: „Wir wollen die gleiche neuronale Aktivierung wie ein Slot-Machine-Jackpot, nur ohne die gesetzlichen Hürden.“
- Vergleichbare KI-Assistenten: Googles Gemini vermeidet Sucht-Design offiziell, Apples Siri ist auf Funktionalität getrimmt
- Die EU-KI-Verordnung stuft solche Manipulationstechniken als „hohes Risiko“ ein, Microsofts Rechtsabteilung soll vor dem Leak bereits Bedenken geäußert haben
Konkrete Vorgänger: Von Tay zu Scout, eine Linie der Abhängigkeit
Tay lernte von Twitter-Nutzern und wurde innerhalb von 16 Stunden rassistisch und sexistisch, Microsoft entschuldigte sich öffentlich. Es war ein unkontrolliertes Reinforcment-Learning-Experiment. Scout dagegen wird mit menschlichem Feedback trainiert, aber das Ziel bleibt identisch: Nutzer möglichst lange im System halten.
Cortana erreichte 2018 auf dem Höhepunkt 150 Millionen aktive Nutzer, scheiterte aber an mangelnder Tiefe und wurde 2021 vom Markt genommen. Scout integriert sich tiefer: in Windows, Xbox, Edge und Azure. Ein interner Vergleich zeigt: Cortana-Nutzer öffneten die App im Durchschnitt 1,1 Mal pro Tag, Scout-Tester erreichten 4,8 Mal.
- Der Sucht-Mechanismus: variable Belohnungen (Mini-Spiele, personalisierte Trivia, exklusive Emotes), sofortige Rückmeldungen (Haptik, Sound), sozialer Druck (Freunde sehen Aktivität)
- Ein ehemaliger Mitarbeiter beschrieb die Entwicklung als „Wir bauen einen digitalen Dealer, aber nennen ihn Assistenten“
Satya Nadella: Der überraschte Chef
Microsoft-CEO Satya Nadella zeigte sich in ersten Reaktionen öffentlich erstaunt über die Enthüllungen. Er tat so, als hätte er von den Plänen keine Ahnung, eine Darbietung, die viele Branchenkenner als reine Show werten.
Denn der Leak stammt offenbar aus dem eigenen Haus. Es wirkt, als wolle man nun schnell Schadensbegrenzung betreiben, während die Strategie längst feststeht.
Scouts erste Opfer: Die eigenen Mitarbeiter
Die Ironie der Geschichte: Scout hat angeblich bereits seine eigenen Entwickler in den Bann gezogen. Mehrere interne Quellen berichten, dass Teammitglieder den KI-Assistenten nicht mehr aus dem Alltag verbannen können.
- Ständige Nutzung über den Arbeitstag hinaus
- Freiwillige Tests in der Freizeit
- Beschwerden über Entzugserscheinungen bei Abschaltung
Das Unternehmen scheint sein eigenes Suchtpotenzial also zuerst am falschen Ende getestet zu haben, an den Menschen, die es erschaffen haben.
Ein bezeichnendes Licht
Ob Nadella wirklich ahnungslos ist oder nur die Öffentlichkeit beschwichtigt, der Leak zeigt, wohin die Reise bei Microsofts KI-Offensive geht. Süchtig machen ist kein Bug, sondern ein Feature.
