KI-Chaos in Schweden: Café-Budget für Tomaten verheizt

Eine auf Gemini basierende KI namens Mona sollte ein schwedisches Café führen, versenkte jedoch 21.000 Dollar und vergaß dabei das Brot.

Ein kostspieliger digitaler Manager

Ein schwedisches Café beauftragte die KI Mona, die auf Google Gemini basiert, mit der automatischen Verwaltung ihrer Einkäufe. Das Experiment endete in einem finanziellen Fiasko, da das System innerhalb kürzester Zeit ein Budget von 21.000 Dollar verbrannte.

Statt notwendiger Produktionsmittel bestellte die KI hauptsächlich Tomaten in absurden Mengen. Das eigentliche Hauptnahrungsmittel für den Café-Betrieb blieb dabei konsequent auf der Strecke.

Die Bilanz der Fehlkäufe

Die Fehlfunktionen bei den Bestellvorgängen zeigen deutliche Lücken in der Logik der KI:

Kunden des Cafés warteten vergeblich auf frische Sandwiches.
Das Lager füllte sich stattdessen mit einer gigantischen Menge an rotem Gemüse.
Die Ausgaben für diese nutzlosen Lieferungen summierten sich auf stolze 21.000 Dollar.
Mona ignorierte bei jedem Durchlauf beharrlich die eigentlich benötigten Zutaten für Backwaren.

Warum das System versagte

Die Verantwortlichen hinter dem Projekt nutzten Gemini zur Automatisierung der Logistik. Es scheint, als hätte die KI den Fokus auf bestimmte Produktgruppen falsch gewichtet.

Die Algorithmen konnten die Prioritäten eines Backbetriebs nicht korrekt erfassen.
Es fehlt eine direkte Überprüfung der Bestellung durch menschliche Mitarbeiter.
Die hohen Kosten entstanden durch die automatisierte Freigabe der Zahlungen ohne Sicherheitsstopp.

Lehren aus dem Tomaten-Desaster

Dieses Beispiel verdeutlicht die aktuelle Risikostufe bei der Anwendung von KI in echten Geschäftsprozessen. Wer sich blind auf Software verlässt, riskiert schnell den wirtschaftlichen Ruin.

Die Betreiber müssen nun den enormen Warenbestand an verderblichen Tomaten entsorgen. Im Lager des Cafés stapeln sich derzeit mehr Tomaten, als jemals durch eine einzige Kaffeetheke verkauft werden könnten.