Wenn Goblins den Code befallen: Die bizarren Halluzinationen von ChatGPT

OpenAI kämpft mit seltsamen Textbausteinen, bei denen plötzlich kleine Monster die Ausgabe fluten.

Das Geheimnis der digitalen Monster

Nutzer von ChatGPT berichten über ein ebenso skurriles wie amüsantes Phänomen. In den Ausgaben der Künstlichen Intelligenz tauchen plötzlich Goblins, Gremlins und andere Kreaturen auf, die den eigentlichen Inhalt verdrängen.

Diese kleinen Plagegeister erscheinen oft mitten in technischen Anleitungen oder bei komplexen Datenbankabfragen. Es wirkt fast so, als hätten sich die Programmierer bei OpenAI einen Scherz erlaubt oder ein digitales Äquivalent zu einem Spielfehler aus den 80er-Jahren eingebaut.

Woher kommen die Störenfriede?

Die Ursache liegt in der Art und Weise, wie LLMs (Large Language Models) auf Trainingsdaten zugreifen. Oft sind dies Überreste von alten Forenbeiträgen oder Rollenspiel-Skripten, die im Datensatz hängen blieben.

Token-Verwirrung: Die KI verknüpft Begriffe wie “Fehler” fälschlicherweise mit Fantasy-Begriffen.
Data-Poisoning: Alte Textdateien aus Dungeons & Dragons-Foren könnten die Quelle sein.
Stochastische Papageien: Das Modell greift auf assoziative Muster zurück, statt harte Fakten zu liefern.

Ein Hauch von Retro-Chaos

Viele Nutzer vergleichen das Phänomen mit fehlerhaftem Code in alten 8-Bit-Spielen. Wenn ein Glitch plötzlich die Weltkarte von The Legend of Zelda verzerrt, ist das Ergebnis oft ähnlich unerwartet.

System-Verhalten: Die KI gerät in eine Schleife aus Fantasy-Begriffen.
Nutzererfahrung: Statt Code erhalten Anwender eine Geschichte über einen hungrigen Goblin.
Technische Hürde: Die Bereinigung der riesigen Datensätze ist ein mühsamer Prozess.

Was OpenAI dazu sagt

Bisher gibt es keine offizielle Stellungnahme, die das Rätsel vollständig löst. Die Entwickler betrachten solche Ausfälle als Teil der aktuellen Instabilitäten ihrer Systeme.

Technisch gesehen handelt es sich um eine Fehlinterpretation von Mustern innerhalb der Trainingsdaten. Die KI ist in diesem Fall wie ein Spieler, der den Cheat-Code für ein Spiel aktiviert hat, das gar nicht geladen wurde.