Ein neuer Fauxpas bei Google
Die aktuelle AI Overview von Google sorgt für Lacher im Netz. Das System behauptet steif und fest, dass der Markenname des Unternehmens mit zwei „P“ geschrieben wird.
Dieser Fehler offenbart die bekannten Schwächen bei der Verarbeitung von Tokens in großen Sprachmodellen. Trotz der massiven Hardware-Upgrades stolpert die KI bei der orthografischen Faktenprüfung.
Warum das Netz schmunzelt
Nutzer teilen derzeit zahlreiche Screenshots der absurden Antwort, bei der die KI sogar die vermeintliche Etymologie mit zwei „P“ erklärt. Viele Tech-Enthusiasten sehen darin eine Parallele zu den frühen, fehleranfälligen Phasen der KI-Entwicklung.
- Die KI ignoriert die korrekte Schreibweise und konstruiert eine Pseudo-Begründung.
- Sie argumentiert mit statistischen Mustern, die bei Tippfehlern im Internet entstanden sind.
- Solche Aussetzer bei LLMs (Large Language Models) bleiben ein Dauerbrenner in der Nutzerkommunikation.
Die Technik hinter dem Fehler
Die Ursache liegt in der Architektur der Transformer-Modelle, die nicht auf einer Datenbank mit verifizierten Fakten basieren. Das System berechnet Wahrscheinlichkeiten für die nächste Wortfolge, statt gespeicherte Informationen aus einem Lexikon abzurufen.
- Die KI halluziniert den Inhalt aufgrund von Trainingsdaten, die massenhaft Rechtschreibfehler enthalten.
- Ein LLM besitzt kein Verständnis für die physikalische Identität oder den rechtlichen Namen eines Unternehmens.
- Die statistische Gewichtung von häufigen Nutzer-Tippfehlern überlagert die korrekten Einträge in den Gewichten des Modells.
Google und die Entwicklung der KI-Suche
Google hat mit Gemini (ehemals Bard) eine Strategie eingeschlagen, die eng mit der Unternehmensgeschichte der Google Search verknüpft ist. Nachdem das Unternehmen 1998 von Larry Page und Sergey Brin gegründet wurde, basierte der Erfolg primär auf dem PageRank-Algorithmus, der für Objektivität stand.
- Google startete im Jahr 2023 den massiven Umbau der Suchergebnisseite zu Search Generative Experience (SGE).
- Der Dienst AI Overview ist die direkte Antwort auf den Erfolg von ChatGPT, das von OpenAI (mit massiver Beteiligung von Microsoft) entwickelt wurde.
- Die Integration von Gemini in die Suche soll den Traffic auf der Seite halten, nachdem Nutzer zunehmend zu Perplexity AI oder ChatGPT abwanderten.
Branchenkontext und frühere Releases
Die aktuelle Panne reiht sich in eine Serie von Fehlstarts ein, die den gesamten Sektor der generativen KI betreffen. Google geriet bereits bei der Vorstellung von Bard unter Druck, als eine fehlerhafte Antwort über das James Webb Weltraumteleskop im Werbematerial den Aktienkurs kurzzeitig belastete.
- Microsoft erlitt mit der Bing Chat-Integration ähnliche Probleme, als die KI Nutzer beleidigte oder falsche Informationen über den Börsenwert von Unternehmen verbreitete.
- Meta scheiterte mit dem Galactica-Modell, das nach nur drei Tagen offline genommen wurde, weil es wissenschaftliche Halluzinationen in großem Stil produzierte.
- Diese Fehltritte zeigen die Diskrepanz zwischen der Marketing-Kommunikation der Konzerne und der tatsächlichen technischen Stabilität der Modelle.
Alte Probleme in neuer Hülle
Wer an die Anfänge von ChatGPT oder Bing Chat denkt, erkennt die Muster der aktuellen Fehlleistungen wieder. Die Technologie bleibt trotz hoher Rechenkapazität anfällig für einfache logische Fallen, da das Training auf dem gesamten Internet basiert.
- Die Modelle lernen durch RLHF (Reinforcement Learning from Human Feedback), was den Fokus auf die Tonalität, nicht aber auf die faktische Korrektheit legt.
- Während ein klassisches Software-Release durch Unit-Tests abgesichert wird, entziehen sich LLMs aufgrund ihrer probabilistischen Natur einer deterministischen Qualitätskontrolle.
- Die Behauptung über die zwei „P“ in Google bleibt ein Paradebeispiel für die aktuelle KI-Unzuverlässigkeit.
Das System liefert selbstbewusst falsche Informationen, weil eine interne Logikprüfung der Token-Ausgabe fehlt. Google hat bisher keine Korrektur für die spezifische Abfrage implementiert, die über das statistische Modell hinausgeht.
