Ein Chatbot nennt eine Gerichtsentscheidung mit Aktenzeichen, die es nie gab. Ein Textwerkzeug schreibt einer Bäckerei Öffnungszeiten zu, die nirgends stehen. Solche Fehler heißen Halluzinationen. Google erklärt sie in seinem Leitfaden zu KI-Inhalten so: Generative Modelle rufen keine Fakten ab, sie sagen anhand ihrer Trainingsdaten eine wahrscheinliche Wortfolge voraus. Deshalb können ihre Ausgaben Fehler enthalten, die auch als Halluzinationen bezeichnet werden [1]. Eine eingebaute Prüfung, ob eine Aussage stimmt, hat das Modell nicht. Für Texte auf Websites ist das heikel, weil eine erfundene Angabe sprachlich genauso sauber klingt wie eine richtige. Wie solche Modelle aufgebaut sind, steht im Eintrag LLM.
Warum Modelle halluzinieren
Eine Forschergruppe um Adam Tauman Kalai hat im September 2025 eine Erklärung vorgelegt, die über das Vorhersageprinzip hinausgeht. Nach ihrer Analyse entstehen Halluzinationen im Kern wie Fehler bei einer Ja-Nein-Einteilung: Kann ein Modell falsche Aussagen nicht von richtigen unterscheiden, treten sie im vortrainierten Modell aus statistischen Gründen auf [2]. Dass das Problem nach dem weiteren Training bleibt, führen die Autoren auf die Bewertung zurück. Modelle werden wie Prüflinge auf gute Ergebnisse in Tests getrimmt, und in den meisten Tests bringt Raten mehr Punkte als die Antwort "weiß ich nicht" [2]. Ihr Vorschlag ist, die Bewertung verbreiteter Tests so zu ändern, dass ehrliche Unsicherheit nicht mehr bestraft wird [2]. Zusätzliche Tests nur für Halluzinationen halten sie dafür nicht für den richtigen Weg [2].
Was dagegen hilft
Ein Weg ist, das Modell vor der Antwort auf Quellen zu stützen. Google nennt als Vorteil der Fundierung mit der Google Suche ausdrücklich, Halluzinationen zu verringern, weil Antworten auf realen Informationen beruhen und Quellen angegeben werden [3]. Das Verfahren erklären die Einträge Grounding und Retrieval Augmented Generation. Ganz ausgeschlossen sind Fehler damit nicht, die Quellenangaben machen sie aber nachprüfbar.
Für Inhalte auf deiner Website ist Googles Rat eindeutig. Alles, was ein KI-Werkzeug erzeugt, soll vor der Veröffentlichung von Hand auf Richtigkeit und Vertrauenswürdigkeit geprüft werden [1]. Das gilt auch für Metadaten wie title-Elemente, Meta-Beschreibungen, strukturierte Daten und Alt-Texte von Bildern, die in den Suchergebnissen erscheinen können [1]. Eine erfundene Zahl in einer Produktbeschreibung fällt sonst erst auf, wenn ein Kunde nachfragt. Die Grundsatzfrage beantwortet Ist KI-Content bei Google erlaubt, den Überblick gibt der Eintrag generative KI.
Noch eine Frage offen?
In der gratis Sprechstunde beantworten wir Fragen zu SEO live, jeden ersten Samstag im Monat um 18 Uhr. Oder du rufst einfach an.
Halluzinationen über dein Unternehmen
KI-Systeme können auch über dein Unternehmen Falsches schreiben, etwa eine veraltete Adresse oder eine Leistung, die du gar nicht anbietest. Wer regelmäßig nachschaut, was Chatbots und KI-Übersichten über den eigenen Betrieb schreiben, bemerkt solche Fehler früher. Wie du prüfst, was KI-Antworten über deine Marke sagen, behandelt die Seite Markennennungen in KI-Antworten.
Wenn du wissen willst, wie du KI-Texte für deine Website prüfst, bevor sie online gehen, sprechen wir in der gratis Sprechstunde darüber.
- Organisation Leitfaden der Google Suche zur Verwendung von KI-generierten Inhalten auf deiner Website. Google Search Central. Stand 07.10.2026. abgerufen am 31.10.2026
- Studie Why Language Models Hallucinate. Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang (arXiv:2509.04664). Stand 04.09.2025. abgerufen am 31.10.2026
- Organisation Fundierung mit der Google Suche. Google AI for Developers (Gemini API). Stand 29.10.2026. abgerufen am 31.10.2026
Häufige Fragen
Was ist eine KI-Halluzination einfach erklärt?
Eine falsche oder erfundene Aussage, die ein KI-Modell so formuliert, als wäre sie richtig. Sie entsteht, weil das Modell wahrscheinliche Wortfolgen vorhersagt und keine Fakten nachschlägt.
Warum erfindet ChatGPT Quellen?
Sprachmodelle prüfen nicht, ob eine Aussage stimmt. Forscher erklären die Hartnäckigkeit des Problems auch damit, dass Training und Tests Raten eher belohnen als das Eingeständnis von Unsicherheit.
Kann man Halluzinationen ganz verhindern?
Nein. Sie lassen sich verringern, etwa indem ein Modell seine Antwort auf abgerufene Quellen stützt. Eine Prüfung durch einen Menschen bleibt nötig, bevor ein Text veröffentlicht wird.
Muss ich KI-Texte vor dem Veröffentlichen prüfen?
Google rät dazu, alle KI-erzeugten Inhalte vorher von Hand auf Richtigkeit und Vertrauenswürdigkeit zu prüfen. Das gilt auch für Titel, Beschreibungen, strukturierte Daten und Alt-Texte.
Noch eine Frage offen?
In der gratis Sprechstunde beantworten wir Fragen zu SEO live, jeden ersten Samstag im Monat um 18 Uhr. Oder du rufst einfach an.
Zuletzt geprüft am 03.11.2026, nächste Prüfung spätestens im November 2027. Fehler entdeckt? Schreib uns.
