Was ist Retrieval Augmented Generation (RAG)?

Retrieval Augmented Generation, kurz RAG, bezeichnet ein Verfahren, bei dem ein Sprachmodell vor der Antwort passende Dokumente aus einer Quelle abruft und seine Antwort darauf stützt. Das Modell nutzt damit neben dem, was es im Training gelernt hat, frisch abgerufenes Material. Für Websitebetreiber ist das einer der Wege, über die eigene Inhalte in Antworten von KI-Systemen gelangen können. Der Name beschreibt die zwei Teile: Retrieval heißt Abruf, Generation heißt Erzeugung.

Woher der Begriff stammt

Bekannt wurde der Begriff durch einen Fachaufsatz von Patrick Lewis und weiteren Autoren aus dem Jahr 2020. Als Einrichtungen nennt der Aufsatz Facebook AI Research, das University College London und die New York University ^[1]. Die dort beschriebenen Modelle verbinden zwei Arten von Gedächtnis: ein vortrainiertes Sprachmodell und einen Vektorindex der Wikipedia, den ein eigener Suchbaustein durchsucht ^[1]. Für den Index wurde jeder Artikel eines Wikipedia-Abzugs vom Dezember 2018 in nicht überlappende Abschnitte von 100 Wörtern zerlegt, insgesamt 21 Millionen Dokumente ^[1].

Eine Beobachtung aus dem Aufsatz ist für die Praxis bis heute wichtig. Die Autoren tauschten einen Index mit Stand Dezember 2016 gegen einen mit Stand Dezember 2018 und zeigten so, dass sich das Wissen des Systems durch den Austausch des Index aktualisieren lässt, ohne das Modell neu zu trainieren ^[1].

Wie RAG abläuft

Im ersten Schritt wird die Frage in eine Form gebracht, die sich mit den gespeicherten Abschnitten vergleichen lässt. Im Aufsatz von 2020 übernimmt das ein Baustein namens Dense Passage Retriever, der Frage und Abschnitte getrennt in Vektoren umrechnet. Die passendsten Abschnitte zu finden, ist dann eine Suche nach dem größten Skalarprodukt, die sich näherungsweise schnell lösen lässt ^[1]. Solche Vektoren heißen Embeddings, das Suchverfahren Vektorsuche. Im zweiten Schritt bekommt das Sprachmodell diese Abschnitte zusammen mit der Frage und formuliert daraus die Antwort. Weil bekannt ist, welche Abschnitte abgerufen wurden, kann ein System sie als Quelle anzeigen.

RAG und die Suche

Google nennt seine KI-Funktionen in der Dokumentation nicht RAG, beschreibt aber ein Verfahren, bei dem mehrere Suchanfragen gestellt werden. Übersichten mit KI und der KI-Modus können ein Verfahren namens Query Fan-out nutzen: Sie stellen mehrere verwandte Suchanfragen zu Unterthemen und finden so mehr unterstützende Seiten, die als Links erscheinen ^[2]. Zusätzliche Anforderungen gibt es laut Google nicht. Eine Seite muss indexiert sein und als Snippet in der Suche erscheinen dürfen, und eigene KI-Textdateien oder besonderes Markup sind nicht nötig ^[2]. Mehr dazu steht unter Query Fan-out.

Nach unserer Erfahrung hilft es, Absätze so zu schreiben, dass sie auch einzeln verständlich sind. Ein Abschnitt, der nur mit "wie oben beschrieben" funktioniert, verliert seinen Sinn, wenn ein System ihn ohne den Rest der Seite abruft. Wie man Inhalte für solche Antworten aufbereitet, erklärt der Eintrag SEO Glossar. Die Frage Wie kommt man in KI-Antworten vor beantwortet der FAQ-Bereich, und der verwandte Begriff Grounding beschreibt das Stützen einer Antwort auf überprüfbare Quellen.

Wenn du wissen willst, ob deine Seiten so aufgebaut sind, dass KI-Systeme einzelne Abschnitte sinnvoll übernehmen können, sprechen wir in der gratis Sprechstunde darüber. Bring eine Adresse mit.

1. Studie Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Patrick Lewis u. a., arXiv 2005.11401. Stand 12.04.2021 (Fassung 4). abgerufen am 31.10.2026
2. Organisation KI-Funktionen und deine Website. Google Search Central. Stand 31.12.2025. abgerufen am 31.10.2026

Zuletzt geprüft am 03.11.2026, nächste Prüfung spätestens im November 2027. Fehler entdeckt? Schreib uns.