Einheit 6 ·

RAG einfach erklärt

Lies das zuerst. Jede Frage danach kommt aus diesen Karten.

Lernen · 1/4

Erst suchen, dann generieren

Das Modell schlägt nach, bevor es antwortet.

Bevor das Modell antwortet, sucht RAG relevante Passagen in deinen Dokumenten und fügt sie dem Prompt hinzu.

Die Dokumente werden dafür in kleine Stücke zerlegt, sogenannte Chunks. Gesucht werden die relevanten Chunks.

Die ganze Lektion als Text

Karten und das Wichtigste

Erst suchen, dann generieren.

Das Wichtigste

  • RAG holt relevante Chunks und legt sie in den Prompt.
  • Kein Neutraining: Text wird bei der Frage geholt.
  • Nur aus den Passagen antworten, Quelle nennen, Lücken zugeben.

Erst suchen, dann generieren

Das Modell schlägt nach, bevor es antwortet.

Bevor das Modell antwortet, sucht RAG relevante Passagen in deinen Dokumenten und fügt sie dem Prompt hinzu.

Die Dokumente werden dafür in kleine Stücke zerlegt, sogenannte Chunks. Gesucht werden die relevanten Chunks.

Merke dir: RAG holt relevante Chunks und legt sie in den Prompt.

Kein Training nötig

Dokument ändern, und die Antwort ändert sich mit.

RAG trainiert das Modell nicht neu. Der Text wird zum Zeitpunkt der Frage geholt.

Aktualisierst du ein Dokument, ändern sich also auch die Antworten.

RAG verringert Halluzination, weil das Modell aus mitgegebenen Quellen antwortet statt nur aus dem Gedächtnis.

Merke dir: Kein Neutraining: Text wird bei der Frage geholt.

Vertrauenswürdig machen

Eine Antwort mit Quellenangabe kannst du in Sekunden prüfen.

Der Ablauf: Der Nutzer stellt eine Frage, das System sucht Passagen, Passagen und Frage gehen an das Modell, es antwortet und nennt die Passagen.

Sag ihm, dass es nur auf Basis der Passagen antworten, die verwendete Passage nennen und es sagen soll, wenn die Antwort nicht drinsteht.

Anweisung

Antworte nur auf Basis der Passagen unten, nenn die verwendete Passage und sag es, wenn die Antwort nicht drinsteht.

Merke dir: Nur aus den Passagen antworten, Quelle nennen, Lücken zugeben.

RAG in 40 Sekunden

Wie ein Modell aus deinen eigenen Dokumenten antwortet: erst die richtigen Passagen holen, dann generieren.

  1. Mit RAG antwortet ein Modell aus deinen eigenen Dokumenten. So funktioniert es.
  2. Dokumente werden in kleine Stücke zerlegt, sogenannte Chunks. Kommt eine Frage, werden die relevanten Chunks gesucht.
  3. Passagen und Frage gehen zusammen an das Modell, mit der Regel, nur daraus zu antworten.
  4. Das Modell antwortet aus mitgegebenen Quellen statt nur aus dem Gedächtnis. Das verringert Halluzination.
  5. Kein Neutraining nötig. Der Text wird zum Zeitpunkt der Frage geholt, also ändern sich mit dem Dokument auch die Antworten.
  6. Nur aus den Passagen antworten, die verwendete nennen und sagen, wenn die Antwort nicht drinsteht.

Jetzt ausprobieren

Füge das in einen beliebigen KI-Assistenten ein (ChatGPT, Claude, Gemini, Copilot). Ergänze die Teile in eckigen Klammern.

Antworte ausschließlich anhand des folgenden Textes. Steht die Antwort nicht darin, schreib „Nicht im Dokument.“ Frage: [Frage]. Text: [Richtlinie oder Handbuchseite einfügen]

Worauf du in der Antwort achtest: Stell auch eine Frage, die der Text nicht beantwortet. Statt zu raten, sollte es „Nicht im Dokument.“ sagen. Das ist der Kern von RAG.

Tiefer einsteigen?

Diese Einheit geht in einem ganzen Kurs weiter: KI-gestützte Web- und App-Entwicklung (Vibe Coding). Eine Lektion daraus kannst du kostenlos ausprobieren: „Warum Programmieren mit KI anders ist“.