Kurz zusammengefasst
- RAG verbindet Informationssuche mit Textgenerierung.
- Unternehmenswissen bleibt in seinen Quellen und kann laufend aktualisiert werden.
- Gute Ergebnisse hängen ebenso von Dokumentqualität, Berechtigungen und Suche ab wie vom Modell.
Vor der ersten Frage: Quellen für RAG aufbereiten
RAG beginnt nicht erst mit einer Nutzerfrage. Zuerst wird ein kontrollierter Wissensbestand aufgebaut. Dabei entscheidet sich, welche Versionen auffindbar sind, welche Rollen sie sehen dürfen und ob ein späterer Treffer fachlich verständlich bleibt.
- Schritt 1
Quellen auswählen
Nur freigegebene Bestände mit benannter Verantwortung und Gültigkeit aufnehmen.
- Schritt 2
Inhalte aufteilen
Dokumente so in Abschnitte zerlegen, dass jeder Treffer genügend fachlichen Zusammenhang behält.
- Schritt 3
Metadaten und Rechte ergänzen
Version, Produkt, Sprache, Gültigkeit und bestehende Zugriffsregeln am Inhalt mitführen.
- Schritt 4
Index erstellen und erneuern
Suchrepräsentationen erzeugen und Änderungen oder entzogene Rechte zeitnah übernehmen.
Bei jeder Frage: suchen, begrenzen und antworten
Zur Laufzeit wird nicht der gesamte Wissensbestand an das Modell gesendet. Die Anwendung prüft zuerst Identität und Filter, sucht passende Abschnitte und stellt nur eine begrenzte Auswahl als Kontext bereit. Antwort und Fundstellen müssen anschliessend gemeinsam geprüft werden können.
- Schritt 1
Frage und Rechte erfassen
Nutzerkontext, Produkt, Sprache und weitere zulässige Filter bestimmen.
- Schritt 2
Treffer abrufen
Semantische Suche, Schlüsselbegriffe und Metadatenfilter kombinieren und Treffer ordnen.
- Schritt 3
Antwort begründen
Frage und ausgewählte Abschnitte an das LLM geben und Aussagen mit Fundstellen verbinden.
- Schritt 4
Ablehnen oder eskalieren
Ohne ausreichende Evidenz nicht raten, sondern nachfragen oder an eine Fachperson übergeben.
Warum nicht einfach das Modell trainieren?
RAG trennt allgemeine Sprachfähigkeit vom veränderlichen Unternehmenswissen. Wird eine Richtlinie aktualisiert, kann der Index erneuert werden, ohne ein Modell neu zu trainieren. Quellen bleiben zudem sichtbar und Inhalte können nach Rolle gefiltert werden.
Feinabstimmung eines Modells kann sinnvoll sein, um Verhalten, Stil oder eine wiederkehrende Spezialaufgabe zu verbessern. Für häufig wechselnde Fakten und nachvollziehbare Fundstellen ist RAG jedoch meist der direktere Ansatz.
Typische RAG-Fehler und passende Kontrollen
RAG repariert keine widersprüchlichen, veralteten oder schlecht strukturierten Dokumente. Wenn mehrere Versionen einer Richtlinie gleichberechtigt auffindbar sind, kann auch die Antwort widersprüchlich werden. Quellen brauchen deshalb Eigentümer, Gültigkeit, verständliche Struktur und klare Zugriffsregeln.
| Fehlerbild | Häufige Ursache | Geeignete Kontrolle |
|---|---|---|
| Veraltete Antwort | Mehrere Versionen sind gleichberechtigt indexiert oder Änderungen fehlen im Index. | Gültigkeit und Eigentümer pflegen; Aktualisierung und Löschung überwachen. |
| Falsche Produktvariante | Abschnitte verlieren beim Aufteilen Produkt-, Sprach- oder Versionskontext. | Fachlich sinnvolle Abschnitte und verpflichtende Metadatenfilter verwenden. |
| Unzulässiger Treffer | Quellrechte werden nicht oder verspätet in der Suche durchgesetzt. | Berechtigung bei Indexierung und Anfrage prüfen; Entzug gezielt testen. |
| Plausible Antwort ohne Beleg | Schwache Treffer werden trotzdem als ausreichender Kontext behandelt. | Mindestanforderung an Evidenz, sichtbare Quellen und eine klare Ablehnung definieren. |
Wie wird ein RAG-System getestet?
Ein guter Test trennt Suche und Antwort. Zuerst wird geprüft, ob die richtige Fundstelle überhaupt gefunden wird. Danach wird bewertet, ob die Antwort die Quelle korrekt und vollständig wiedergibt. Zusätzlich braucht es Fragen, die bewusst nicht beantwortbar sind.
- Repräsentative Fragen mit erwarteten Fundstellen sammeln
- Trefferqualität, Antworttreue und Quellenangabe getrennt messen
- Berechtigungsfälle und veraltete Inhalte testen
- Feedback nicht nur speichern, sondern in konkrete Verbesserungen übersetzen
Wann ist RAG nicht die beste Lösung?
Für exakte Kontostände, Preise oder Statuswerte sollte eine Anwendung meist direkt eine strukturierte Schnittstelle abfragen. Für einfache Navigation kann eine klassische Suche genügen. RAG ist stark, wenn mehrere unstrukturierte Quellen verstanden, zusammengeführt und in natürlicher Sprache erklärt werden müssen.
Beispiel: Internes Qualitätswissen
Ein Produktionsbetrieb hat Arbeitsanweisungen, Prüfvorgaben und Fehlerkataloge in mehreren Ablagen. Ein RAG-System indexiert nur freigegebene gültige Dokumente, übernimmt bestehende Rollen und zeigt zu jeder Antwort die verwendeten Abschnitte. Fragen ohne ausreichende Fundstelle werden weitergeleitet. Vor dem Rollout wird mit echten Fragen geprüft, ob die richtige Version und Produktvariante gefunden werden – nicht nur, ob die Antwort gut klingt.
Was Sie mitnehmen sollten
Beginnen Sie mit einem klar abgegrenzten Quellenbestand, echten Nutzerfragen und definierten Zugriffsrechten. Die technische Suche ist nur ein Teil; Inhaltspflege und Fachverantwortung entscheiden über den langfristigen Nutzen.
Quellen und Vertiefung
Diese Primärquellen vertiefen Definitionen, technische Grundlagen oder verantwortlichen Einsatz.
Inhaltlich geprüft