Ratgeber
RAG verständlich erklärt
RAG verbindet ein Sprachmodell mit einer Suche in ausgewählten Quellen. Vor einer Antwort werden passende Informationen abgerufen und als Kontext an das Modell übergeben.
Kurzantwort
Das Wichtigste in drei Punkten.
- RAG ergänzt ein Sprachmodell um Informationen aus ausgewählten Quellen.
- Die Qualität hängt stark von Dokumenten, Suche, Berechtigungen und Tests ab.
- RAG verbessert die Antwortbasis, verhindert aber keine falschen Antworten vollständig.
Wie funktioniert RAG im Unternehmen?
Dokumente, Wissensseiten oder strukturierte Daten werden so aufbereitet, dass zu einer Frage passende Inhalte gefunden werden können. Diese Treffer bilden den Kontext für die Antwort.
Für Nutzer wird das System besonders hilfreich, wenn Quellen sichtbar sind und Antworten direkt auf relevante Dokumente verweisen.
Was entscheidet über die Qualität?
Gute Antworten setzen gute Quellen voraus. Veraltete Dokumente, unklare Versionen oder fehlende Metadaten verschlechtern auch ein technisch sauberes RAG-System.
Zusätzlich müssen Retrieval und Antwort getrennt getestet werden: Findet die Suche die richtigen Stellen? Und verwendet das Modell diese Informationen korrekt?
Welche Grenzen bleiben?
RAG ist keine Garantie gegen Halluzinationen. Berechtigungen müssen bereits bei der Suche greifen, und sensible Inhalte dürfen nicht allein über einen Prompt geschützt werden.
Darum gehören Rechtekonzept, Quellenpflege, Evaluation und Monitoring zum Betrieb eines Wissenssystems.