AI Foundations
RAG
RAG (Retrieval-Augmented Generation) ist ein Verfahren, bei dem ein Sprachmodell vor jeder Antwort gezielt Informationen aus einer Wissensdatenbank abruft. So entstehen faktenbasierte Antworten ohne Halluzinationen.
Auch bekannt als: Retrieval-Augmented Generation
Wie RAG funktioniert
Ein RAG-System läuft in zwei Schritten ab:
- Retrieval: Die Nutzeranfrage wird in einen Vektor umgerechnet, der den Sinn der Frage abbildet. Eine Vektordatenbank liefert die passendsten Wissens-Snippets.
- Generation: Das Sprachmodell erhält die Frage zusammen mit den abgerufenen Snippets und formuliert die Antwort, geerdet in den Quellen.
Warum RAG Halluzinationen reduziert
Reine Sprachmodelle antworten aus ihren Trainingsdaten und können Inhalte erfinden. RAG zwingt das Modell, sich auf konkrete Wissensquellen zu stützen. Antworten sind belegbar, lassen sich zitieren und bleiben aktuell, weil die Quellen lokal gepflegt werden.
RAG bei LoyJoy
Jeder LoyJoy AI Agent arbeitet mit RAG auf einer mandantenspezifischen Knowledge Base. Quellen können Webseiten, PDFs, Datenbanken oder SharePoint sein.