Was ist RAG (Retrieval-Augmented Generation)?
RAG (Retrieval-Augmented Generation) bedeutet, dass ein KI-Modell zunächst relevante Passagen aus den eigenen Dokumenten einer Organisation abruft und seine Antwort darin verankert. Antworten können Quellen nennen, und das Risiko von Halluzinationen sinkt, verschwindet aber nicht.
Wie funktioniert es?
- Dokumente werden analysiert und in Abschnitte zerlegt.
- Die Abschnitte werden für die semantische Suche indexiert (Embeddings).
- Stellt ein Nutzer eine Frage, werden die relevanten Abschnitte abgerufen.
- Das Modell nimmt diese Abschnitte als Kontext, erzeugt die Antwort und nennt die Quelle.
- Die Antwortqualität wird regelmäßig mit einem Evaluationsset gemessen.
Wo wird es eingesetzt?
- Interne Wissensdatenbank und Richtlinien-Assistenten
- Kundensupport-Assistenten
- Suche in Vorschriften und Dokumenten
- Beantwortung von Fragen zur technischen Dokumentation
Zu beachten
- Die Antwortqualität hängt stark von der Qualität des Abrufs ab.
- Zugriffsrechte müssen erhalten bleiben; Nutzer sollten nur Antworten aus Dokumenten erhalten, die sie sehen dürfen.
- Der Index muss aktualisiert werden, wenn sich Dokumente ändern.
- Das Risiko von Halluzinationen sinkt, verschwindet aber nicht (Halluzination).
Was tut Huaris AI dazu?
Huaris AI entwirft RAG-basierte Assistenten im Rahmen von Individuelle KI-Lösungen und macht Quellenangaben und Evaluationstests zum Teil des Systems.
Verwandte Begriffe
Lassen Sie uns zusammenarbeiten
Lassen Sie uns Ihre Prozesse und Ziele kennenlernen und gemeinsam bewerten, wo KI einen Mehrwert schaffen kann.
E-Mail senden