RAG (Retrieval-Augmented Generation)

RAG steht für Retrieval-Augmented Generation und bezeichnet ein Verfahren, bei dem ein Sprachmodell seine Antwort nicht allein aus dem Trainingswissen erzeugt, sondern zuvor passende Informationen aus einer externen Quelle heraussucht. In zwei Schritten: Erst der Retrieval-Schritt, der zu einer Frage die relevantesten Abschnitte aus einer Wissensdatenbank findet, dann der Generation-Schritt, in dem das Modell auf Basis dieser Abschnitte eine Antwort formuliert.

Warum RAG wichtig ist

Ein Sprachmodell kennt Ihre Preise, Prozesse oder Richtlinien nicht — es wurde nicht darauf trainiert. Ohne RAG füllt es solche Lücken mit plausiblen Erfindungen, sogenannten Halluzinationen. RAG bindet die Antwort an konkrete Textstellen und reduziert dieses Risiko erheblich. Gleichzeitig lassen sich Quellen angeben, sodass jede Aussage überprüfbar wird — statt sie einfach glauben zu müssen.

RAG bei Kyros

Kyros nutzt RAG, um Assistenten aus Ihrer Wissensdatenbank antworten zu lassen — aus gecrawlten URLs, hochgeladenen Dokumenten und handgeschriebenen Golden Answers. Grundierte Antworten zitieren ihre Quellen mit anklickbaren Fußnoten, und fehlt eine Information, rät der Assistent nicht, sondern sagt es. Eine tiefergehende Erklärung finden Sie im Beitrag RAG einfach erklärt.