Halluzination

Als Halluzination bezeichnet man eine Antwort einer KI, die plausibel und selbstsicher klingt, aber sachlich falsch oder frei erfunden ist. Der Grund liegt in der Funktionsweise eines Sprachmodells: Es sagt das wahrscheinlichste nächste Wort voraus, ohne ein eigenes Faktenverständnis zu haben. Fehlt echtes Wissen, füllt es die Lücke mit etwas, das klingt, als wäre es richtig.

Warum das ein Problem ist

Das Tückische an Halluzinationen ist, dass sie sich sprachlich nicht von korrekten Antworten unterscheiden. Ein erfundener Preis, eine falsche Frist oder eine erfundene Quelle wirken genauso souverän wie die Wahrheit. Für Unternehmen ist das riskant: Kunden treffen Entscheidungen auf Basis falscher Auskünfte, und das Vertrauen leidet.

Wie Kyros gegensteuert

Kyros reduziert Halluzinationen mit RAG: Antworten werden an konkrete Abschnitte aus Ihrer Wissensdatenbank gebunden, statt frei erzeugt zu werden. Grundierte Antworten zitieren ihre Quellen, sodass sich jede Aussage überprüfen lässt, und fehlt eine Information, rät der Assistent nicht, sondern sagt es ehrlich. Für heikle Fragen sorgen zusätzlich Golden Answers dafür, dass exakt die freigegebene Antwort erscheint.