Was istRAG?
Retrieval Augmented Generation verbindet ein Sprachmodell mit einer Suche in Unterlagen, die Sie selbst bestimmen.
Direkt zur Anfrage
Sprechen wir über Ihr Projekt.
Erst prüfen wir, ob das Vorhaben zu Ihrem Geschäftsmodell passt. Dann folgt ein Vorschlag mit Phasen und Aufwand.
RAG-Vorhaben besprechen oder anrufen: +49 151 1576 5566RAG (Retrieval Augmented Generation) ist ein Verfahren, bei dem eine KI vor dem Antworten in Unterlagen nachschlägt, die Sie festgelegt haben. Ein vorgeschaltetes Programm sucht die passenden Absätze heraus und legt sie dem Sprachmodell zusammen mit der Frage vor, sodass die Antwort auf Ihrem eigenen Bestand beruht und sich an der Fundstelle nachprüfen lässt.
- Das Modell selbst bleibt unverändert und bekommt bei jeder Frage nur passenden Lesestoff dazu, weshalb geänderte Dokumente schon wirken, sobald sie neu eingelesen sind.
- Erfundene Angaben werden seltener, verschwinden aber nicht.
Wie bringt RAG Ihr Unternehmenswissen in die Antworten einer KI?
Ein großes Sprachmodell kennt nur, was in seinen Trainingsdaten stand, und Ihre Preisliste vom letzten Quartal gehört da sicher nicht dazu. Fragt trotzdem jemand danach, reimt es sich im ungünstigen Fall etwas zusammen, das plausibel klingt und falsch ist. Bei RAG sucht deshalb erst ein Programm in Ihren Wartungsanleitungen, Verträgen oder Wissensartikeln, und das Modell schreibt dann aus dem, was dort tatsächlich steht. Am meisten bringt RAG für Unternehmenswissen dort, wo viele Leute immer wieder in denselben Ordnern suchen, im Kundenservice etwa oder im Qualitätsmanagement mit Regelwerken, die jedes Jahr eine neue Fassung bekommen; bei fünf kurzen Dokumenten gibt man sie dem Modell dagegen einfach direkt mit.
Wie findet RAG die richtige Stelle in Ihren Dokumenten?
Vorbereitet wird, indem man die Dokumente in Abschnitte von einigen Absätzen zerlegt und jeden davon in eine Zahlenreihe übersetzen lässt, die grob seine Bedeutung abbildet; diese Zahlenreihen landen in einer Vektordatenbank. Kommt eine Frage, wird sie genauso übersetzt, und die Datenbank liefert die Abschnitte, die ihr am nächsten liegen (eine Artikelnummer findet man allerdings oft besser per Stichwort, darum verbinden viele Systeme beides). Die meiste Mühe steckt übrigens in dieser Suche und nicht im Sprachmodell, denn liegt die Preisliste von 2024 neben der von 2026, kann die Antwort auf der falschen beruhen.
Wo Sie auch mit RAG die Fundstelle selbst ansehen sollten
RAG macht Halluzinationen seltener, schafft sie aber nicht ab. In einer Stanford-Studie von 2024 schnitten Rechercheprogramme für Juristen, deren Anbieter mit RAG geworben hatten, zwar besser ab als GPT-4 ohne Suche, lagen je nach Werkzeug aber trotzdem in einem Sechstel bis einem Drittel der Testanfragen daneben. Bei Verträgen, Gesundheit oder Geld sollte also ein Mensch die Fundstelle ansehen, bevor er handelt. Und weil ein RAG-System über alles sucht, was man ihm gibt, gehören Gehaltslisten nicht in denselben Bestand wie das Produkthandbuch, es sei denn, die Suche prüft die Berechtigungen jedes Dokuments mit.
Häufige Fragen
Was ist der Unterschied zwischen einem LLM und RAG?
Das LLM ist das Sprachmodell, das schreibt. RAG ist der Aufbau drumherum, der ihm vor jeder Antwort passende Textstellen aus einer Suche vorlegt.
Ist RAG mit der DSGVO vereinbar?
Das hängt am Aufbau. Läuft das System bei einem Cloud-Anbieter, braucht es oft eine Vereinbarung zur Auftragsverarbeitung, und wer ganz sichergehen will, betreibt es auf eigenen Servern.
Wo Sie das Thema vertiefen
Was ist RAG? Retrieval Augmented Generation einfach erklärt
RAG: KI mit Ihrem Unternehmenswissen verbinden
Begriffe, die Sie im selben Zusammenhang kennen sollten
Vektordatenbank · Fine-Tuning · Halluzination (KI) · LLM (Large Language Model) · KI-Assistent · Zum KI-Glossar A-Z
Ob RAG im Alltag trägt, entscheidet sich weniger am Modell als an Ihren Unterlagen und daran, wer sie sehen darf.