RAG:KI, die IhrWissen kennt

Wir verbinden Sprachmodelle mit Ihren Dokumenten, Akten und Datenbanken. Die KI antwortet dann aus Ihrem Wissen und zeigt, woher die Antwort stammt.

RAG-Projekt anfragen

Auf dieser Seite

Anfrage

Nikolai Schöbel und Jeremias Burger, Co-Founder Scalableloops

Sprechen wir über Ihr Projekt.

Erst prüfen wir, ob das Vorhaben zu Ihrem Geschäftsmodell passt. Dann folgt ein Vorschlag mit Phasen und Aufwand.

RAG-Projekt anfragen oder anrufen: +49 151 1576 5566

RAG

Retrieval Augmented Generation (RAG) bedeutet: Bevor ein Sprachmodell antwortet, sucht ein vorgeschaltetes System die passenden Stellen aus Ihren eigenen Unterlagen heraus und gibt sie dem Modell mit. Die KI antwortet dann nicht aus ihrem allgemeinen Trainingswissen, sondern aus Ihren Verträgen, Handbüchern, Akten oder Produktdaten, und kann die Quelle nennen. Scalableloops baut solche Retrieval-Pipelines und Wissensgraphen für Unternehmen und Organisationen, in denen Wissen verteilt, umfangreich und oft vertraulich ist, etwa in Recht, Verwaltung und Gesundheitswesen.

In Kürze

RAG verbindet ein Sprachmodell mit einer Suche in Ihren eigenen Dokumenten.
Der Begriff stammt aus einer Studie von Patrick Lewis und Kollegen, vorgestellt auf der NeurIPS 2020.
Ein Wissensgraph ergänzt die Suche um Beziehungen: wer, was, wofür zuständig, gültig seit wann.
Für vertrauliche Daten planen wir mit Hosting in Deutschland oder auf Ihren eigenen Servern.

Stand 26.09.2026Scalableloops GmbH, EggenfeldenLesezeit 7 min

Nikolai Schöbel und Jeremias Burger

Co-Founder der Scalableloops GmbH. Nikolai Schöbel verantwortet Online-Marketing und KI-Strategie, Jeremias Burger die KI-Architektur. Beide bauen und schulen KI-Systeme im eigenen Agenturalltag.

Auf dieser Seite

Was ist Retrieval Augmented Generation?
Wann braucht es zusätzlich einen Wissensgraphen?
Wo setzen wir RAG und Wissensgraphen ein?
Was kann RAG nicht leisten?
Häufige Fragen
So verbinden wir KI mit Ihrem Wissen
Woher die Angaben auf dieser Seite stammen

Begriff

Was ist Retrieval Augmented Generation?

Große Sprachmodelle (Large Language Models) speichern Wissen in ihren Parametern, also in dem, was sie beim Training gelernt haben. Dieses Wissen ist allgemein, hat einen Stichtag und enthält Ihre internen Unterlagen nicht. Genau hier setzt RAG an.

Der Begriff geht auf die Arbeit „Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks“ von Patrick Lewis und Kollegen zurück, die 2020 auf der Fachkonferenz NeurIPS angenommen wurde. Die Autoren kombinieren dort das im Modell gespeicherte Wissen mit einem durchsuchbaren Textbestand, auf den das Modell beim Antworten zugreift. Das Prinzip ist bis heute dasselbe: erst finden, dann formulieren.

Für Ihr Unternehmen heißt das: Die KI bekommt zu jeder Frage die wenigen Absätze aus Ihren Unterlagen, die dazu passen, und stützt ihre Antwort darauf. Weil die Fundstellen bekannt sind, lässt sich jede Antwort gegen die Quelle prüfen. Für die Implementierung heißt das: Die meiste Arbeit steckt nicht im Modell, sondern darin, die richtigen Informationen auffindbar zu machen.

Wissensgraph

Wann braucht es zusätzlich einen Wissensgraphen?

Eine reine Textsuche findet ähnliche Formulierungen. Sie weiß aber nicht, dass Vertrag A durch Nachtrag B geändert wurde, dass Frau X für Standort Y zuständig ist oder dass eine Regel erst ab einem bestimmten Datum gilt. Solche Beziehungen bildet ein Wissensgraph ab: Er speichert Dinge und ihre Verbindungen, nicht nur Texte.

Google hat das Prinzip 2012 mit seinem Knowledge Graph unter dem Leitsatz „things, not strings“ bekannt gemacht. Im Unternehmen nutzen wir es dort, wo Fragen über mehrere Dokumente hinweg beantwortet werden müssen, etwa in Akten, Regelwerken und Zuständigkeiten.

Frage	Textsuche (RAG)	mit Wissensgraph
„Was steht im Handbuch zur Reklamation?“	passend	nicht nötig
„Welche Fassung dieses Vertrags gilt heute?“	unsicher	passend
„Wer ist für diesen Vorgang zuständig?“	unsicher	passend
„Fasse alle Protokolle zu Projekt X zusammen.“	passend	hilfreich für die Zuordnung

Praxis

Wo setzen wir RAG und Wissensgraphen ein?

Bei JourF’x verantworten wir die KI-Pipelines für das Verständnis von Fachkontext. Aus Gesprächen in Medizin, Recht und öffentlicher Verwaltung entsteht dort eine strukturierte, revisionssichere Dokumentation, gestützt auf die Unterlagen, die zum Termin gehören.

Für Defence:Connect liefern wir KI-Pipelines, die Regelwerke wie EN 9100 und Vorgaben zur Exportkontrolle für mittelständische Betriebe nutzbar machen, mit Nachvollziehbarkeit als Voraussetzung. Für sicherheitskritische Bereiche planen wir dort auch mit Modellen, die auf eigener Infrastruktur laufen.

Wie wir mit dem Thema lokaler Betrieb umgehen und was „lokal“ technisch wirklich heißt, erklären wir in Lokale KI im Unternehmen.

Grenzen

Was kann RAG nicht leisten?

RAG ist nur so gut wie die Unterlagen, auf die es zugreift. Veraltete, widersprüchliche oder unvollständige Dokumente führen zu ebensolchen Antworten. Deshalb beginnt jedes Projekt bei uns mit einer Bestandsaufnahme der Quellen: Was ist aktuell, was ist doppelt, wer pflegt es?

Und: Eine Antwort mit Quelle ist nachprüfbar, aber nicht automatisch richtig. Für Entscheidungen mit rechtlicher oder medizinischer Tragweite bleibt die Freigabe beim Menschen.

Häufige Fragen

Was ist der Unterschied zwischen RAG und einem trainierten Modell?

Beim Training ändert sich das Modell selbst, das ist aufwendig und schwer rückgängig zu machen. Bei RAG bleibt das Modell unverändert; es bekommt zu jeder Frage die passenden Stellen aus Ihren Unterlagen. Neue Dokumente sind damit sofort nutzbar.

Kann RAG mit vertraulichen Daten arbeiten?

Ja, wenn Speicherort und Modell dazu passen. Wir planen je nach Schutzbedarf mit Hosting in Deutschland oder mit Betrieb auf Ihren eigenen Servern.

Welche Unterlagen lassen sich einbinden?

Typisch sind Handbücher, Verträge, Protokolle, Wissensartikel, Produktdaten und Einträge aus Datenbanken. Welche Quellen sinnvoll sind, klären wir in der Bestandsaufnahme.

Brauche ich immer einen Wissensgraphen?

Nein. Für Fragen, die sich aus einem Dokument beantworten lassen, reicht eine gute Suche. Ein Wissensgraph lohnt sich, wenn Beziehungen, Fassungen oder Zuständigkeiten über viele Dokumente hinweg zählen.

Was kostet ein RAG-Projekt?

Das hängt von Menge und Art der Quellen, den angebundenen Systemen und den Anforderungen an den Betrieb ab. Nach einem Gespräch erhalten Sie ein Angebot mit Phasen und Aufwand.

Ablauf

So verbinden wir KI mit Ihrem Wissen

01
Fragen sammeln
Welche Fragen stellt Ihr Team heute immer wieder, und wo stehen die Antworten?
02
Quellen prüfen
Wir sichten Ihre Unterlagen auf Aktualität, Dubletten und Zuständigkeit.
03
Pilot
Die KI beantwortet einen abgegrenzten Fragenkreis mit Quellenangabe, Ihr Team bewertet die Antworten.
04
Betrieb
Wir legen fest, wie neue Dokumente dazukommen und wie die Qualität laufend geprüft wird.