Was istFine-Tuning?
Beim Fine-Tuning trainiert man ein Sprachmodell mit eigenen Daten nach, und anders als bei RAG verändert sich dabei das Modell selbst.
Direkt zur Anfrage
Sprechen wir über Ihr Projekt.
Erst prüfen wir, ob das Vorhaben zu Ihrem Geschäftsmodell passt. Dann folgt ein Vorschlag mit Phasen und Aufwand.
KI mit Unternehmenswissen besprechen oder anrufen: +49 151 1576 5566Fine-Tuning heißt, ein vortrainiertes Sprachmodell mit eigenen Daten nachzutrainieren, sodass sich das Modell selbst verändert. Es ist neben RAG der zweite Weg, einem Modell eigenes Wissen mitzugeben, und eignet sich für andere Aufgaben, als man oft annimmt.
- Beim Fine-Tuning ändert sich das Modell, bei RAG bleibt es unangetastet und bekommt nur Lesestoff dazu.
- Für Tonfall, ein festes Ausgabeformat oder eine Fachsprache ist Fine-Tuning gut geeignet.
- Bei Faktenwissen lag RAG in einem Vergleich, der auf der EMNLP 2024 erschien, durchweg vorn.
Bringt Fine-Tuning oder RAG Ihr Unternehmenswissen besser in die KI?
Beide Wege verfolgen dasselbe Ziel und gehen es gegensätzlich an. Beim Fine-Tuning wird das Modell mit Ihren Daten weitertrainiert und trägt das Gelernte danach in sich, bei RAG bleibt es, wie es ist, und schlägt vor jeder Antwort in Ihren Unterlagen nach (die Fundstelle kann es dann gleich mitnennen).
Welcher Weg Fakten besser verankert, hat ein Team von Microsoft in Israel um Oded Ovadia untersucht. Das Nachtrainieren ohne Anleitung brachte etwas, RAG lag in den Tests aber durchweg vorn, bei schon bekanntem Wissen genauso wie bei völlig neuem.
Wofür sich Fine-Tuning in Ihrem Betrieb wirklich eignet
Abschreiben sollte man Fine-Tuning deshalb nicht. Es taugt dazu, einem Modell einen Tonfall, ein festes Ausgabeformat oder eine Fachsprache beizubringen, also Dinge, die sich selten ändern und nicht an einer Fundstelle hängen. Wo sich Fakten laufend ändern und belegbar sein müssen, ist RAG gefragt, und für Unternehmenswissen würden wir in den allermeisten Fällen damit anfangen und Fine-Tuning erst angehen, wenn sich ein handfester Grund zeigt.
Auch beim Datenschutz gibt es einen Unterschied, auf den die Datenschutzkonferenz in ihrer Orientierungshilfe zu RAG vom Oktober 2025 hinweist. Für die Vektordatenbank und die hinterlegten Dokumente lässt sich ein Rechte- und Rollenkonzept umsetzen, im Sprachmodell selbst kann man dagegen nicht steuern, wer welche Information bekommt, und das gilt eben auch für Daten, die man hineintrainiert hat.
Häufige Fragen
Muss ich bei jeder Änderung neu trainieren?
Ja, neue oder geänderte Inhalte wirken beim Fine-Tuning erst nach einem erneuten Training. Bei RAG genügt es, die geänderte Datei neu einzulesen.
Kann ein nachtrainiertes Modell seine Quellen nennen?
Nicht von sich aus. Das Wissen steckt danach im Modell, eine Quellenangabe ist dabei nicht vorgesehen, während RAG die Absätze nennen kann, auf die es sich stützt.
Lohnt sich Fine-Tuning für einen kleinen Betrieb?
Für Faktenwissen eher selten, dafür ist RAG der naheliegende Start. Interessant wird es, wenn ein Modell zuverlässig in einem bestimmten Format oder einer bestimmten Fachsprache antworten soll.
Wo Sie das Thema vertiefen
Was ist RAG? Retrieval Augmented Generation einfach erklärt
RAG: KI mit Ihrem Unternehmenswissen verbinden
Begriffe, die Sie im selben Zusammenhang kennen sollten
RAG (Retrieval Augmented Generation) · Vektordatenbank · LLM (Large Language Model) · Halluzination (KI) · Zum KI-Glossar A-Z
Fine-Tuning ändert, wie ein Modell schreibt, RAG ändert, was es weiß, und bei Unternehmenswissen ist meist die zweite Frage die dringendere.