Zurück zum Lernbereich

Transfer Learning & Fine-Tuning

Wie man ein KI-Modell für sich gewinnt, statt es selbst aufzuziehen — denn das Training von null ist unbezahlbar.

  • Grundlagen
  • 10 min
  • Fortgeschritten

Einfache Sprache

Diese Vorschau ist in Einfacher Sprache. Das ganze Portal gibt es auch in Einfacher Sprache. Du kannst oben die Sprache wechseln. Oder nutze den Knopf unten. Unsere Texte in Einfacher Sprache entstehen KI-gestützt und werden redaktionell begleitet. Sie orientieren sich an den Grundprinzipien der Leichten Sprache, sind aber keine geprüfte Leichte Sprache: Eine Prüfgruppe von Menschen mit Lernschwierigkeiten prüft sie nicht.

Vorschau: Transfer Learning und Fine-Tuning

Was ist Transfer Learning?

Das Training von KI-Modellen kostet Millionen Euro. Transfer Learning ist ein Abkürzungsweg. Transfer Learning heißt: Man nutzt ein fertiges Modell als Basis. Dann passt man es für neue Aufgaben an.

Fine-Tuning

Fine-Tuning bedeutet: Ein fertiges Modell weitertrainieren. Man zeigt ihm neue Beispiele. Es lernt neue Fähigkeiten dazu. So kann ein Modell zum Experten für Medizin werden.

LoRA: Günstiges Fine-Tuning

LoRA ist eine Methode beim Fine-Tuning. LoRA bedeutet: Nur ein kleiner Teil des Modells wird geändert. Das spart viel Geld und Rechenzeit. Statt Tausenden Euro reichen oft Hundert Euro.

Die leistungsstärksten KI-Modelle der Welt kosten Hunderte Millionen Dollar im Training. Trotzdem kann ein einzelner Entwickler mit einer einzelnen GPU frei verfügbare vortrainierte Modelle an einem Wochenende für wenige Hundert Dollar auf spezifische Aufgaben anpassen.

Das ist kein Paradox — das ist Transfer Learning. Dieser Artikel erklärt, wie vortrainierte Gewichte moderne KI zugänglich machen, wie Fine-Tuning Modelle an deine Bedürfnisse anpasst und wie LoRA die Kosten der Spezialisierung drastisch senkt, im Beispiel unten um mehr als 80 %.

Der Abkürzungsweg — Vortrainierte Gewichte & Foundation Models

Definition

Transfer Learning

Analogie

Training von Null ist wie ein Baby aufzuziehen, bis es Chirurg wird: 25 Jahre allgemeine Ausbildung vor der Spezialisierung. Transfer Learning ist wie einen Biologieabsolventen einzustellen und ihm Chirurgie beizubringen — das Grundlagenwissen (Sprache, Mathematik, Biologie) ist bereits vorhanden. Du trainierst nur die Spezialisierung.

Ein Mensch kann Wissen flexibel auf völlig neue Bereiche anwenden. Ein auf juristische Texte feingetuntes Sprachmodell kann nicht plötzlich Bilder generieren — Transfer Learning funktioniert am besten, wenn Quell- und Zieldomäne verwandt sind. Außerdem vergessen Menschen selten Grundfertigkeiten beim Erlernen neuer — Modelle können jedoch unter katastrophalem Vergessen leiden.

Von Null trainieren

~640 M $

~640 Mio. $ für 16.000 GPUs (Anschaffung)

Transfer Learning

~250 $

~250 $ auf 1 GPU

Ein Startup baut einen juristischen Chatbot. Option A (von Null): 6 Monate, ~50 Mio. $, 10.000 GPUs, Millionen juristischer Texte. Option B (Transfer Learning): den fertigen Llama-3-70B-Speicherstand (Checkpoint) nehmen, mit 5.000 annotierten Gerichtsentscheidungen sparsam feintunen (mit LoRA, dazu unten mehr), 3 Tage, ~250 $, 1 GPU. Option B liefert oft bessere Ergebnisse, weil das Foundation Model bereits komplexe Sprache und Logik versteht.

Eine einflussreiche Studie von Yosinski et al. (2014) trainierte neuronale Netze auf ImageNet und fror unterschiedlich viele Schichten ein. Ergebnis: Schichten 1-2 sind nahezu perfekt transferierbar — sie lernen universelle Merkmale wie Kanten, Texturen und grundlegende Formen. Danach sinkt die Übertragbarkeit, ab Schicht 6 vor allem wegen Spezialisierung. Diese Erkenntnis überträgt sich auf Sprachmodelle: Frühe Transformer-Schichten kodieren Syntax und Grammatik, spätere Schichten kodieren aufgabenspezifisches Wissen. Deshalb reicht es bei klassischen Bild- und Textklassifikatoren oft, nur die oberen Schichten feinzutunen. Bei großen Sprachmodellen setzt man heute meist kleine LoRA-Adapter in alle Schichten ein, dazu unten mehr.

Untere Schichten (universal) Grammatik, Kanten, einfache Muster — transferierbar auf fast jede Aufgabe
Mittlere Schichten (semi-transferierbar) Komplexere Muster — teilweise aufgabenübergreifend nutzbar
Obere Schichten (aufgabenspezifisch) Domänenwissen — hier wird feingetunt

Das Fine-Tuning — Gewichte anpassen

Ein erfahrener Journalist (Foundation Model) wird als Pressesprecher eines Pharmaunternehmens eingestellt (Fine-Tuning). Er kann bereits hervorragend schreiben, muss aber Fachjargon und Unternehmenston lernen. Nach 1.000 internen Dokumenten produziert er perfekte Pressemitteilungen.

Fine-Tuning setzt das Training auf einem vortrainierten Modell mit einem kleineren, aufgabenspezifischen Datensatz fort. Die existierenden Gewichte werden angepasst (nicht neu initialisiert). Drei Hauptvarianten: (1) Supervised Fine-Tuning (SFT) — Training mit Eingabe-Ausgabe-Paaren zur Durchsetzung eines bestimmten Antwortformats. (2) Instruction Tuning — eine verbreitete SFT-Spielart, die dem Modell beibringt, Anweisungen präzise zu befolgen. (3) RLHF — menschliche Bewerter steuern das Modell in Richtung bevorzugter, sicherer, hilfreicher Antworten. Inzwischen kommt vor allem bei Reasoning-Modellen Verstärkungslernen mit automatisch prüfbaren Belohnungen hinzu, etwa für richtige Mathe-Lösungen oder bestandene Code-Tests (bekannt geworden Anfang 2025 durch DeepSeek-R1). RLHF wird im eigenen Artikel „RLHF: Wie LLMs Höflichkeit lernen“ vertieft. Bei OpenAI schließt sich diese Tür gerade: Seit Mai 2026 nimmt OpenAI keine neuen Fine-Tuning-Kunden mehr an, ab dem 6. Januar 2027 auch von bestehenden Kunden keine neuen Fine-Tuning-Aufträge. Wer dort nicht mehr feintunen darf, weicht auf offene Modelle wie Llama aus.

Ein Journalist würde offensichtlich falsche Behauptungen in Firmenmaterial hinterfragen. Ein feingetuntes Modell übernimmt Trainingsdaten unkritisch und reproduziert Fehler mit maximaler Konfidenz. Das ist das "Garbage in, garbage out"-Risiko des Fine-Tunings.

SFT (Supervised Fine-Tuning)

Training mit Eingabe-Ausgabe-Paaren. Erzwingt ein bestimmtes Antwortformat. Beispiel: Modell soll immer mit strukturierter JSON-Ausgabe antworten.

Instruction Tuning

Dem Modell beibringen, natürlichsprachliche Anweisungen präzise zu befolgen. Beispiel: "Fasse diesen Text in 3 Sätzen zusammen" wird zuverlässig befolgt.

RLHF: Menschliche Bewerter bewerten Modellausgaben. Das Modell lernt, bevorzugte, sichere und hilfreiche Antworten zu produzieren. Mehr dazu im Artikel zu RLHF.

Fine-Tuning

Verändert Gewichte dauerhaft. Nutzen für: Stil, Ton, Verhalten, Domänenwissen. Das Modell "lernt" neue Fähigkeiten. Daten sind danach fest eingebaut.

RAG (Retrieval-Augmented Generation)

Keine Gewichtsänderung. Stellt externe Dokumente als Kontext zur Verfügung. Nutzen für: aktuelle Fakten, sich ändernde Daten, Firmen-Dokumentation. Aktualisierung ohne Neutraining.

Fine-Tuning von Llama 3 70B mit 1.000 anonymisierten Patientenakten + 500 medizinischen Leitlinien ergibt ein Modell, das sicher im Fachjargon und Format medizinischer Dokumentation antwortet. Training auf 8x A100-GPUs dauert ~48 Stunden und kostet ~768 $. Vergleich zu den Millionen fürs Vortraining: Fine-Tuning ist ein Bruchteil.

Achtung

Häufiges Missverständnis: Fine-Tuning für aktuelle Fakten

"Ich sollte mein Modell feintunen, damit es unsere neuesten Produkte kennt" — FALSCH. Verwende RAG für Fakten, die sich ändern. Fine-Tuning ist dafür, WIE das Modell antwortet (Stil, Ton, Format). RAG ist dafür, WAS es aktuell wissen muss (aktuelle Daten, Dokumente).

Achtung

Warnung: Katastrophales Vergessen

Wer zu lange und zu intensiv auf einer engen Domäne feintunt, riskiert, dass das Modell sein Allgemeinwissen verliert. Stell dir einen Chirurgen vor, der nach fünf Jahren reiner Chirurgie keine einfache Rechnung mehr schafft: bei Menschen selten, bei Modellen ein reales Risiko. Gegenmaßnahme: gemischte Trainingsdaten (Domäne + allgemein), niedrigere Lernrate, weniger Epochen.

Interaktiv: Wie viele Schichten einfrieren?

Beim Fine-Tuning entscheidest du, welche Schichten weiterlernen dürfen. Eingefrorene Schichten behalten ihre vortrainierten Gewichte, nur die offenen passen sich an die neue Aufgabe an. Das Netz hat acht Schichten wie das Netz aus der Studie von Yosinski et al. (2014). Verschiebe die Frost-Grenze und vergleiche: Wie stark passt sich das Modell an, und wie viel Allgemeinwissen behält es? Die Balken zeigen die Richtung, keine Messwerte.

Der Adapter — LoRA & QLoRA

Statt dein gesamtes Smartphone für jeden Anwendungsfall neu zu bauen, steckst du einen winzigen Adapter-Chip ein. Ein Chip macht es zum medizinischen Experten, ein anderer zum juristischen Berater. Das Telefon selbst bleibt identisch. Chips sind günstig in der Herstellung und jederzeit austauschbar.

Low-Rank Adaptation (LoRA), 2021 von Microsoft-Forschern eingeführt, friert das gesamte Basismodell ein und fügt kleine zusätzliche Gewichtsmatrizen (Adapter) in die bestehenden Schichten ein. Nur diese Adapter werden trainiert — typischerweise deutlich unter 1 % der Gesamtparameter. QLoRA (2023) kombiniert dies mit 4-Bit-Quantisierung und ermöglicht Fine-Tuning von 65B+-Modellen auf einer einzelnen GPU.

Ein physischer Chip fügt Hardware hinzu. LoRA modifiziert die existierenden mathematischen Berechnungen unsichtbar. Obwohl der Adapter winzig ist, verändert er das Verhalten des Modells bei JEDER Vorhersage, nicht nur bei spezialisierten Teilaufgaben.

Volles Fine-Tuning

>700 GB

Mehrere Hundert GB VRAM (allein die Gewichte ~140 GB, dazu Gradienten und Optimizer-Zustände; QLoRA-Paper: über 780 GB für ein 65B-Modell)

QLoRA Fine-Tuning

~40 GB

~40 GB VRAM — auf einer einzelnen GPU möglich (statt 8 GPUs beim vollen Fine-Tuning)

  1. 1. Basismodell einfrieren — alle originalen Gewichte gesperrt
  2. 2. Adapter-Matrizen B und A in Zielschichten einfügenRang r << Originaldimension
  3. 3. Nur B und A erhalten Gradientenaktualisierungenmeist unter 1 % der Parameter
  4. 4. Adapter als kleine Datei speichernz. B. wenige Hundert MB statt 140 GB
  5. 5. Bei Inferenz: W + B*A berechnen. Adapter für verschiedene Aufgaben austauschen

Spezialisierung von Llama 3 70B für deutsche Rechtstexte. Volles Fine-Tuning: 8x A100-GPUs, ~768 $, erzeugt 140 GB Modelldateien. LoRA (mit QLoRA-Quantisierung): 1x GPU mit 48 GB Speicher (z. B. A6000), ~120 $, erzeugt eine Adapterdatei von wenigen Hundert MB. Der Adapter erreicht in den Original-Studien die Qualität des vollen Fine-Tunings, in der Praxis oft knapp darunter.

Die genaue Mathematik brauchst du nicht — aber das Prinzip ist faszinierend: Die originale Gewichtsmatrix W hat die Dimensionen d x d (z. B. 4096 x 4096 = 16,8 Mio. Parameter). LoRA schreibt das Update als B*A (neue Matrix: W + B*A), wobei B die Dimension d x r hat und A die Dimension r x d, mit r << d (z. B. r = 8). Statt d^2 = 16,8 Mio. Parameter zu aktualisieren, werden nur 2*d*r = 65.536 Parameter trainiert — 256-mal weniger. "Low-Rank" bedeutet: Der Adapter kann nur Änderungen in einem niedrigdimensionalen Unterraum darstellen. Empirisch erfasst dieser Unterraum den Großteil des nützlichen Anpassungssignals. Stell dir vor, du baust nicht alle Gassen einer Stadt um, sondern passt nur die wenigen großen Hauptstraßen an — diese Hauptstraßen sind der niedrigdimensionale Unterraum.

Merke

Zusammenfassung

  • Transfer Learning nutzt vortrainierte Gewichte, weil untere Netzwerkschichten universelle Merkmale lernen (Grammatik, Kanten, einfache Muster), die auf viele Aufgaben übertragbar sind — nur die oberen Schichten brauchen Spezialisierung.
  • Fine-Tuning verändert das Modell dauerhaft (neue Gewichte); RAG gibt dem Modell temporären Kontext ohne Gewichtsänderung. Wähle Fine-Tuning für Stil/Verhalten, RAG für Fakten/Daten.
  • LoRA trainiert meist unter 1 % der Parameter über kleine Adapter-Matrizen und reduziert VRAM, zusammen mit 4-Bit-Quantisierung (QLoRA), von mehreren Hundert GB auf ~40 GB sowie die Kosten im Beispiel von ~768 $ auf ~120 $.

Du weißt jetzt, wie man ein Modell anpasst. Aber wie generiert das feingetunte Modell tatsächlich Text Wort für Wort? Der nächste Artikel (Sampling & Temperature) enthüllt den probabilistischen Mechanismus hinter jeder KI-Antwort.

Prüfen

Quiz: Transfer Learning & Fine-Tuning

Noch offen

Warum lassen sich die unteren Schichten eines vortrainierten neuronalen Netzes gut auf neue Aufgaben übertragen?

Wähle eine Antwort

Auflösung: 1) B · 2) B · 3) B · 4) C · 5) A

Prüfen

Wissens-Check

Kannst du das in eigenen Worten erklären? Hake ab, was sitzt.

0 von 3 sitzen