Transfer Learning & Fine-Tuning
Wie man ein KI-Modell für sich gewinnt, statt es selbst aufzuziehen — denn das Training von null ist unbezahlbar.
Die leistungsstärksten KI-Modelle der Welt kosten Hunderte Millionen Dollar im Training. Trotzdem kann ein einzelner Entwickler mit einer einzelnen GPU frei verfügbare vortrainierte Modelle an einem Wochenende für wenige Hundert Dollar auf spezifische Aufgaben anpassen.
Das ist kein Paradox — das ist Transfer Learning. Dieser Artikel erklärt, wie vortrainierte Gewichte moderne KI zugänglich machen, wie Fine-Tuning Modelle an deine Bedürfnisse anpasst und wie LoRA die Kosten der Spezialisierung drastisch senkt, im Beispiel unten um mehr als 80 %.
Der Abkürzungsweg — Vortrainierte Gewichte & Foundation Models
Definition
Transfer Learning
Analogie
Definition
Ein Mensch kann Wissen flexibel auf völlig neue Bereiche anwenden. Ein auf juristische Texte feingetuntes Sprachmodell kann nicht plötzlich Bilder generieren — Transfer Learning funktioniert am besten, wenn Quell- und Zieldomäne verwandt sind. Außerdem vergessen Menschen selten Grundfertigkeiten beim Erlernen neuer — Modelle können jedoch unter katastrophalem Vergessen leiden.
Von Null trainieren
~640 M $
~640 Mio. $ für 16.000 GPUs (Anschaffung)
Transfer Learning
~250 $
~250 $ auf 1 GPU
Ein Startup baut einen juristischen Chatbot. Option A (von Null): 6 Monate, ~50 Mio. $, 10.000 GPUs, Millionen juristischer Texte. Option B (Transfer Learning): den fertigen Llama-3-70B-Speicherstand (Checkpoint) nehmen, mit 5.000 annotierten Gerichtsentscheidungen sparsam feintunen (mit LoRA, dazu unten mehr), 3 Tage, ~250 $, 1 GPU. Option B liefert oft bessere Ergebnisse, weil das Foundation Model bereits komplexe Sprache und Logik versteht.
Eine einflussreiche Studie von Yosinski et al. (2014) trainierte neuronale Netze auf ImageNet und fror unterschiedlich viele Schichten ein. Ergebnis: Schichten 1-2 sind nahezu perfekt transferierbar — sie lernen universelle Merkmale wie Kanten, Texturen und grundlegende Formen. Danach sinkt die Übertragbarkeit, ab Schicht 6 vor allem wegen Spezialisierung. Diese Erkenntnis überträgt sich auf Sprachmodelle: Frühe Transformer-Schichten kodieren Syntax und Grammatik, spätere Schichten kodieren aufgabenspezifisches Wissen. Deshalb reicht es bei klassischen Bild- und Textklassifikatoren oft, nur die oberen Schichten feinzutunen. Bei großen Sprachmodellen setzt man heute meist kleine LoRA-Adapter in alle Schichten ein, dazu unten mehr.
Das Fine-Tuning — Gewichte anpassen
Ein erfahrener Journalist (Foundation Model) wird als Pressesprecher eines Pharmaunternehmens eingestellt (Fine-Tuning). Er kann bereits hervorragend schreiben, muss aber Fachjargon und Unternehmenston lernen. Nach 1.000 internen Dokumenten produziert er perfekte Pressemitteilungen.
Fine-Tuning setzt das Training auf einem vortrainierten Modell mit einem kleineren, aufgabenspezifischen Datensatz fort. Die existierenden Gewichte werden angepasst (nicht neu initialisiert). Drei Hauptvarianten: (1) Supervised Fine-Tuning (SFT) — Training mit Eingabe-Ausgabe-Paaren zur Durchsetzung eines bestimmten Antwortformats. (2) Instruction Tuning — eine verbreitete SFT-Spielart, die dem Modell beibringt, Anweisungen präzise zu befolgen. (3) RLHF — menschliche Bewerter steuern das Modell in Richtung bevorzugter, sicherer, hilfreicher Antworten. Inzwischen kommt vor allem bei Reasoning-Modellen Verstärkungslernen mit automatisch prüfbaren Belohnungen hinzu, etwa für richtige Mathe-Lösungen oder bestandene Code-Tests (bekannt geworden Anfang 2025 durch DeepSeek-R1). RLHF wird im eigenen Artikel „RLHF: Wie LLMs Höflichkeit lernen“ vertieft. Bei OpenAI schließt sich diese Tür gerade: Seit Mai 2026 nimmt OpenAI keine neuen Fine-Tuning-Kunden mehr an, ab dem 6. Januar 2027 auch von bestehenden Kunden keine neuen Fine-Tuning-Aufträge. Wer dort nicht mehr feintunen darf, weicht auf offene Modelle wie Llama aus.
Ein Journalist würde offensichtlich falsche Behauptungen in Firmenmaterial hinterfragen. Ein feingetuntes Modell übernimmt Trainingsdaten unkritisch und reproduziert Fehler mit maximaler Konfidenz. Das ist das "Garbage in, garbage out"-Risiko des Fine-Tunings.
Training mit Eingabe-Ausgabe-Paaren. Erzwingt ein bestimmtes Antwortformat. Beispiel: Modell soll immer mit strukturierter JSON-Ausgabe antworten.
Dem Modell beibringen, natürlichsprachliche Anweisungen präzise zu befolgen. Beispiel: "Fasse diesen Text in 3 Sätzen zusammen" wird zuverlässig befolgt.
RLHF: Menschliche Bewerter bewerten Modellausgaben. Das Modell lernt, bevorzugte, sichere und hilfreiche Antworten zu produzieren. Mehr dazu im Artikel zu RLHF.
Verändert Gewichte dauerhaft. Nutzen für: Stil, Ton, Verhalten, Domänenwissen. Das Modell "lernt" neue Fähigkeiten. Daten sind danach fest eingebaut.
Keine Gewichtsänderung. Stellt externe Dokumente als Kontext zur Verfügung. Nutzen für: aktuelle Fakten, sich ändernde Daten, Firmen-Dokumentation. Aktualisierung ohne Neutraining.
Fine-Tuning von Llama 3 70B mit 1.000 anonymisierten Patientenakten + 500 medizinischen Leitlinien ergibt ein Modell, das sicher im Fachjargon und Format medizinischer Dokumentation antwortet. Training auf 8x A100-GPUs dauert ~48 Stunden und kostet ~768 $. Vergleich zu den Millionen fürs Vortraining: Fine-Tuning ist ein Bruchteil.
BERT verbessert Sprachverständnis erheblich
Ein wichtiger Fortschritt der bidirektionalen Sprachmodelle und die Geburt des modernen NLP. Im Oktober 2018 veröffentlichten Jacob Devlin und sein Team bei Google Research das Paper zu BERT – Bidirectional Encoder Representations from Transformers. Diese Innovation veränderte die Sprachverarbeitung erheblich, indem sie erstmals tiefe bidirektionale Repräsentationen aus unmarkierten Texten trainierte. Im Gegensatz zu vorherigen Modellen berücksichtigt BERT sowohl linken als auch rechten Kontext in allen Schichten gleichzeitig. Das Ergebnis war bemerkenswert: BERT erreichte neue Bestwerte in elf NLP-Aufgaben und verbesserte den GLUE-Score um beachtliche 7,7 Prozentpunkte auf 80,5%. Das eigentliche Pre-Training verschlang zwar mehrere Tage auf vielen TPUs — doch die Open-Source-Veröffentlichung demokratisierte Spitzentechnologie: Das fertig vortrainierte Modell ließ sich auf einer einzelnen Cloud-TPU in höchstens etwa einer Stunde an die eigene Aufgabe feinjustieren (Fine-Tuning). Kurz zuvor hatten ULMFiT und OpenAIs erstes GPT das Pre-Training-Fine-Tuning-Paradigma vorgemacht; BERT machte es zum Standard, und es bildet bis heute die Grundlage aller großen Sprachmodelle.
Achtung
Häufiges Missverständnis: Fine-Tuning für aktuelle Fakten
"Ich sollte mein Modell feintunen, damit es unsere neuesten Produkte kennt" — FALSCH. Verwende RAG für Fakten, die sich ändern. Fine-Tuning ist dafür, WIE das Modell antwortet (Stil, Ton, Format). RAG ist dafür, WAS es aktuell wissen muss (aktuelle Daten, Dokumente).
Achtung
Warnung: Katastrophales Vergessen
Wer zu lange und zu intensiv auf einer engen Domäne feintunt, riskiert, dass das Modell sein Allgemeinwissen verliert. Stell dir einen Chirurgen vor, der nach fünf Jahren reiner Chirurgie keine einfache Rechnung mehr schafft: bei Menschen selten, bei Modellen ein reales Risiko. Gegenmaßnahme: gemischte Trainingsdaten (Domäne + allgemein), niedrigere Lernrate, weniger Epochen.
Interaktiv: Wie viele Schichten einfrieren?
Beim Fine-Tuning entscheidest du, welche Schichten weiterlernen dürfen. Eingefrorene Schichten behalten ihre vortrainierten Gewichte, nur die offenen passen sich an die neue Aufgabe an. Das Netz hat acht Schichten wie das Netz aus der Studie von Yosinski et al. (2014). Verschiebe die Frost-Grenze und vergleiche: Wie stark passt sich das Modell an, und wie viel Allgemeinwissen behält es? Die Balken zeigen die Richtung, keine Messwerte.
Der Adapter — LoRA & QLoRA
Statt dein gesamtes Smartphone für jeden Anwendungsfall neu zu bauen, steckst du einen winzigen Adapter-Chip ein. Ein Chip macht es zum medizinischen Experten, ein anderer zum juristischen Berater. Das Telefon selbst bleibt identisch. Chips sind günstig in der Herstellung und jederzeit austauschbar.
Low-Rank Adaptation (LoRA), 2021 von Microsoft-Forschern eingeführt, friert das gesamte Basismodell ein und fügt kleine zusätzliche Gewichtsmatrizen (Adapter) in die bestehenden Schichten ein. Nur diese Adapter werden trainiert — typischerweise deutlich unter 1 % der Gesamtparameter. QLoRA (2023) kombiniert dies mit 4-Bit-Quantisierung und ermöglicht Fine-Tuning von 65B+-Modellen auf einer einzelnen GPU.
Ein physischer Chip fügt Hardware hinzu. LoRA modifiziert die existierenden mathematischen Berechnungen unsichtbar. Obwohl der Adapter winzig ist, verändert er das Verhalten des Modells bei JEDER Vorhersage, nicht nur bei spezialisierten Teilaufgaben.
Volles Fine-Tuning
>700 GB
Mehrere Hundert GB VRAM (allein die Gewichte ~140 GB, dazu Gradienten und Optimizer-Zustände; QLoRA-Paper: über 780 GB für ein 65B-Modell)
QLoRA Fine-Tuning
~40 GB
~40 GB VRAM — auf einer einzelnen GPU möglich (statt 8 GPUs beim vollen Fine-Tuning)
- 1. Basismodell einfrieren — alle originalen Gewichte gesperrt
- 2. Adapter-Matrizen B und A in Zielschichten einfügenRang r << Originaldimension
- 3. Nur B und A erhalten Gradientenaktualisierungenmeist unter 1 % der Parameter
- 4. Adapter als kleine Datei speichernz. B. wenige Hundert MB statt 140 GB
- 5. Bei Inferenz: W + B*A berechnen. Adapter für verschiedene Aufgaben austauschen
Spezialisierung von Llama 3 70B für deutsche Rechtstexte. Volles Fine-Tuning: 8x A100-GPUs, ~768 $, erzeugt 140 GB Modelldateien. LoRA (mit QLoRA-Quantisierung): 1x GPU mit 48 GB Speicher (z. B. A6000), ~120 $, erzeugt eine Adapterdatei von wenigen Hundert MB. Der Adapter erreicht in den Original-Studien die Qualität des vollen Fine-Tunings, in der Praxis oft knapp darunter.
Die genaue Mathematik brauchst du nicht — aber das Prinzip ist faszinierend: Die originale Gewichtsmatrix W hat die Dimensionen d x d (z. B. 4096 x 4096 = 16,8 Mio. Parameter). LoRA schreibt das Update als B*A (neue Matrix: W + B*A), wobei B die Dimension d x r hat und A die Dimension r x d, mit r << d (z. B. r = 8). Statt d^2 = 16,8 Mio. Parameter zu aktualisieren, werden nur 2*d*r = 65.536 Parameter trainiert — 256-mal weniger. "Low-Rank" bedeutet: Der Adapter kann nur Änderungen in einem niedrigdimensionalen Unterraum darstellen. Empirisch erfasst dieser Unterraum den Großteil des nützlichen Anpassungssignals. Stell dir vor, du baust nicht alle Gassen einer Stadt um, sondern passt nur die wenigen großen Hauptstraßen an — diese Hauptstraßen sind der niedrigdimensionale Unterraum.
Merke
Zusammenfassung
- Transfer Learning nutzt vortrainierte Gewichte, weil untere Netzwerkschichten universelle Merkmale lernen (Grammatik, Kanten, einfache Muster), die auf viele Aufgaben übertragbar sind — nur die oberen Schichten brauchen Spezialisierung.
- Fine-Tuning verändert das Modell dauerhaft (neue Gewichte); RAG gibt dem Modell temporären Kontext ohne Gewichtsänderung. Wähle Fine-Tuning für Stil/Verhalten, RAG für Fakten/Daten.
- LoRA trainiert meist unter 1 % der Parameter über kleine Adapter-Matrizen und reduziert VRAM, zusammen mit 4-Bit-Quantisierung (QLoRA), von mehreren Hundert GB auf ~40 GB sowie die Kosten im Beispiel von ~768 $ auf ~120 $.
Du weißt jetzt, wie man ein Modell anpasst. Aber wie generiert das feingetunte Modell tatsächlich Text Wort für Wort? Der nächste Artikel (Sampling & Temperature) enthüllt den probabilistischen Mechanismus hinter jeder KI-Antwort.
Prüfen
Quiz: Transfer Learning & Fine-Tuning
Warum lassen sich die unteren Schichten eines vortrainierten neuronalen Netzes gut auf neue Aufgaben übertragen?
Wähle eine Antwort
1. Warum lassen sich die unteren Schichten eines vortrainierten neuronalen Netzes gut auf neue Aufgaben übertragen?
2. Ein Unternehmen möchte, dass sein Kundenservice-Chatbot Fragen anhand der neuesten Produktdokumentation beantwortet, die sich wöchentlich ändert. Fine-Tuning oder RAG?
3. Ein Entwickler tunt ein allgemeines Sprachmodell ausschließlich mit 50.000 Rechtsverträgen über 20 Epochen fein. Danach schreibt das Modell exzellente juristische Texte, kann aber keine normalen Gespräche mehr führen. Welches Phänomen erklärt dies?
4. LoRA tunt ein 70B-Parameter-Modell, indem es Adapter-Matrizen trainiert, die meist unter 1 % der Gesamtparameter ausmachen. Warum reicht das aus, um das Modell merklich zu verändern?
5. Ordne die folgenden Ansätze nach Kosten (niedrigste zuerst) für die Spezialisierung von Llama 3 70B auf eine Fachdomäne: (1) Vortraining von Null, (2) Volles Fine-Tuning, (3) LoRA Fine-Tuning
Prüfen
Wissens-Check
Kannst du das in eigenen Worten erklären? Hake ab, was sitzt.
0 von 3 sitzen