Regulierung von Foundation Models
Wer ein Foundation Model trainiert, wird in der EU plötzlich regulatorisch sichtbar.
Als die EU ihren AI Act um Risikoklassen herum entwarf, erkannte sie das Problem mit Allzweck-KI erst nach und nach — Ende 2022 machte ChatGPT es für alle sichtbar. Ein Modell wie GPT-4, das wenige Monate später folgte und juristische Gutachten verfasst UND Memes generiert UND bei medizinischen Diagnosen unterstützt, lässt sich weder als "hohes Risiko" noch als "minimales Risiko" einstufen, denn es ist beides gleichzeitig.
Die Lösung? Reguliere das Fundament, nicht das Gebäude. Dieser Artikel erklärt, wie Kapitel V des AI Act ein eigenes Regelwerk für Anbieter von General Purpose AI (Allzweck-KI) schafft — was sie offenlegen müssen, wann verschärfte Pflichten greifen, warum Open-Source-Modelle bewusst bevorzugt werden und wie die EU-Kommission diese Regeln seit August 2026 mit Bußgeldern durchsetzen kann.
Die zentrale Erkenntnis
GPAI-Modelle sind Chamäleons — ihr Risiko hängt vollständig davon ab, wie sie eingesetzt werden. Der AI Act reagiert darauf, indem er die Verantwortung aufteilt: Provider (Anbieter des Modells) sorgen dafür, dass das Basismodell transparent und dokumentiert ist. Wer das Modell in eine eigene Anwendung einbaut (nachgelagerter Anbieter) oder diese Anwendung einsetzt (Deployer, also Betreiber), stellt sicher, dass die konkrete Anwendung die Anforderungen der jeweiligen Risikoklasse erfüllt. Diese duale Verantwortungsarchitektur erlaubt es, mit einem Regelwerk eine Technologie abzudecken, deren Einsatzzwecke niemand im Voraus kennt.
Das GPAI-Problem — Warum Risikoklassen versagen
General Purpose AI (GPAI) bezeichnet KI-Modelle, die mit enormen Datenmengen für eine Vielzahl von Aufgaben trainiert wurden — ohne auf eine einzelne Anwendung festgelegt zu sein. GPT-5, Claude, Llama oder Gemini sind klassische GPAI-Modelle. Genau diese universelle Einsetzbarkeit schafft ein regulatorisches Problem.
Definition
General Purpose AI (GPAI)
Analogie
Definition
Der risikobasierte Ansatz des AI Act funktioniert pro konkreter Anwendung — aber ein GPAI-Modell hat keine einzelne festgelegte Anwendung. Nutzt du ein Sprachmodell als Chat-Tool, gelten für diese Anwendung nur Transparenzpflichten: Der Chatbot muss offenlegen, dass du mit einer KI sprichst. Wird dasselbe Modell als Kernkomponente einer medizinischen Diagnostik-Software eingesetzt, rutscht die Anwendung sofort in den Hochrisikobereich. Die Lösung: Kapitel V reguliert zusätzlich auf der Ebene des Modellanbieters, unabhängig vom Einsatzzweck.
Entwickelt und trainiert das GPAI-Grundmodell. Verantwortlich für das Fundament: Modellsicherheit, technische Dokumentation, Kapitel-V-Pflichten. Beispiel: Meta veröffentlicht Llama 3.1 8B.
Baut das GPAI-Modell in eine eigene Anwendung ein und bietet sie an. Verantwortlich für den spezifischen Einsatzzweck, z.B. ein HR-Screening-Bot im Hochrisikobereich. Beispiel: Startup baut HR-Bot mit Llama.
Achtung
Irrtum: Nur EU-Firmen sind betroffen
Jeder Provider, der sein Modell auf dem europäischen Markt anbietet, fällt unter Kapitel V — unabhängig vom Unternehmenssitz. OpenAI (USA), Meta (USA), Google (USA): Alle müssen die GPAI-Pflichten erfüllen, wenn ihre Modelle in der EU verfügbar sind.
Die vier Säulen der Transparenz
Alle GPAI-Provider müssen vier zentrale Transparenzpflichten erfüllen. Sie gelten seit dem 2. August 2025. Seit dem 2. August 2026 kann die EU-Kommission Verstöße auch mit Bußgeldern ahnden. Für Modelle, die schon vor dem 2. August 2025 auf dem Markt waren, gilt eine Übergangsfrist bis zum 2. August 2027.
Stell dir ein Pharmaunternehmen vor, das einen pharmazeutischen Rohstoff (das Modell) an andere Firmen verkauft, die daraus Medikamente formulieren. Der Rohstoff-Hersteller muss ein Sicherheitsdatenblatt liefern (technische Dokumentation), offenlegen, woraus der Wirkstoff besteht (Trainingsdaten-Zusammenfassung), Formulierungshinweise geben (Downstream-Information) und die Rechte derer respektieren, deren Material er verwendet (Copyright-Compliance). Bei besonders starken Wirkstoffen (systemisches Risiko) kommen klinische Sicherheitsstudien (Red Teaming) und Meldepflichten hinzu.
FLOPs-Schwellenwert
10 ²⁵
Kumulierter Rechenaufwand im Training, ab dem vermutet wird, dass ein Modell systemische Risiken birgt.
Gültig seit
Aug.2025
GPAI-Pflichten gelten seit dem 2. August 2025; Bußgelder sind seit dem 2. August 2026 möglich.
Standard-GPAI vs. Systemisches Risiko
Modelle, deren Training mehr als 10²⁵ FLOPs verbraucht hat, gelten als Modelle mit systemischem Risiko — es sei denn, der Anbieter legt überzeugend dar, dass sein Modell trotzdem keine solchen Risiken birgt. Wer die Schwelle erreicht oder absehbar erreichen wird, muss das der EU-Kommission unverzüglich melden, spätestens nach zwei Wochen. Für diese Modelle gelten zusätzliche Pflichten:
Vier Transparenzpflichten: Technische Dokumentation, Trainingsdaten-Zusammenfassung, Downstream-Information, Copyright-Compliance. Beispiel: Llama 3.1 8B (weit unter dem Schwellenwert).
Alle vier Transparenzpflichten PLUS: Modell-Evaluationen inklusive Red Teaming (Adversarial Testing), Bewertung und Minderung systemischer Risiken, Meldepflicht bei schweren Vorfällen, erhöhte Cybersecurity. Beispiel: GPT-4 (nach Schätzung von Epoch AI rund 2 × 10²⁵ FLOPs).
Konkretes Beispiel: Ein Modell wie GPT-4, dessen Trainingsaufwand Epoch AI auf rund 2 × 10²⁵ FLOPs schätzt (OpenAI selbst hat keine Zahl veröffentlicht), fällt unter die Vermutung systemischen Risikos. Sein Anbieter muss Red Teaming durchführen, Risiken bewerten und mindern, Evaluationen dokumentieren und schwere Vorfälle melden. Ein Modell wie Llama 3.1 8B hingegen, das weit unter dem Schwellenwert trainiert wurde, gilt als Standard-GPAI mit nur vier Basispflichten.
Achtung
Irrtum: 10²⁵ FLOPs ist ein fester Schwellenwert
Der Schwellenwert von 10²⁵ FLOPs ist kein unveränderliches Naturgesetz — und zwar in doppelter Hinsicht. Erstens kann die EU-Kommission ihn per delegiertem Rechtsakt an den technologischen Fortschritt anpassen. Zweitens begründet er nur eine Vermutung: Die Kommission kann auch Modelle unterhalb der Schwelle als Modelle mit systemischem Risiko einstufen, wenn sie vergleichbare Fähigkeiten oder Auswirkungen haben — von sich aus oder nach einer Warnung ihres wissenschaftlichen Gremiums. Maßstab sind die Kriterien in Anhang XIII, etwa die Zahl der Parameter, die Größe des Datensatzes oder die Reichweite auf dem EU-Markt.
Wer die Einhaltung kontrolliert, hängt davon ab, ob Modell und Anwendung aus einer Hand stammen. Über GPAI-Modelle wacht das AI Office der EU-Kommission. Anwendungen beaufsichtigen normalerweise nationale Behörden. Baut ein Anbieter die Anwendung aber auf seinem eigenen GPAI-Modell auf — etwa OpenAI mit ChatGPT auf eigenen GPT-Modellen —, ist seit dem KI-Omnibus (Verordnung (EU) 2026/1744) allein das AI Office zuständig, auch für die Anwendung. Ausnahmen gelten unter anderem für KI in Produkten wie Medizingeräten oder Maschinen. Allein zuständig ist das AI Office außerdem für KI-Systeme, die eine sehr große Online-Plattform oder Suchmaschine sind oder darin stecken. So beaufsichtigt eine Stelle Modell und Anwendung gemeinsam, statt die Aufsicht zwischen EU-Ebene und nationalen Behörden aufzuteilen.
Open Source — Privileg mit Grenzen
Open-Source-GPAI-Modelle erhalten bewusst reduzierte Pflichten. Die Begründung des Gesetzgebers: Wer Gewichte und Architektur offenlegt, ist bereits weitgehend transparent, und offene Modelle treiben Forschung und Innovation.
Merke
Das Open-Source-Privileg
Provider, die ihr Modell unter einer freien und offenen Lizenz veröffentlichen, Gewichte, Architektur und Nutzungsinformationen öffentlich zugänglich machen und mit dem Modell selbst kein Geld verdienen, profitieren von deutlich reduzierten Anforderungen. Kostet etwa die kommerzielle Nutzung eine Lizenzgebühr oder gibt es den Zugang nur gegen Bezahlung, entfällt das Privileg laut den Leitlinien der EU-Kommission.
- Entfällt: Technische Dokumentation für AI Office und Behörden
- Entfällt: Downstream-Provider-Information
Weiterhin Pflicht:
- Copyright-Policy und Einhaltung von Opt-Out-Rechten
- Veröffentlichung der Trainingsdaten-Zusammenfassung
Absolute Grenze: Das Privileg gilt NICHT für Modelle mit systemischem Risiko. Jedes solche Modell — im Regelfall also jedes über 10²⁵ FLOPs — muss ALLE Pflichten erfüllen, unabhängig von seiner Lizenz.
Stell dir die Fahrzeugzulassung vor: Für ein Serienauto muss der Hersteller dem Amt einen dicken Ordner mit technischen Unterlagen einreichen. Veröffentlicht ein Bastler die kompletten Baupläne seines Autos im Netz, sodass jeder sie nachprüfen kann, verlangt das Amt diesen Ordner nicht noch einmal — die Informationen liegen ja offen. Bei einem 1.000-PS-Supersportwagen (systemisches Risiko) reicht das nicht: Crashtests und Abnahme sind Pflicht, egal wie offen die Baupläne sind. Und wer seine „offenen“ Pläne nur gegen Gebühr herausgibt, gilt wieder als normaler Hersteller.
Meta veröffentlicht Llama 3.1 8B mit offenen Gewichten. Der Trainingsaufwand liegt unter 10²⁵ FLOPs, die reduzierten Pflichten kämen also in Frage. Ob Llama das Privileg bekommt, ist allerdings fraglich: Seine Lizenz schränkt die Nutzung ein, sehr große Dienste brauchen eine Extra-Erlaubnis von Meta, und nach den Leitlinien der Kommission spricht das gegen eine freie Lizenz. Beim offen veröffentlichten Llama 3.1 405B mit rund 3,8 × 10²⁵ FLOPs stellt sich die Frage gar nicht: Ab der Schwelle für systemisches Risiko verfällt das Privileg, die volle Compliance wird fällig, egal unter welcher Lizenz.
Wer ist wofür verantwortlich?
Wer ist verantwortlich, wenn ein Open-Source-Modell missbraucht wird? Der AI Act zieht eine klare Grenze: Wer daraus eine eigene Anwendung baut und anbietet, ist als Anbieter dieser Anwendung voll für sie verantwortlich — einschließlich der Pflichten ihrer Risikoklasse. Der Provider (z.B. Meta) ist ausschließlich für das Grundmodell verantwortlich. Wenn ein Entwickler aus Llama ein schädliches Tool baut, trägt er als Anbieter seiner Anwendung die volle Verantwortung. Wer im Schadensfall zivilrechtlich haftet, regelt übrigens nicht der AI Act, sondern das allgemeine Haftungsrecht, etwa das Produkthaftungsrecht.
Achtung
Irrtum: Der AI Act verbietet Open Source
Das genaue Gegenteil ist der Fall: Der AI Act privilegiert Open Source ausdrücklich mit reduzierten Pflichten. Die Grenzen: Das Privileg gilt nicht für Modelle mit systemischem Risiko und nicht für Modelle, mit denen der Anbieter Geld verdient. Und es betrifft nur die Pflichten der Modellanbieter — wer aus einem offenen Modell eine verbotene oder eine Hochrisiko-Anwendung baut, für den gelten die vollen Regeln.
Was heißt „hinreichend detaillierte Zusammenfassung“ oder „angemessene Cybersecurity“ konkret? Diese Lücke zwischen Gesetzestext und Praxis schließt der GPAI Code of Practice, ein Verhaltenskodex, den unabhängige Experten in einem vom EU AI Office organisierten Verfahren erarbeitet haben. Er wurde am 10. Juli 2025 veröffentlicht; am 1. August 2025 bestätigten EU-Kommission und KI-Gremium (AI Board) ihn als geeignetes freiwilliges Instrument. Er hat drei Kapitel: Transparenz (mit einem Formular zur Modelldokumentation) und Urheberrecht für alle GPAI-Anbieter sowie Sicherheit und Gefahrenabwehr (Safety & Security) nur für Anbieter von Modellen mit systemischem Risiko. Laut Liste der Kommission (Stand Oktober 2026) haben unter anderem Amazon, Anthropic, Google, IBM, Microsoft, Mistral AI und OpenAI unterzeichnet, xAI nur das Sicherheitskapitel; Meta hat die Unterzeichnung im Juli 2025 öffentlich abgelehnt. Der Kodex ist keine zusätzliche Pflicht: Wer ihn einhält, kann damit nachweisen, dass er seine Pflichten erfüllt. Wer nicht unterzeichnet, muss der Kommission auf anderem Weg belegen, dass er sie erfüllt. Seit dem 2. August 2026 hat das Gewicht: Die Kommission kann Bußgelder bis zu 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro verhängen, je nachdem, welcher Betrag höher ist.
Wie groß die Lücke bei der Offenlegung ist, zeigt der Foundation Model Transparency Index der Stanford University. In seiner dritten Ausgabe vom Dezember 2025 — also nach dem Start der GPAI-Pflichten — erreichten die bewerteten Anbieter im Schnitt nur 40 von 100 Punkten. 2024 waren es 58; die Forscher haben ihre Kriterien inzwischen aber verschärft und teils andere Unternehmen bewertet, sodass sich die Werte nur grob vergleichen lassen. IBM erreichte 95 Punkte, xAI und Midjourney nur 14. Am wenigsten geben die Anbieter über Trainingsdaten und den Rechenaufwand des Trainings preis. Einschränkend gilt: Der Index misst, was öffentlich zugänglich ist. Die technische Dokumentation nach dem AI Act geht dagegen an das AI Office und an nachgelagerte Anbieter; öffentlich sein muss vor allem die Trainingsdaten-Zusammenfassung.
Warum genau 10²⁵ FLOPs? Als der AI Act verhandelt wurde, erfasste dieser Wert nur die leistungsstärksten Modelle: Laut Epoch AI war GPT-4 (März 2023) das erste Modell, das mit mehr als 10²⁵ FLOPs trainiert wurde. Bis Juni 2025 zählte Epoch AI bereits über 30 solcher Modelle von 12 Entwicklern. Aus der Grenze für einen Einzelfall ist also eine Grenze für eine ganze Modellklasse geworden. Entscheidend ist: Die EU-Kommission hat die ausdrückliche Befugnis, diesen Schwellenwert anzupassen.
Das Problem wirkt in zwei Richtungen. Einerseits steigt die Trainingseffizienz durch bessere Algorithmen und Hardware: Künftige Modelle könnten mit weniger FLOPs dieselben Fähigkeiten erreichen und unter der Schwelle durchrutschen — das spräche für eine niedrigere Schwelle. Andererseits trainieren immer mehr Anbieter oberhalb von 10²⁵ FLOPs, sodass die Vermutung systemischen Risikos auch Modelle trifft, die längst nicht mehr an der Spitze stehen — das spräche für eine höhere. Deshalb kann die Kommission neben der Zahl auch andere Kriterien wie Fähigkeiten und Reichweite heranziehen.
Eine zusätzliche Herausforderung: Bei verteiltem Training über viele Rechenzentren wird die genaue Messung der kumulierten FLOPs zunehmend schwieriger. Die Methodik zur Compute-Messung ist selbst Gegenstand wissenschaftlicher Diskussion.
Interaktiv: Von der Datenschutz-Richtlinie zum AI Act
Klicke dich durch gut 30 Jahre europäische Regulierungsgeschichte — von der ersten Datenschutz-Richtlinie 1995 bis zur Durchsetzung der GPAI-Pflichten ab 2026. Jeder Meilenstein zeigt, wie die EU schrittweise den rechtlichen Rahmen für KI aufgebaut hat.
EU-Datenschutzrichtlinie
Die Richtlinie 95/46/EG war der erste EU-weite Rechtsrahmen für den Schutz personenbezogener Daten. Sie legte Grundprinzipien wie Zweckbindung, Datenminimierung und das Recht auf Auskunft fest, die bis heute das europäische Datenschutzrecht prägen.
Merke
Kernaussagen
- GPAI-Modelle entziehen sich der klassischen Risikoklassifizierung, weil dasselbe Modell für minimale und hochriskante Anwendungen dienen kann — Kapitel V löst dies, indem es auf der Provider-Ebene reguliert.
- Alle GPAI-Provider müssen vier Transparenzpflichten erfüllen (Technische Dokumentation, Trainingsdaten-Zusammenfassung, Downstream-Information, Copyright-Compliance); Modelle mit systemischem Risiko haben zusätzliche Pflichten (Red Teaming, Risikobewertung und -minderung, Vorfallsmeldung, Cybersecurity).
- Open-Source-GPAI genießt reduzierte Pflichten — aber dieses Privileg erlischt sofort, wenn das Modell als Modell mit systemischem Risiko gilt.
- Die GPAI-Pflichten gelten seit dem 2. August 2025, seit dem 2. August 2026 kann die Kommission sie mit Bußgeldern durchsetzen; Modelle, die schon vorher auf dem Markt waren, haben bis zum 2. August 2027 Zeit. Der freiwillige Code of Practice ist ein anerkannter Weg, die Einhaltung nachzuweisen.
Prüfen
Prüfe dein Verständnis
Kannst du das in eigenen Worten erklären? Hake ab, was sitzt.
0 von 3 sitzen
Prüfen
Quiz: Foundation-Model-Regulierung
Was bedeutet "General Purpose AI" (GPAI) im EU AI Act?
Wähle eine Antwort
1. Was bedeutet "General Purpose AI" (GPAI) im EU AI Act?
2. Welche der folgenden Optionen gehört NICHT zu den vier Kern-Transparenzpflichten für GPAI-Provider?
3. Ein Unternehmen trainiert ein neues Sprachmodell mit 5 × 10²⁴ FLOPs und bietet es in der EU an. Welche Pflichten gelten?
4. Ein Open-Source-Modell wird mit 3 × 10²⁵ FLOPs trainiert. Welchen regulatorischen Status hat es?
5. Ein Startup baut ein medizinisches Hochrisiko-Diagnosetool mit einem Open-Source-GPAI-Modell. Der Provider hat es mit reduzierten Pflichten veröffentlicht. Wer trägt die rechtliche Verantwortung für die Hochrisiko-Anwendung?
6. Kritiker argumentieren, Open-Source-GPAI sei gefährlich, weil Sicherheitsbeschränkungen entfernt werden können. Der AI Act gewährt dennoch reduzierte Pflichten. Was ist das stärkste Argument für diese Entscheidung?