Zurück zum Lernbereich

Regulierung von Foundation Models

Wer ein Foundation Model trainiert, wird in der EU plötzlich regulatorisch sichtbar.

  • Ethik
  • 12 min
  • Fortgeschritten

Einfache Sprache

Diese Vorschau ist in Einfacher Sprache. Das ganze Portal gibt es auch in Einfacher Sprache. Du kannst oben die Sprache wechseln. Oder nutze den Knopf unten. Unsere Texte in Einfacher Sprache entstehen KI-gestützt und werden redaktionell begleitet. Sie orientieren sich an den Grundprinzipien der Leichten Sprache, sind aber keine geprüfte Leichte Sprache: Eine Prüfgruppe von Menschen mit Lernschwierigkeiten prüft sie nicht.

Vorschau: KI-Regeln in Europa

Was ist Allzweck-KI?

Manche KI-Programme können sehr viele Aufgaben lösen. KI bedeutet Künstliche Intelligenz. Das nennt man Allzweck-KI. Allzweck bedeutet: für viele Zwecke. Beispiele sind GPT-4 und Claude.

Der EU AI Act

Die EU hat ein Gesetz für KI. Es heißt EU AI Act. Das Gesetz teilt KI in Stufen ein. Riskante KI hat strengere Regeln. Harmlose KI hat leichtere Regeln.

Wer trägt Verantwortung?

Der Hersteller baut das KI-Modell. Er trägt Verantwortung für die Basis. Das Unternehmen setzt das Modell ein. Es trägt Verantwortung für den Einsatz.

Als die EU ihren AI Act um Risikoklassen herum entwarf, erkannte sie das Problem mit Allzweck-KI erst nach und nach — Ende 2022 machte ChatGPT es für alle sichtbar. Ein Modell wie GPT-4, das wenige Monate später folgte und juristische Gutachten verfasst UND Memes generiert UND bei medizinischen Diagnosen unterstützt, lässt sich weder als "hohes Risiko" noch als "minimales Risiko" einstufen, denn es ist beides gleichzeitig.

Die Lösung? Reguliere das Fundament, nicht das Gebäude. Dieser Artikel erklärt, wie Kapitel V des AI Act ein eigenes Regelwerk für Anbieter von General Purpose AI (Allzweck-KI) schafft — was sie offenlegen müssen, wann verschärfte Pflichten greifen, warum Open-Source-Modelle bewusst bevorzugt werden und wie die EU-Kommission diese Regeln seit August 2026 mit Bußgeldern durchsetzen kann.

Die zentrale Erkenntnis

GPAI-Modelle sind Chamäleons — ihr Risiko hängt vollständig davon ab, wie sie eingesetzt werden. Der AI Act reagiert darauf, indem er die Verantwortung aufteilt: Provider (Anbieter des Modells) sorgen dafür, dass das Basismodell transparent und dokumentiert ist. Wer das Modell in eine eigene Anwendung einbaut (nachgelagerter Anbieter) oder diese Anwendung einsetzt (Deployer, also Betreiber), stellt sicher, dass die konkrete Anwendung die Anforderungen der jeweiligen Risikoklasse erfüllt. Diese duale Verantwortungsarchitektur erlaubt es, mit einem Regelwerk eine Technologie abzudecken, deren Einsatzzwecke niemand im Voraus kennt.

Das GPAI-Problem — Warum Risikoklassen versagen

General Purpose AI (GPAI) bezeichnet KI-Modelle, die mit enormen Datenmengen für eine Vielzahl von Aufgaben trainiert wurden — ohne auf eine einzelne Anwendung festgelegt zu sein. GPT-5, Claude, Llama oder Gemini sind klassische GPAI-Modelle. Genau diese universelle Einsetzbarkeit schafft ein regulatorisches Problem.

Definition

General Purpose AI (GPAI)

Analogie

Stell dir ein GPAI-Modell wie einen Universalmotor vor, auf den man Säge, Bohrer oder Schleifer setzen kann. Der Motor selbst ist weder sicher noch gefährlich; das hängt vom Aufsatz ab und davon, wofür du ihn einsetzt. Der Motorhersteller (Provider) muss dafür sorgen, dass der Motor sicher läuft und die Anleitung vollständig ist. Wer daraus eine Säge baut und verkauft (nachgelagerter Anbieter), ist für die Sicherheit der Säge verantwortlich.

Der risikobasierte Ansatz des AI Act funktioniert pro konkreter Anwendung — aber ein GPAI-Modell hat keine einzelne festgelegte Anwendung. Nutzt du ein Sprachmodell als Chat-Tool, gelten für diese Anwendung nur Transparenzpflichten: Der Chatbot muss offenlegen, dass du mit einer KI sprichst. Wird dasselbe Modell als Kernkomponente einer medizinischen Diagnostik-Software eingesetzt, rutscht die Anwendung sofort in den Hochrisikobereich. Die Lösung: Kapitel V reguliert zusätzlich auf der Ebene des Modellanbieters, unabhängig vom Einsatzzweck.

Provider (z.B. Meta)

Entwickelt und trainiert das GPAI-Grundmodell. Verantwortlich für das Fundament: Modellsicherheit, technische Dokumentation, Kapitel-V-Pflichten. Beispiel: Meta veröffentlicht Llama 3.1 8B.

Nachgelagerter Anbieter (z.B. Startup)

Baut das GPAI-Modell in eine eigene Anwendung ein und bietet sie an. Verantwortlich für den spezifischen Einsatzzweck, z.B. ein HR-Screening-Bot im Hochrisikobereich. Beispiel: Startup baut HR-Bot mit Llama.

Achtung

Irrtum: Nur EU-Firmen sind betroffen

Jeder Provider, der sein Modell auf dem europäischen Markt anbietet, fällt unter Kapitel V — unabhängig vom Unternehmenssitz. OpenAI (USA), Meta (USA), Google (USA): Alle müssen die GPAI-Pflichten erfüllen, wenn ihre Modelle in der EU verfügbar sind.

Die vier Säulen der Transparenz

Alle GPAI-Provider müssen vier zentrale Transparenzpflichten erfüllen. Sie gelten seit dem 2. August 2025. Seit dem 2. August 2026 kann die EU-Kommission Verstöße auch mit Bußgeldern ahnden. Für Modelle, die schon vor dem 2. August 2025 auf dem Markt waren, gilt eine Übergangsfrist bis zum 2. August 2027.

Technische Dokumentation Beschreibung der Modellarchitektur, Trainingsmethoden, interne Bewertungen und bekannte Limitierungen — bereitzuhalten für das AI Office und nationale Behörden auf Anfrage.
Trainingsdaten-Zusammenfassung Öffentliche, hinreichend detaillierte Zusammenfassung der Trainingsdaten: Quellen, Umfang und Kuratierungsmethoden. Das AI Office hat dafür im Juli 2025 eine verbindliche Vorlage veröffentlicht.
Downstream-Information Technische Details für Entwickler, die das Modell in eigene Produkte einbauen.
Copyright-Compliance Eine Strategie zur Einhaltung des EU-Urheberrechts, inklusive Respektierung von Opt-Out-Rechten (Nutzungsvorbehalten) gegen Text- und Data-Mining.

Stell dir ein Pharmaunternehmen vor, das einen pharmazeutischen Rohstoff (das Modell) an andere Firmen verkauft, die daraus Medikamente formulieren. Der Rohstoff-Hersteller muss ein Sicherheitsdatenblatt liefern (technische Dokumentation), offenlegen, woraus der Wirkstoff besteht (Trainingsdaten-Zusammenfassung), Formulierungshinweise geben (Downstream-Information) und die Rechte derer respektieren, deren Material er verwendet (Copyright-Compliance). Bei besonders starken Wirkstoffen (systemisches Risiko) kommen klinische Sicherheitsstudien (Red Teaming) und Meldepflichten hinzu.

FLOPs-Schwellenwert

10 ²⁵

Kumulierter Rechenaufwand im Training, ab dem vermutet wird, dass ein Modell systemische Risiken birgt.

Gültig seit

Aug.2025

GPAI-Pflichten gelten seit dem 2. August 2025; Bußgelder sind seit dem 2. August 2026 möglich.

Standard-GPAI vs. Systemisches Risiko

Modelle, deren Training mehr als 10²⁵ FLOPs verbraucht hat, gelten als Modelle mit systemischem Risiko — es sei denn, der Anbieter legt überzeugend dar, dass sein Modell trotzdem keine solchen Risiken birgt. Wer die Schwelle erreicht oder absehbar erreichen wird, muss das der EU-Kommission unverzüglich melden, spätestens nach zwei Wochen. Für diese Modelle gelten zusätzliche Pflichten:

Standard-GPAI

Vier Transparenzpflichten: Technische Dokumentation, Trainingsdaten-Zusammenfassung, Downstream-Information, Copyright-Compliance. Beispiel: Llama 3.1 8B (weit unter dem Schwellenwert).

Systemisches Risiko

Alle vier Transparenzpflichten PLUS: Modell-Evaluationen inklusive Red Teaming (Adversarial Testing), Bewertung und Minderung systemischer Risiken, Meldepflicht bei schweren Vorfällen, erhöhte Cybersecurity. Beispiel: GPT-4 (nach Schätzung von Epoch AI rund 2 × 10²⁵ FLOPs).

Konkretes Beispiel: Ein Modell wie GPT-4, dessen Trainingsaufwand Epoch AI auf rund 2 × 10²⁵ FLOPs schätzt (OpenAI selbst hat keine Zahl veröffentlicht), fällt unter die Vermutung systemischen Risikos. Sein Anbieter muss Red Teaming durchführen, Risiken bewerten und mindern, Evaluationen dokumentieren und schwere Vorfälle melden. Ein Modell wie Llama 3.1 8B hingegen, das weit unter dem Schwellenwert trainiert wurde, gilt als Standard-GPAI mit nur vier Basispflichten.

Achtung

Irrtum: 10²⁵ FLOPs ist ein fester Schwellenwert

Der Schwellenwert von 10²⁵ FLOPs ist kein unveränderliches Naturgesetz — und zwar in doppelter Hinsicht. Erstens kann die EU-Kommission ihn per delegiertem Rechtsakt an den technologischen Fortschritt anpassen. Zweitens begründet er nur eine Vermutung: Die Kommission kann auch Modelle unterhalb der Schwelle als Modelle mit systemischem Risiko einstufen, wenn sie vergleichbare Fähigkeiten oder Auswirkungen haben — von sich aus oder nach einer Warnung ihres wissenschaftlichen Gremiums. Maßstab sind die Kriterien in Anhang XIII, etwa die Zahl der Parameter, die Größe des Datensatzes oder die Reichweite auf dem EU-Markt.

Wer die Einhaltung kontrolliert, hängt davon ab, ob Modell und Anwendung aus einer Hand stammen. Über GPAI-Modelle wacht das AI Office der EU-Kommission. Anwendungen beaufsichtigen normalerweise nationale Behörden. Baut ein Anbieter die Anwendung aber auf seinem eigenen GPAI-Modell auf — etwa OpenAI mit ChatGPT auf eigenen GPT-Modellen —, ist seit dem KI-Omnibus (Verordnung (EU) 2026/1744) allein das AI Office zuständig, auch für die Anwendung. Ausnahmen gelten unter anderem für KI in Produkten wie Medizingeräten oder Maschinen. Allein zuständig ist das AI Office außerdem für KI-Systeme, die eine sehr große Online-Plattform oder Suchmaschine sind oder darin stecken. So beaufsichtigt eine Stelle Modell und Anwendung gemeinsam, statt die Aufsicht zwischen EU-Ebene und nationalen Behörden aufzuteilen.

Open Source — Privileg mit Grenzen

Open-Source-GPAI-Modelle erhalten bewusst reduzierte Pflichten. Die Begründung des Gesetzgebers: Wer Gewichte und Architektur offenlegt, ist bereits weitgehend transparent, und offene Modelle treiben Forschung und Innovation.

Merke

Das Open-Source-Privileg

Provider, die ihr Modell unter einer freien und offenen Lizenz veröffentlichen, Gewichte, Architektur und Nutzungsinformationen öffentlich zugänglich machen und mit dem Modell selbst kein Geld verdienen, profitieren von deutlich reduzierten Anforderungen. Kostet etwa die kommerzielle Nutzung eine Lizenzgebühr oder gibt es den Zugang nur gegen Bezahlung, entfällt das Privileg laut den Leitlinien der EU-Kommission.

  • Entfällt: Technische Dokumentation für AI Office und Behörden
  • Entfällt: Downstream-Provider-Information

Weiterhin Pflicht:

  • Copyright-Policy und Einhaltung von Opt-Out-Rechten
  • Veröffentlichung der Trainingsdaten-Zusammenfassung

Absolute Grenze: Das Privileg gilt NICHT für Modelle mit systemischem Risiko. Jedes solche Modell — im Regelfall also jedes über 10²⁵ FLOPs — muss ALLE Pflichten erfüllen, unabhängig von seiner Lizenz.

Stell dir die Fahrzeugzulassung vor: Für ein Serienauto muss der Hersteller dem Amt einen dicken Ordner mit technischen Unterlagen einreichen. Veröffentlicht ein Bastler die kompletten Baupläne seines Autos im Netz, sodass jeder sie nachprüfen kann, verlangt das Amt diesen Ordner nicht noch einmal — die Informationen liegen ja offen. Bei einem 1.000-PS-Supersportwagen (systemisches Risiko) reicht das nicht: Crashtests und Abnahme sind Pflicht, egal wie offen die Baupläne sind. Und wer seine „offenen“ Pläne nur gegen Gebühr herausgibt, gilt wieder als normaler Hersteller.

Meta veröffentlicht Llama 3.1 8B mit offenen Gewichten. Der Trainingsaufwand liegt unter 10²⁵ FLOPs, die reduzierten Pflichten kämen also in Frage. Ob Llama das Privileg bekommt, ist allerdings fraglich: Seine Lizenz schränkt die Nutzung ein, sehr große Dienste brauchen eine Extra-Erlaubnis von Meta, und nach den Leitlinien der Kommission spricht das gegen eine freie Lizenz. Beim offen veröffentlichten Llama 3.1 405B mit rund 3,8 × 10²⁵ FLOPs stellt sich die Frage gar nicht: Ab der Schwelle für systemisches Risiko verfällt das Privileg, die volle Compliance wird fällig, egal unter welcher Lizenz.

Wer ist wofür verantwortlich?

Wer ist verantwortlich, wenn ein Open-Source-Modell missbraucht wird? Der AI Act zieht eine klare Grenze: Wer daraus eine eigene Anwendung baut und anbietet, ist als Anbieter dieser Anwendung voll für sie verantwortlich — einschließlich der Pflichten ihrer Risikoklasse. Der Provider (z.B. Meta) ist ausschließlich für das Grundmodell verantwortlich. Wenn ein Entwickler aus Llama ein schädliches Tool baut, trägt er als Anbieter seiner Anwendung die volle Verantwortung. Wer im Schadensfall zivilrechtlich haftet, regelt übrigens nicht der AI Act, sondern das allgemeine Haftungsrecht, etwa das Produkthaftungsrecht.

Achtung

Irrtum: Der AI Act verbietet Open Source

Das genaue Gegenteil ist der Fall: Der AI Act privilegiert Open Source ausdrücklich mit reduzierten Pflichten. Die Grenzen: Das Privileg gilt nicht für Modelle mit systemischem Risiko und nicht für Modelle, mit denen der Anbieter Geld verdient. Und es betrifft nur die Pflichten der Modellanbieter — wer aus einem offenen Modell eine verbotene oder eine Hochrisiko-Anwendung baut, für den gelten die vollen Regeln.

Was heißt „hinreichend detaillierte Zusammenfassung“ oder „angemessene Cybersecurity“ konkret? Diese Lücke zwischen Gesetzestext und Praxis schließt der GPAI Code of Practice, ein Verhaltenskodex, den unabhängige Experten in einem vom EU AI Office organisierten Verfahren erarbeitet haben. Er wurde am 10. Juli 2025 veröffentlicht; am 1. August 2025 bestätigten EU-Kommission und KI-Gremium (AI Board) ihn als geeignetes freiwilliges Instrument. Er hat drei Kapitel: Transparenz (mit einem Formular zur Modelldokumentation) und Urheberrecht für alle GPAI-Anbieter sowie Sicherheit und Gefahrenabwehr (Safety & Security) nur für Anbieter von Modellen mit systemischem Risiko. Laut Liste der Kommission (Stand Oktober 2026) haben unter anderem Amazon, Anthropic, Google, IBM, Microsoft, Mistral AI und OpenAI unterzeichnet, xAI nur das Sicherheitskapitel; Meta hat die Unterzeichnung im Juli 2025 öffentlich abgelehnt. Der Kodex ist keine zusätzliche Pflicht: Wer ihn einhält, kann damit nachweisen, dass er seine Pflichten erfüllt. Wer nicht unterzeichnet, muss der Kommission auf anderem Weg belegen, dass er sie erfüllt. Seit dem 2. August 2026 hat das Gewicht: Die Kommission kann Bußgelder bis zu 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro verhängen, je nachdem, welcher Betrag höher ist.

Wie groß die Lücke bei der Offenlegung ist, zeigt der Foundation Model Transparency Index der Stanford University. In seiner dritten Ausgabe vom Dezember 2025 — also nach dem Start der GPAI-Pflichten — erreichten die bewerteten Anbieter im Schnitt nur 40 von 100 Punkten. 2024 waren es 58; die Forscher haben ihre Kriterien inzwischen aber verschärft und teils andere Unternehmen bewertet, sodass sich die Werte nur grob vergleichen lassen. IBM erreichte 95 Punkte, xAI und Midjourney nur 14. Am wenigsten geben die Anbieter über Trainingsdaten und den Rechenaufwand des Trainings preis. Einschränkend gilt: Der Index misst, was öffentlich zugänglich ist. Die technische Dokumentation nach dem AI Act geht dagegen an das AI Office und an nachgelagerte Anbieter; öffentlich sein muss vor allem die Trainingsdaten-Zusammenfassung.

Warum genau 10²⁵ FLOPs? Als der AI Act verhandelt wurde, erfasste dieser Wert nur die leistungsstärksten Modelle: Laut Epoch AI war GPT-4 (März 2023) das erste Modell, das mit mehr als 10²⁵ FLOPs trainiert wurde. Bis Juni 2025 zählte Epoch AI bereits über 30 solcher Modelle von 12 Entwicklern. Aus der Grenze für einen Einzelfall ist also eine Grenze für eine ganze Modellklasse geworden. Entscheidend ist: Die EU-Kommission hat die ausdrückliche Befugnis, diesen Schwellenwert anzupassen.

Das Problem wirkt in zwei Richtungen. Einerseits steigt die Trainingseffizienz durch bessere Algorithmen und Hardware: Künftige Modelle könnten mit weniger FLOPs dieselben Fähigkeiten erreichen und unter der Schwelle durchrutschen — das spräche für eine niedrigere Schwelle. Andererseits trainieren immer mehr Anbieter oberhalb von 10²⁵ FLOPs, sodass die Vermutung systemischen Risikos auch Modelle trifft, die längst nicht mehr an der Spitze stehen — das spräche für eine höhere. Deshalb kann die Kommission neben der Zahl auch andere Kriterien wie Fähigkeiten und Reichweite heranziehen.

Eine zusätzliche Herausforderung: Bei verteiltem Training über viele Rechenzentren wird die genaue Messung der kumulierten FLOPs zunehmend schwieriger. Die Methodik zur Compute-Messung ist selbst Gegenstand wissenschaftlicher Diskussion.

Interaktiv: Von der Datenschutz-Richtlinie zum AI Act

Klicke dich durch gut 30 Jahre europäische Regulierungsgeschichte — von der ersten Datenschutz-Richtlinie 1995 bis zur Durchsetzung der GPAI-Pflichten ab 2026. Jeder Meilenstein zeigt, wie die EU schrittweise den rechtlichen Rahmen für KI aufgebaut hat.

Klicke auf einen Zeitpunkt, um mehr zu erfahren.
1995

EU-Datenschutzrichtlinie

Die Richtlinie 95/46/EG war der erste EU-weite Rechtsrahmen für den Schutz personenbezogener Daten. Sie legte Grundprinzipien wie Zweckbindung, Datenminimierung und das Recht auf Auskunft fest, die bis heute das europäische Datenschutzrecht prägen.

Bedeutung: Schuf das Fundament für das europäische Datenschutzmodell, das später zur DSGVO weiterentwickelt wurde.

Merke

Kernaussagen

  1. GPAI-Modelle entziehen sich der klassischen Risikoklassifizierung, weil dasselbe Modell für minimale und hochriskante Anwendungen dienen kann — Kapitel V löst dies, indem es auf der Provider-Ebene reguliert.
  2. Alle GPAI-Provider müssen vier Transparenzpflichten erfüllen (Technische Dokumentation, Trainingsdaten-Zusammenfassung, Downstream-Information, Copyright-Compliance); Modelle mit systemischem Risiko haben zusätzliche Pflichten (Red Teaming, Risikobewertung und -minderung, Vorfallsmeldung, Cybersecurity).
  3. Open-Source-GPAI genießt reduzierte Pflichten — aber dieses Privileg erlischt sofort, wenn das Modell als Modell mit systemischem Risiko gilt.
  4. Die GPAI-Pflichten gelten seit dem 2. August 2025, seit dem 2. August 2026 kann die Kommission sie mit Bußgeldern durchsetzen; Modelle, die schon vorher auf dem Markt waren, haben bis zum 2. August 2027 Zeit. Der freiwillige Code of Practice ist ein anerkannter Weg, die Einhaltung nachzuweisen.

Prüfen

Prüfe dein Verständnis

Kannst du das in eigenen Worten erklären? Hake ab, was sitzt.

0 von 3 sitzen

Prüfen

Quiz: Foundation-Model-Regulierung

Was bedeutet "General Purpose AI" (GPAI) im EU AI Act?

Wähle eine Antwort

Auflösung: 1) B · 2) C · 3) B · 4) C · 5) C · 6) B