Zurück zum Lernbereich

EU AI Act - Das KI-Gesetz der EU verständlich erklärt

Was Europa beschlossen hat, während andere noch diskutierten — eine Bestandsaufnahme.

  • Grundlagen
  • 12 min
  • Fortgeschritten

Einfache Sprache

Diese Vorschau ist in Einfacher Sprache. Das ganze Portal gibt es auch in Einfacher Sprache. Du kannst oben die Sprache wechseln. Oder nutze den Knopf unten. Unsere Texte in Einfacher Sprache entstehen KI-gestützt und werden redaktionell begleitet. Sie orientieren sich an den Grundprinzipien der Leichten Sprache, sind aber keine geprüfte Leichte Sprache: Eine Prüfgruppe von Menschen mit Lernschwierigkeiten prüft sie nicht.

Vorschau: Das KI-Gesetz der EU

Was ist der EU AI Act?

Der EU AI Act ist ein Gesetz in Europa. Es regelt KI-Systeme. KI heißt Künstliche Intelligenz. Das Gesetz schützt Menschen vor schädlicher KI.

Vier Risiko-Stufen

Das Gesetz teilt KI in vier Stufen ein.
Verboten: Diese KI ist komplett untersagt. Hoch: Strenge Prüfungen und Regeln. Begrenzt: Die KI hat kleine Auflagen. Minimal: Keine besonderen Regeln.

Was das für dich bedeutet

Manche KI darf in Europa nicht benutzt werden. Zum Beispiel ist Social Scoring verboten. Social Scoring heißt: Menschen bekommen schlechtere Chancen wegen ihres Verhaltens. Das Gesetz schützt dich vor schädlicher KI.

Stell dir vor, eine KI entscheidet, ob du einen Kredit bekommst, ob dein Kind an der Wunschschule aufgenommen wird oder ob du zum Vorstellungsgespräch eingeladen wirst. Ab dem 2. Dezember 2027 gelten in der EU strenge Regeln für genau solche Hochrisiko-Anwendungen.

Der EU AI Act gilt als das weltweit erste umfassende KI-Gesetz – und selbst wenn du nie eigene KI entwickelst, betrifft er deinen Alltag. Im Juli 2026 hat die EU ihn mit dem „Digital Omnibus zur KI“ (KI-Omnibus) nachgebessert: Fristen verschoben, Pflichten gelockert, zwei Verbote ergänzt. Dieser Artikel zeigt den Stand vom November 2026: was das Gesetz regelt, wann welche Vorschriften gelten und was das konkret für dich bedeutet.

Das Ampelsystem der KI-Risiken

Der EU AI Act nutzt einen risikobasierten Ansatz: Je höher das Schadenspotenzial einer KI-Anwendung, desto strenger die Vorschriften. Wie eine Ampel zeigt das System vier Stufen.

Achtung

Rot - Unakzeptables Risiko

Diese KI-Anwendungen sind komplett verboten. Beispiele: Social Scoring, manipulative KI, massenhaftes Sammeln von Gesichtsbildern aus dem Internet.

Achtung

Orange - Hohes Risiko

Strenge Auflagen und Dokumentationspflichten. Beispiele: KI, die Prüfungen bewertet, Bewerbungen vorsortiert oder die Kreditwürdigkeit prüft.

Merke

Gelb - Begrenztes Risiko

Transparenzpflichten: Nutzer müssen wissen, dass sie mit KI interagieren. Beispiel: Chatbots müssen sich als KI identifizieren.

Merke

Grün - Minimales Risiko

Keine spezifischen Auflagen. Beispiele: Spam-Filter, KI in Videospielen, Empfehlungssysteme.

Interaktiv: Welche KI fällt in welche Risikokategorie?

Du kennst jetzt die vier Risikostufen des EU AI Act. Klicke auf eine Zeile der Matrix, um zu sehen, warum dieser Anwendungsfall in die jeweilige Kategorie fällt.

Risiko-Matrix: Anwendungsfälle im EU AI Act

Vorteil (klein/schnell/hoch)
Neutral
Nachteil (groß/langsam/niedrig)

Zeile anklicken für Detailansicht

AnwendungsfallRisikostufeAnforderungenMax. Strafe
Social Scoring Verboten Vollständig verboten €35M / 7%
Medizinische KI Hochrisiko Konformitätsbewertung, CE-Kennzeichnung, Dokumentation €15M / 3%
KI im Recruiting Hochrisiko Konformitätsbewertung, CE-Kennzeichnung, Dokumentation €15M / 3%
ChatGPT GPAI-Regeln Transparenz, Urheberrechts-Compliance €15M / 3%
Chatbot Begrenzt Nur Offenlegungspflicht €15M / 3%
Spamfilter Minimal Keine -
Kernaussage: Die gleiche Technologie (z.B. ein neuronales Netz) kann je nach Einsatzbereich in völlig verschiedene Risikokategorien fallen. Der Kontext entscheidet, nicht die Technik.

Was ist verboten?

Der EU AI Act verbietet bestimmte KI-Anwendungen vollständig. Acht davon sind seit dem 2. Februar 2025 untersagt. Ab dem 2. Dezember 2026 kommen zwei weitere hinzu: KI, die ohne Einwilligung realistische Intimbilder erkennbarer Personen erzeugt, und KI, die Darstellungen sexuellen Kindesmissbrauchs erzeugt. Für Anbieter greifen diese beiden Verbote, wenn das der Zweck des Systems ist oder wenn es solche Inhalte absehbar erzeugen kann, ohne dass verlässliche Schutzmaßnahmen das verhindern – ein Bildgenerator mit wirksamen Filtern fällt also nicht darunter. Auch wer ein KI-System beruflich gezielt dafür einsetzt (im Gesetz: Betreiber), verstößt gegen das Verbot. Für Privatleute, die KI nur für sich nutzen, gilt der AI Act nicht; wer solche Bilder herstellt oder verbreitet, kann sich aber strafbar machen – bei Missbrauchsdarstellungen von Kindern in der gesamten EU. Im Gesetz sind das zwei eigene Buchstaben (Art. 5 Abs. 1 lit. ba und bb); die EU-Kommission fasst sie in ihrer Übersicht zu einem neunten Verbot zusammen.

Achtung

Die verbotenen KI-Praktiken: 8 seit 2025, 2 weitere ab Dezember 2026

  1. Manipulative KI: Systeme, die mit unterschwelligen, gezielt manipulativen oder täuschenden Techniken das Verhalten von Menschen so beeinflussen, dass ihnen erheblicher Schaden droht.
  2. Ausnutzung von Schwächen: KI, die gezielt Alter, Behinderungen oder wirtschaftliche Notlagen ausnutzt.
  3. Social Scoring: Bewertungssysteme, die Menschen aufgrund ihres Verhaltens oder persönlicher Merkmale klassifizieren und benachteiligen.
  4. Predictive Policing: KI, die das Risiko vorhersagt, dass eine Person eine Straftat begeht - allein aufgrund von Profildaten.
  5. Gesichtsbilder-Scraping: Das ungezielte, massenhafte Sammeln von Gesichtsbildern aus dem Internet oder von Überwachungskameras, um Gesichtserkennungs-Datenbanken aufzubauen.
  6. Emotionserkennung am Arbeitsplatz und in Schulen: KI, die versucht, die Gefühle von Beschäftigten oder Schülern zu erkennen – außer aus medizinischen oder Sicherheitsgründen.
  7. Biometrische Kategorisierung: KI, die Menschen nach sensiblen Merkmalen wie Herkunft, Religion oder sexueller Orientierung einteilt.
  8. Echtzeit-Gesichtserkennung: Live-Überwachung mit Gesichtserkennung in öffentlichen Räumen durch die Polizei (mit sehr engen Ausnahmen).
  9. Sexualisierte Deepfakes ohne Einwilligung (ab 2. Dezember 2026): KI, die realistische Nacktbilder oder sexuell explizite Bilder, Videos oder Tonaufnahmen einer erkennbaren Person erzeugt oder verfälscht, ohne dass diese ausdrücklich zugestimmt hat – etwa sogenannte Nudify-Apps.
  10. Darstellungen sexuellen Kindesmissbrauchs (ab 2. Dezember 2026): KI, die solches Material erzeugt oder verfälscht. Das Herstellen solchen Materials ist in der EU schon lange strafbar; ab diesem Datum sind auch die KI-Systeme verboten, die es erzeugen.

Hochrisiko-KI unter der Lupe

In acht sensiblen Bereichen müssen KI-Systeme besonders strenge Auflagen erfüllen. Diese sind in Anhang III des Gesetzes definiert und gelten ab dem 2. Dezember 2027. Entscheidend ist dabei der konkrete Zweck, nicht der Bereich allein: Eine KI, die Bewerbungen vorsortiert oder Prüfungen bewertet, ist Hochrisiko-KI; eine KI, die in der Personalabteilung nur Termine plant, ist es nicht. Erledigt ein System nur eine eng begrenzte Hilfsaufgabe und beeinflusst die Entscheidung nicht wesentlich, kann der Anbieter es mit einer dokumentierten Begründung ausnehmen. Bewertet es aber Menschen anhand ihrer persönlichen Merkmale (Profiling), bleibt es immer Hochrisiko-KI.

Biometrie
Kritische Infrastruktur
Bildung & Ausbildung
Beschäftigung
Wesentliche Dienste
Strafverfolgung
Migration & Grenzschutz
Justiz & Demokratie

Für Hochrisiko-KI gilt unter anderem: ein Risikomanagementsystem, hochwertige und auf Verzerrungen geprüfte Trainingsdaten, technische Dokumentation, automatische Protokolle, menschliche Aufsicht sowie Genauigkeit und Robustheit. Vor dem Marktstart prüft der Anbieter, meist selbst, ob alles erfüllt ist, versieht das System mit der CE-Kennzeichnung und trägt es in die EU-Datenbank ein.

ChatGPT & Co. - Die GPAI-Regeln

Für General-Purpose AI (GPAI) – also vielseitig einsetzbare KI-Modelle wie die hinter ChatGPT, Claude oder Gemini – gelten eigene Regeln. Die Pflichten gelten seit dem 2. August 2025; Bußgelder kann die EU-Kommission seit dem 2. August 2026 verhängen. Modelle, die schon vor August 2025 auf dem Markt waren, müssen die Pflichten bis zum 2. August 2027 erfüllen. Als Weg dorthin gibt es seit Juli 2025 einen freiwilligen Verhaltenskodex (Code of Practice), den Kommission und KI-Gremium als geeignet bestätigt haben. Unterzeichnet haben ihn unter anderem OpenAI, Anthropic, Google, Microsoft, Amazon und Mistral AI; xAI nur das Kapitel zu Sicherheit.

Merke

Wichtig: ChatGPT ist KEIN Hochrisiko-System

Ein häufiges Missverständnis: ChatGPT und ähnliche Chatbots sind nicht automatisch Hochrisiko-KI. Sie müssen aber Transparenzpflichten erfüllen: Der Chatbot muss erkennbar machen, dass du mit einer KI sprichst, und erzeugte Texte, Bilder oder Töne müssen maschinenlesbar als KI-generiert markiert sein. Das gilt seit dem 2. August 2026; Systeme, die schon vorher auf dem Markt waren, haben für die Markierung bis zum 2. Dezember 2026 Zeit. Wie das praktisch geht, beschreiben seit Juni 2026 ein freiwilliger Verhaltenskodex zur Kennzeichnung KI-erzeugter Inhalte und seit Juli 2026 Leitlinien der EU-Kommission. Der Kodex bringt drei einheitliche EU-Symbole mit, mit denen sich Deepfakes (Bild, Ton, Video) und veröffentlichte KI-Texte kennzeichnen lassen. Die Symbole sind freiwillig, die Kennzeichnungspflicht ist es nicht. Stammen Modell und Chatbot vom selben Anbieter, beaufsichtigt seit dem KI-Omnibus das KI-Büro der EU-Kommission (AI Office) das System direkt – nicht mehr die Behörde in jedem einzelnen EU-Land.

Vertiefung

Standard-GPAI

Alle GPAI-Modelle müssen: technische Dokumentation für die Behörden bereithalten, Firmen, die das Modell einbauen, die nötigen Informationen geben, eine Strategie zur Einhaltung des Urheberrechts haben und eine Zusammenfassung ihrer Trainingsdaten veröffentlichen. Für diese Zusammenfassung gibt die EU-Kommission seit Juli 2025 eine Vorlage vor. Ausnahme: Bei Open-Source-Modellen ohne systemisches Risiko, deren Gewichte öffentlich sind, entfallen die ersten beiden Pflichten.

Achtung

GPAI mit systemischem Risiko

Besonders leistungsstarke Modelle haben zusätzliche Pflichten: Modellevaluierungen, Angriffstests (Red Teaming), Vorfallmeldungen und Cybersicherheitsmaßnahmen. Als Faustregel gilt: Wer ein Modell mit mehr als 10²⁵ FLOPs (Rechenoperationen) trainiert, muss es binnen zwei Wochen bei der Kommission melden – das systemische Risiko wird dann vermutet. Der Anbieter kann diese Vermutung widerlegen, und die Kommission kann auch kleinere Modelle einstufen.

Der Zeitplan - Wann gilt was?

Der EU AI Act ist seit 2024 in Kraft, seine Regeln gelten aber schrittweise. Der KI-Omnibus hat 2026 einige Daten verschoben. Hier sind die wichtigsten:

1. August 2024

Gesetz in Kraft

Der AI Act ist offiziell in Kraft getreten.

2. Februar 2025

Verbote gelten

Die ersten acht verbotenen KI-Praktiken sind ab jetzt untersagt. Seitdem gilt auch die Pflicht zur KI-Kompetenz (AI Literacy). Seit Juli 2026 ist sie abgeschwächt: Anbieter und Betreiber müssen die KI-Kompetenz ihres Personals fördern, aber kein bestimmtes Niveau mehr garantieren.

2. August 2025

GPAI-Regeln gelten

Die Regeln für GPAI-Modelle gelten. Die EU-Länder müssen ihre Aufsichtsbehörden benannt haben.

27. Juli 2026

Digital Omnibus zur KI (KI-Omnibus) in Kraft

Die Änderungsverordnung (EU) 2026/1744 verschiebt die Hochrisiko-Fristen, schwächt die Pflicht zur KI-Kompetenz ab und entlastet kleine und mittlere Unternehmen (KMU) sowie kleine Mid-Caps.

2. August 2026

Transparenzpflichten gelten

Chatbots müssen sich als KI zu erkennen geben, KI-generierte Inhalte müssen maschinenlesbar markiert und Deepfakes gekennzeichnet sein. Die EU-Kommission kann nun auch Bußgelder gegen Anbieter von GPAI-Modellen verhängen.

2. Dezember 2026

Zwei neue Verbote, Frist für die Markierung

Verboten sind dann auch KI-Systeme, die ohne Einwilligung sexualisierte Bilder echter Personen erzeugen, und KI-generierte Darstellungen sexuellen Kindesmissbrauchs. Generative KI-Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, müssen ihre Inhalte bis dahin maschinenlesbar markieren.

2. August 2027

KI-Reallabore und ältere GPAI-Modelle

Jedes EU-Land muss mindestens ein KI-Reallabor (Regulatory Sandbox) betreiben, in dem Unternehmen KI unter Aufsicht erproben können. GPAI-Modelle, die schon vor dem 2. August 2025 auf dem Markt waren, müssen jetzt alle Pflichten erfüllen.

2. Dezember 2027

Hochrisiko-Regeln gelten

Die Regeln für Hochrisiko-KI in den 8 sensiblen Bereichen (Anhang III) gelten. Geplant war ursprünglich August 2026. Die EU hat den Start verschoben, weil die technischen Normen und Leitlinien, mit denen Unternehmen die Einhaltung nachweisen sollen, nicht rechtzeitig fertig wurden.

2. August 2028

Eingebettete Hochrisiko-KI

Die Regeln für Hochrisiko-KI in Produkten, die schon heute eine Sicherheitsprüfung brauchen (Anhang I), gelten, etwa für Spielzeug, Aufzüge oder Medizinprodukte. Für Fahrzeuge und Maschinen übernehmen deren eigene Gesetze die Anforderungen schrittweise.

2. August 2030

Frist für Behörden

Hochrisiko-KI, die Behörden einsetzen und die schon vor dem Start der Hochrisiko-Regeln auf dem Markt war, muss spätestens jetzt alle Anforderungen erfüllen.

Strafen bei Verstößen

Der EU AI Act sieht empfindliche Strafen vor – teils höher als bei der DSGVO. Bei großen Unternehmen gilt jeweils der höhere der beiden Beträge, bei kleinen und mittleren Unternehmen (KMU) und Start-ups der niedrigere – außer bei den GPAI-Bußgeldern der Kommission. Seit dem KI-Omnibus gilt der niedrigere Betrag auch für kleine Mid-Caps (weniger als 750 Beschäftigte und höchstens 150 Mio. EUR Umsatz oder 129 Mio. EUR Bilanzsumme), allerdings weder bei verbotenen Praktiken noch bei GPAI-Bußgeldern:

Achtung

Strafrahmen nach Verstoßart

Strafrahmen des EU AI Act nach Verstoßart
VerstoßMaximale Strafe
Verbotene KI-Praktiken35 Mio. EUR oder 7% des weltweiten Umsatzes
Hochrisiko-KI-Pflichten15 Mio. EUR oder 3% des weltweiten Umsatzes
GPAI-Modell-Pflichten15 Mio. EUR oder 3% des weltweiten Umsatzes
Falsche Angaben an Behörden7,5 Mio. EUR oder 1% des weltweiten Umsatzes

Was bedeutet das für mich?

Merke

Für Bürger

Mehr Transparenz bei KI-Entscheidungen, ein Beschwerderecht bei der Marktüberwachungsbehörde, bei Hochrisiko-Entscheidungen ein Recht auf Erklärung und Schutz vor manipulativer KI und Social Scoring.

Merke

Für Unternehmen

Compliance-Anforderungen bei Hochrisiko-KI, Dokumentationspflichten, aber auch Rechtssicherheit und ein klarer Rahmen für Innovation.

Definition

Globale Wirkung

Wie bei der DSGVO könnte der "Brüssel-Effekt" eintreten: Wer KI in der EU anbietet oder KI betreibt, deren Ergebnisse hier genutzt werden, muss sich anpassen – egal, wo das Unternehmen sitzt.

Interaktiv: Sollte KI strenger reguliert werden?

Du hast den EU AI Act im Detail kennengelernt — seine Risikostufen, Verbote, Pflichten und Strafen. Jetzt kannst du selbst abwägen: Klicke auf Pro- und Contra-Argumente und beobachte, wohin sich die Waage der Regulierungsdebatte neigt.

Sollte KI strenger reguliert werden?

Klicke auf Argumente, um sie auf die Waage zu legen. Je mehr Gewicht eine Seite hat, desto stärker kippt die Waage.

PRORegulierungCONTRARegulierung Wähle Argumente aus 00

Pro-Argumente

Contra-Argumente

Was zeigt diese Übung?

Die KI-Regulierungsdebatte hat keine einfache Antwort. Beide Seiten haben gewichtige Argumente. In der Praxis suchen Gesetzgeber nach einem Mittelweg zwischen Innovation und Schutz — z.B. der EU AI Act mit risikobasierter Abstufung.

Hinweis: Die Gewichtung der Argumente ist eine didaktische Vereinfachung. In der Realität hängt das Gewicht vom konkreten Kontext, Anwendungsfall und den gesellschaftlichen Prioritäten ab.

Das Wichtigste in Kürze

Merke

6 Punkte zum Mitnehmen

  1. Der EU AI Act nutzt einen risikobasierten Ansatz: Je gefährlicher die KI, desto strenger die Regeln.
  2. 8 KI-Praktiken sind seit Februar 2025 vollständig verboten, darunter Social Scoring und manipulative KI; ab 2. Dezember 2026 kommen sexualisierte Deepfakes ohne Einwilligung und KI-generierte Missbrauchsdarstellungen von Kindern hinzu.
  3. In 8 sensiblen Bereichen (Bildung, Beschäftigung, Strafverfolgung etc.) gelten besonders strenge Hochrisiko-Regeln.
  4. ChatGPT und ähnliche Chatbots sind NICHT automatisch Hochrisiko - aber sie müssen transparent sein.
  5. Verbote gelten seit Februar 2025, die Hochrisiko-Regeln greifen ab Dezember 2027 – der KI-Omnibus hat ihren Start 2026 um 16 Monate verschoben, weil die technischen Normen dafür noch nicht fertig waren.
  6. Das Gesetz gilt für jeden, der KI in der EU anbietet - auch für Unternehmen außerhalb Europas.