EU AI Act - Das KI-Gesetz der EU verständlich erklärt
Was Europa beschlossen hat, während andere noch diskutierten — eine Bestandsaufnahme.
Stell dir vor, eine KI entscheidet, ob du einen Kredit bekommst, ob dein Kind an der Wunschschule aufgenommen wird oder ob du zum Vorstellungsgespräch eingeladen wirst. Ab dem 2. Dezember 2027 gelten in der EU strenge Regeln für genau solche Hochrisiko-Anwendungen.
Der EU AI Act gilt als das weltweit erste umfassende KI-Gesetz – und selbst wenn du nie eigene KI entwickelst, betrifft er deinen Alltag. Im Juli 2026 hat die EU ihn mit dem „Digital Omnibus zur KI“ (KI-Omnibus) nachgebessert: Fristen verschoben, Pflichten gelockert, zwei Verbote ergänzt. Dieser Artikel zeigt den Stand vom November 2026: was das Gesetz regelt, wann welche Vorschriften gelten und was das konkret für dich bedeutet.
Das Ampelsystem der KI-Risiken
Der EU AI Act nutzt einen risikobasierten Ansatz: Je höher das Schadenspotenzial einer KI-Anwendung, desto strenger die Vorschriften. Wie eine Ampel zeigt das System vier Stufen.
Achtung
Rot - Unakzeptables Risiko
Diese KI-Anwendungen sind komplett verboten. Beispiele: Social Scoring, manipulative KI, massenhaftes Sammeln von Gesichtsbildern aus dem Internet.
Achtung
Orange - Hohes Risiko
Strenge Auflagen und Dokumentationspflichten. Beispiele: KI, die Prüfungen bewertet, Bewerbungen vorsortiert oder die Kreditwürdigkeit prüft.
Merke
Gelb - Begrenztes Risiko
Transparenzpflichten: Nutzer müssen wissen, dass sie mit KI interagieren. Beispiel: Chatbots müssen sich als KI identifizieren.
Merke
Grün - Minimales Risiko
Keine spezifischen Auflagen. Beispiele: Spam-Filter, KI in Videospielen, Empfehlungssysteme.
Interaktiv: Welche KI fällt in welche Risikokategorie?
Du kennst jetzt die vier Risikostufen des EU AI Act. Klicke auf eine Zeile der Matrix, um zu sehen, warum dieser Anwendungsfall in die jeweilige Kategorie fällt.
Risiko-Matrix: Anwendungsfälle im EU AI Act
Zeile anklicken für Detailansicht
| Anwendungsfall | Risikostufe | Anforderungen | Max. Strafe |
|---|---|---|---|
| Social Scoring | Verboten | Vollständig verboten | €35M / 7% |
| Medizinische KI | Hochrisiko | Konformitätsbewertung, CE-Kennzeichnung, Dokumentation | €15M / 3% |
| KI im Recruiting | Hochrisiko | Konformitätsbewertung, CE-Kennzeichnung, Dokumentation | €15M / 3% |
| ChatGPT | GPAI-Regeln | Transparenz, Urheberrechts-Compliance | €15M / 3% |
| Chatbot | Begrenzt | Nur Offenlegungspflicht | €15M / 3% |
| Spamfilter | Minimal | Keine | - |
Was ist verboten?
Der EU AI Act verbietet bestimmte KI-Anwendungen vollständig. Acht davon sind seit dem 2. Februar 2025 untersagt. Ab dem 2. Dezember 2026 kommen zwei weitere hinzu: KI, die ohne Einwilligung realistische Intimbilder erkennbarer Personen erzeugt, und KI, die Darstellungen sexuellen Kindesmissbrauchs erzeugt. Für Anbieter greifen diese beiden Verbote, wenn das der Zweck des Systems ist oder wenn es solche Inhalte absehbar erzeugen kann, ohne dass verlässliche Schutzmaßnahmen das verhindern – ein Bildgenerator mit wirksamen Filtern fällt also nicht darunter. Auch wer ein KI-System beruflich gezielt dafür einsetzt (im Gesetz: Betreiber), verstößt gegen das Verbot. Für Privatleute, die KI nur für sich nutzen, gilt der AI Act nicht; wer solche Bilder herstellt oder verbreitet, kann sich aber strafbar machen – bei Missbrauchsdarstellungen von Kindern in der gesamten EU. Im Gesetz sind das zwei eigene Buchstaben (Art. 5 Abs. 1 lit. ba und bb); die EU-Kommission fasst sie in ihrer Übersicht zu einem neunten Verbot zusammen.
Achtung
Die verbotenen KI-Praktiken: 8 seit 2025, 2 weitere ab Dezember 2026
- Manipulative KI: Systeme, die mit unterschwelligen, gezielt manipulativen oder täuschenden Techniken das Verhalten von Menschen so beeinflussen, dass ihnen erheblicher Schaden droht.
- Ausnutzung von Schwächen: KI, die gezielt Alter, Behinderungen oder wirtschaftliche Notlagen ausnutzt.
- Social Scoring: Bewertungssysteme, die Menschen aufgrund ihres Verhaltens oder persönlicher Merkmale klassifizieren und benachteiligen.
- Predictive Policing: KI, die das Risiko vorhersagt, dass eine Person eine Straftat begeht - allein aufgrund von Profildaten.
- Gesichtsbilder-Scraping: Das ungezielte, massenhafte Sammeln von Gesichtsbildern aus dem Internet oder von Überwachungskameras, um Gesichtserkennungs-Datenbanken aufzubauen.
- Emotionserkennung am Arbeitsplatz und in Schulen: KI, die versucht, die Gefühle von Beschäftigten oder Schülern zu erkennen – außer aus medizinischen oder Sicherheitsgründen.
- Biometrische Kategorisierung: KI, die Menschen nach sensiblen Merkmalen wie Herkunft, Religion oder sexueller Orientierung einteilt.
- Echtzeit-Gesichtserkennung: Live-Überwachung mit Gesichtserkennung in öffentlichen Räumen durch die Polizei (mit sehr engen Ausnahmen).
- Sexualisierte Deepfakes ohne Einwilligung (ab 2. Dezember 2026): KI, die realistische Nacktbilder oder sexuell explizite Bilder, Videos oder Tonaufnahmen einer erkennbaren Person erzeugt oder verfälscht, ohne dass diese ausdrücklich zugestimmt hat – etwa sogenannte Nudify-Apps.
- Darstellungen sexuellen Kindesmissbrauchs (ab 2. Dezember 2026): KI, die solches Material erzeugt oder verfälscht. Das Herstellen solchen Materials ist in der EU schon lange strafbar; ab diesem Datum sind auch die KI-Systeme verboten, die es erzeugen.
Hochrisiko-KI unter der Lupe
In acht sensiblen Bereichen müssen KI-Systeme besonders strenge Auflagen erfüllen. Diese sind in Anhang III des Gesetzes definiert und gelten ab dem 2. Dezember 2027. Entscheidend ist dabei der konkrete Zweck, nicht der Bereich allein: Eine KI, die Bewerbungen vorsortiert oder Prüfungen bewertet, ist Hochrisiko-KI; eine KI, die in der Personalabteilung nur Termine plant, ist es nicht. Erledigt ein System nur eine eng begrenzte Hilfsaufgabe und beeinflusst die Entscheidung nicht wesentlich, kann der Anbieter es mit einer dokumentierten Begründung ausnehmen. Bewertet es aber Menschen anhand ihrer persönlichen Merkmale (Profiling), bleibt es immer Hochrisiko-KI.
Für Hochrisiko-KI gilt unter anderem: ein Risikomanagementsystem, hochwertige und auf Verzerrungen geprüfte Trainingsdaten, technische Dokumentation, automatische Protokolle, menschliche Aufsicht sowie Genauigkeit und Robustheit. Vor dem Marktstart prüft der Anbieter, meist selbst, ob alles erfüllt ist, versieht das System mit der CE-Kennzeichnung und trägt es in die EU-Datenbank ein.
ChatGPT & Co. - Die GPAI-Regeln
Für General-Purpose AI (GPAI) – also vielseitig einsetzbare KI-Modelle wie die hinter ChatGPT, Claude oder Gemini – gelten eigene Regeln. Die Pflichten gelten seit dem 2. August 2025; Bußgelder kann die EU-Kommission seit dem 2. August 2026 verhängen. Modelle, die schon vor August 2025 auf dem Markt waren, müssen die Pflichten bis zum 2. August 2027 erfüllen. Als Weg dorthin gibt es seit Juli 2025 einen freiwilligen Verhaltenskodex (Code of Practice), den Kommission und KI-Gremium als geeignet bestätigt haben. Unterzeichnet haben ihn unter anderem OpenAI, Anthropic, Google, Microsoft, Amazon und Mistral AI; xAI nur das Kapitel zu Sicherheit.
Merke
Wichtig: ChatGPT ist KEIN Hochrisiko-System
Ein häufiges Missverständnis: ChatGPT und ähnliche Chatbots sind nicht automatisch Hochrisiko-KI. Sie müssen aber Transparenzpflichten erfüllen: Der Chatbot muss erkennbar machen, dass du mit einer KI sprichst, und erzeugte Texte, Bilder oder Töne müssen maschinenlesbar als KI-generiert markiert sein. Das gilt seit dem 2. August 2026; Systeme, die schon vorher auf dem Markt waren, haben für die Markierung bis zum 2. Dezember 2026 Zeit. Wie das praktisch geht, beschreiben seit Juni 2026 ein freiwilliger Verhaltenskodex zur Kennzeichnung KI-erzeugter Inhalte und seit Juli 2026 Leitlinien der EU-Kommission. Der Kodex bringt drei einheitliche EU-Symbole mit, mit denen sich Deepfakes (Bild, Ton, Video) und veröffentlichte KI-Texte kennzeichnen lassen. Die Symbole sind freiwillig, die Kennzeichnungspflicht ist es nicht. Stammen Modell und Chatbot vom selben Anbieter, beaufsichtigt seit dem KI-Omnibus das KI-Büro der EU-Kommission (AI Office) das System direkt – nicht mehr die Behörde in jedem einzelnen EU-Land.
Vertiefung
Standard-GPAI
Alle GPAI-Modelle müssen: technische Dokumentation für die Behörden bereithalten, Firmen, die das Modell einbauen, die nötigen Informationen geben, eine Strategie zur Einhaltung des Urheberrechts haben und eine Zusammenfassung ihrer Trainingsdaten veröffentlichen. Für diese Zusammenfassung gibt die EU-Kommission seit Juli 2025 eine Vorlage vor. Ausnahme: Bei Open-Source-Modellen ohne systemisches Risiko, deren Gewichte öffentlich sind, entfallen die ersten beiden Pflichten.
Achtung
GPAI mit systemischem Risiko
Besonders leistungsstarke Modelle haben zusätzliche Pflichten: Modellevaluierungen, Angriffstests (Red Teaming), Vorfallmeldungen und Cybersicherheitsmaßnahmen. Als Faustregel gilt: Wer ein Modell mit mehr als 10²⁵ FLOPs (Rechenoperationen) trainiert, muss es binnen zwei Wochen bei der Kommission melden – das systemische Risiko wird dann vermutet. Der Anbieter kann diese Vermutung widerlegen, und die Kommission kann auch kleinere Modelle einstufen.
Der Zeitplan - Wann gilt was?
Der EU AI Act ist seit 2024 in Kraft, seine Regeln gelten aber schrittweise. Der KI-Omnibus hat 2026 einige Daten verschoben. Hier sind die wichtigsten:
Gesetz in Kraft
Der AI Act ist offiziell in Kraft getreten.
Verbote gelten
Die ersten acht verbotenen KI-Praktiken sind ab jetzt untersagt. Seitdem gilt auch die Pflicht zur KI-Kompetenz (AI Literacy). Seit Juli 2026 ist sie abgeschwächt: Anbieter und Betreiber müssen die KI-Kompetenz ihres Personals fördern, aber kein bestimmtes Niveau mehr garantieren.
GPAI-Regeln gelten
Die Regeln für GPAI-Modelle gelten. Die EU-Länder müssen ihre Aufsichtsbehörden benannt haben.
Digital Omnibus zur KI (KI-Omnibus) in Kraft
Die Änderungsverordnung (EU) 2026/1744 verschiebt die Hochrisiko-Fristen, schwächt die Pflicht zur KI-Kompetenz ab und entlastet kleine und mittlere Unternehmen (KMU) sowie kleine Mid-Caps.
Transparenzpflichten gelten
Chatbots müssen sich als KI zu erkennen geben, KI-generierte Inhalte müssen maschinenlesbar markiert und Deepfakes gekennzeichnet sein. Die EU-Kommission kann nun auch Bußgelder gegen Anbieter von GPAI-Modellen verhängen.
Zwei neue Verbote, Frist für die Markierung
Verboten sind dann auch KI-Systeme, die ohne Einwilligung sexualisierte Bilder echter Personen erzeugen, und KI-generierte Darstellungen sexuellen Kindesmissbrauchs. Generative KI-Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, müssen ihre Inhalte bis dahin maschinenlesbar markieren.
KI-Reallabore und ältere GPAI-Modelle
Jedes EU-Land muss mindestens ein KI-Reallabor (Regulatory Sandbox) betreiben, in dem Unternehmen KI unter Aufsicht erproben können. GPAI-Modelle, die schon vor dem 2. August 2025 auf dem Markt waren, müssen jetzt alle Pflichten erfüllen.
Hochrisiko-Regeln gelten
Die Regeln für Hochrisiko-KI in den 8 sensiblen Bereichen (Anhang III) gelten. Geplant war ursprünglich August 2026. Die EU hat den Start verschoben, weil die technischen Normen und Leitlinien, mit denen Unternehmen die Einhaltung nachweisen sollen, nicht rechtzeitig fertig wurden.
Eingebettete Hochrisiko-KI
Die Regeln für Hochrisiko-KI in Produkten, die schon heute eine Sicherheitsprüfung brauchen (Anhang I), gelten, etwa für Spielzeug, Aufzüge oder Medizinprodukte. Für Fahrzeuge und Maschinen übernehmen deren eigene Gesetze die Anforderungen schrittweise.
Frist für Behörden
Hochrisiko-KI, die Behörden einsetzen und die schon vor dem Start der Hochrisiko-Regeln auf dem Markt war, muss spätestens jetzt alle Anforderungen erfüllen.
Strafen bei Verstößen
Der EU AI Act sieht empfindliche Strafen vor – teils höher als bei der DSGVO. Bei großen Unternehmen gilt jeweils der höhere der beiden Beträge, bei kleinen und mittleren Unternehmen (KMU) und Start-ups der niedrigere – außer bei den GPAI-Bußgeldern der Kommission. Seit dem KI-Omnibus gilt der niedrigere Betrag auch für kleine Mid-Caps (weniger als 750 Beschäftigte und höchstens 150 Mio. EUR Umsatz oder 129 Mio. EUR Bilanzsumme), allerdings weder bei verbotenen Praktiken noch bei GPAI-Bußgeldern:
GDPR: Datenschutz-Wendepunkt mit KI-Impact
Seit dem 25. Mai 2018 gilt die EU-Datenschutz-Grundverordnung (GDPR/DSGVO) - ein Wendepunkt für KI und Datenschutz weltweit. Als „Mutter aller Datenschutzgesetze“ ersetzte sie die veraltete Richtlinie 95/46/EG von 1995 aus dem Internet-Steinzeitalter. GDPR führte „Privacy by Design“ als Pflicht ein: Datenschutz muss von Anfang an in KI-Systeme eingebaut werden. Die globale Reichweite war enorm - auch US-Tech-Giganten müssen sich an EU-Standards halten, wenn sie europäische Daten verarbeiten. Für KI bedeutete das eine fundamentale Herausforderung: Wie erklärt man „Black-Box“-Algorithmen, wenn GDPR Transparenz verlangt? Beobachter sahen einen Anreiz, KI tendenziell datensparender zu entwickeln, und Methoden wie Transfer Learning gewannen an Bedeutung. GDPR inspirierte weltweite Datenschutzgesetze von Kalifornien bis Brasilien. Die Verordnung bereitete den Boden für den EU AI Act 2024 - von Datenschutz zu KI-Regulierung war es nur ein logischer Schritt.
Achtung
Strafrahmen nach Verstoßart
| Verstoß | Maximale Strafe |
|---|---|
| Verbotene KI-Praktiken | 35 Mio. EUR oder 7% des weltweiten Umsatzes |
| Hochrisiko-KI-Pflichten | 15 Mio. EUR oder 3% des weltweiten Umsatzes |
| GPAI-Modell-Pflichten | 15 Mio. EUR oder 3% des weltweiten Umsatzes |
| Falsche Angaben an Behörden | 7,5 Mio. EUR oder 1% des weltweiten Umsatzes |
Was bedeutet das für mich?
Merke
Für Bürger
Mehr Transparenz bei KI-Entscheidungen, ein Beschwerderecht bei der Marktüberwachungsbehörde, bei Hochrisiko-Entscheidungen ein Recht auf Erklärung und Schutz vor manipulativer KI und Social Scoring.
Merke
Für Unternehmen
Compliance-Anforderungen bei Hochrisiko-KI, Dokumentationspflichten, aber auch Rechtssicherheit und ein klarer Rahmen für Innovation.
Definition
Globale Wirkung
Wie bei der DSGVO könnte der "Brüssel-Effekt" eintreten: Wer KI in der EU anbietet oder KI betreibt, deren Ergebnisse hier genutzt werden, muss sich anpassen – egal, wo das Unternehmen sitzt.
Interaktiv: Sollte KI strenger reguliert werden?
Du hast den EU AI Act im Detail kennengelernt — seine Risikostufen, Verbote, Pflichten und Strafen. Jetzt kannst du selbst abwägen: Klicke auf Pro- und Contra-Argumente und beobachte, wohin sich die Waage der Regulierungsdebatte neigt.
Sollte KI strenger reguliert werden?
Klicke auf Argumente, um sie auf die Waage zu legen. Je mehr Gewicht eine Seite hat, desto stärker kippt die Waage.
Pro-Argumente
Contra-Argumente
Was zeigt diese Übung?
Die KI-Regulierungsdebatte hat keine einfache Antwort. Beide Seiten haben gewichtige Argumente. In der Praxis suchen Gesetzgeber nach einem Mittelweg zwischen Innovation und Schutz — z.B. der EU AI Act mit risikobasierter Abstufung.
Hinweis: Die Gewichtung der Argumente ist eine didaktische Vereinfachung. In der Realität hängt das Gewicht vom konkreten Kontext, Anwendungsfall und den gesellschaftlichen Prioritäten ab.
Das Wichtigste in Kürze
Merke
6 Punkte zum Mitnehmen
- Der EU AI Act nutzt einen risikobasierten Ansatz: Je gefährlicher die KI, desto strenger die Regeln.
- 8 KI-Praktiken sind seit Februar 2025 vollständig verboten, darunter Social Scoring und manipulative KI; ab 2. Dezember 2026 kommen sexualisierte Deepfakes ohne Einwilligung und KI-generierte Missbrauchsdarstellungen von Kindern hinzu.
- In 8 sensiblen Bereichen (Bildung, Beschäftigung, Strafverfolgung etc.) gelten besonders strenge Hochrisiko-Regeln.
- ChatGPT und ähnliche Chatbots sind NICHT automatisch Hochrisiko - aber sie müssen transparent sein.
- Verbote gelten seit Februar 2025, die Hochrisiko-Regeln greifen ab Dezember 2027 – der KI-Omnibus hat ihren Start 2026 um 16 Monate verschoben, weil die technischen Normen dafür noch nicht fertig waren.
- Das Gesetz gilt für jeden, der KI in der EU anbietet - auch für Unternehmen außerhalb Europas.