Zurück zum Lernbereich

Datenschutz und KI: Wenn die DSGVO auf neuronale Netze trifft

Die DSGVO und die Sprachmodelle — eine Beziehung mit Klärungsbedarf.

  • Ethik
  • 10 min
  • Fortgeschritten

Einfache Sprache

Diese Vorschau ist in Einfacher Sprache. Das ganze Portal gibt es auch in Einfacher Sprache. Du kannst oben die Sprache wechseln. Oder nutze den Knopf unten. Unsere Texte in Einfacher Sprache entstehen KI-gestützt und werden redaktionell begleitet. Sie orientieren sich an den Grundprinzipien der Leichten Sprache, sind aber keine geprüfte Leichte Sprache: Eine Prüfgruppe von Menschen mit Lernschwierigkeiten prüft sie nicht.

Vorschau: Datenschutz und KI

Was ist die DSGVO?

In Europa gibt es ein wichtiges Gesetz. Es heißt DSGVO. DSGVO ist das Datenschutz-Gesetz der EU. Es schützt deine persönlichen Daten.

DSGVO und KI

KI-Programme lernen aus vielen Daten. KI bedeutet Künstliche Intelligenz. Das ist ein Konflikt mit der DSGVO. Die DSGVO sagt: Nur so viele Daten wie nötig. Das heißt Datensparsamkeit.

Deine Rechte

Du hast Rechte beim Datenschutz. Du kannst verlangen: Lösche meine Daten. Das heißt Recht auf Vergessenwerden. Firmen müssen das erfüllen.

Italien stoppte ChatGPT im März 2023 — nicht weil KI in Europa illegal ist, sondern weil die italienische Datenschutzbehörde OpenAI vorwarf, für die Verarbeitung der Daten von Millionen Menschen keine gültige Rechtsgrundlage zu haben. Die DSGVO verbietet nicht KI. Sie verbietet sorglosen Umgang mit Daten.

Zwei Grundsätze der DSGVO — Datensparsamkeit und Zweckbindung — und das Recht auf Vergessenwerden erzeugen echte technische Konflikte mit dem Bau moderner KI-Systeme. Dieser Artikel zeigt die drei zentralen Spannungsfelder und erklärt, welche Rechte du als Bürger hast.

Datensparsamkeit vs. Skalierungsgesetze

Definition

Datensparsamkeit (Datenminimierung, Art. 5 Abs. 1 lit. c DSGVO)

Analogie

Stell dir einen Schleppnetzfischer vor: Er zieht ein riesiges Netz durch den Ozean (das Internet) und fängt alles — auch geschützte Arten (personenbezogene Daten). Die DSGVO sagt: "Du darfst nur mit der Angel fischen und gezielt fangen, was du brauchst." Die Spannung: Schleppnetzfischerei ist effizienter, aber die Angel respektiert das Ökosystem.

Die Analogie suggeriert, die einzige Lösung sei der Verzicht auf Schleppnetze. In Wirklichkeit können technische Maßnahmen wie Anonymisierung, synthetische Daten oder Differential Privacy die beiden Ansätze teilweise versöhnen.

KI-Training

Je mehr Daten, desto besser das Modell. Große Sprachmodelle brauchen Milliarden von Texten — unvermeidlich mit personenbezogenen Daten.

DSGVO

Nur die minimal notwendigen Daten dürfen verarbeitet werden. Jede Verarbeitung braucht eine Rechtsgrundlage und einen definierten Zweck.

Die Zweckbindung verschärft das Problem: Eine Fitness-App erhebt deine Daten, um dein Training auszuwerten — nicht, um damit ein KI-Modell zu trainieren. Für einen neuen Zweck dürfen Daten nur weiterverwendet werden, wenn er mit dem ursprünglichen vereinbar ist (Art. 6 Abs. 4 DSGVO) oder eine eigene Rechtsgrundlage greift. Bei Gesundheitsdaten kommt Art. 9 hinzu, und dort bleibt oft nur die ausdrückliche Einwilligung. Pseudonymisierung hilft, ändert aber für den Anbieter selbst nichts: Wer die Zuordnung zu den Personen herstellen kann, verarbeitet weiterhin personenbezogene Daten. Nur für einen Empfänger, der die Personen realistischerweise nicht wieder erkennen kann, können sie nach einem Urteil des Europäischen Gerichtshofs von 2025 ihren Personenbezug verlieren.

Welche Rechtsgrundlage trägt also das Training? Die Einwilligung ist bei Milliarden Texten aus dem Netz kaum praktikabel. Das Forschungsprivileg (Art. 89 DSGVO) erleichtert die Weiterverwendung für wissenschaftliche Zwecke, ist aber selbst keine Rechtsgrundlage. In der Praxis läuft es meist auf das berechtigte Interesse hinaus (Art. 6 Abs. 1 lit. f). Lange war offen, ob das für KI-Training trägt — inzwischen ist die Linie klarer. Der Europäische Datenschutzausschuss (EDSA) hält es in seiner Stellungnahme 28/2024 vom Dezember 2024 für möglich, wenn ein Dreistufentest im Einzelfall bestanden ist: Der Anbieter verfolgt ein legitimes Interesse, die Verarbeitung ist dafür erforderlich, und die Interessen der Betroffenen überwiegen nicht — wobei auch zählt, ob sie mit einer solchen Nutzung rechnen mussten. Auf dieser Linie lehnte das Oberlandesgericht Köln im Mai 2025 einen Eilantrag von Verbraucherschützern gegen Metas Training mit öffentlichen Facebook- und Instagram-Beiträgen ab. Im Juli 2026 hat der EDSA außerdem Leitlinien zum Web-Scraping für generative KI zur öffentlichen Konsultation vorgelegt, die diese Abwägung mit Beispielen weiter konkretisieren. Die EU-Kommission will das berechtigte Interesse für Entwicklung und Betrieb von KI zusätzlich ausdrücklich in der DSGVO verankern (Vorschlag für einen "Digital Omnibus" zu Daten und DSGVO vom November 2025, neuer Art. 88c — nicht zu verwechseln mit dem gleichzeitig vorgeschlagenen KI-Omnibus, der den AI Act schon geändert hat), ergänzt um ein bedingungsloses Widerspruchsrecht der Betroffenen. Gestritten wird darüber, ob daraus ein Freibrief für die Anbieter wird und wie stark das Widerspruchsrecht ausfallen soll. Stand November 2026 ist der Vorschlag nicht beschlossen: Die Mitgliedstaaten haben sich im Oktober 2026 auf ihre Verhandlungsposition geeinigt und darin das bedingungslose Widerspruchsrecht gestrichen; es bliebe beim allgemeinen Widerspruchsrecht nach Art. 21. Das Europäische Parlament hat sich noch nicht festgelegt. Bis eine Änderung beschlossen ist und in Kraft tritt, gilt die DSGVO in ihrer bisherigen Fassung. Wie schnell es ohne tragfähige Rechtsgrundlage eskalieren kann, zeigt der Fall Italien:

  1. 1. März 2023: Die Datenschutzbehörde Garante stoppt ChatGPT in Italien vorläufig — unter anderem fehle eine Rechtsgrundlage für das Training
  2. 2. April 2023: OpenAI ergänzt Datenschutzhinweise, ein Widerspruchsformular und eine Altersabfrage — ChatGPT ist wieder verfügbar
  3. 3. Dezember 2024: Der Garante verhängt 15 Millionen Euro Bußgeld — Training ohne vorab festgelegte Rechtsgrundlage, mangelnde Information, eine nicht gemeldete Datenpanne, keine Altersprüfung
  4. 4. März 2026: Ein Gericht in Rom hebt den Bescheid auf — nicht in der Sache, sondern weil OpenAI inzwischen eine Niederlassung in Irland hatte und damit die irische Behörde federführend zuständig warOne-Stop-Shop der DSGVO

Achtung

Häufiger Irrtum: "Die DSGVO verbietet KI in Europa"

Die DSGVO verbietet nicht KI — sie verbietet unkontrollierte Verarbeitung personenbezogener Daten. KI ist aus Sicht der DSGVO legal, wenn sie mit einer tragfähigen Rechtsgrundlage (etwa Einwilligung oder berechtigtes Interesse) und Schutzmaßnahmen wie Anonymisierung entwickelt wird. Italien hat ChatGPT nicht dauerhaft verboten — es hat Compliance verlangt.

Das Recht auf Vergessenwerden — ein technisches Dilemma

Definition

Recht auf Löschung (Art. 17 DSGVO)

Analogie

Stell dir das Training als Kuchenbacken vor: Die Trainingsdaten sind die Zutaten — Eier, Mehl, Zucker und eine Rezeptkarte, die versehentlich hineingefallen ist. Sobald der Kuchen gebacken ist (das Modell trainiert), kann man ihn nicht entbacken, um die Rezeptkarte zu entfernen. Die Zutaten sind im Endprodukt verschmolzen. Output-Filter sind wie Zuckerguss über der Stelle, wo die Karte durchscheint — er verbirgt sie, aber sie ist noch drin.

Es gibt einen entscheidenden Unterschied: Trainingsdaten (können von Servern gelöscht werden) vs. Modellgewichte (Informationen verteilt, können nicht chirurgisch entfernt werden). Das eine ist ein Dateiproblem, das andere ein Mathematikproblem.

Was passiert, wenn eine Person verlangt, dass ChatGPT sie "vergisst"? OpenAI kann einen Output-Filter aktivieren (der Name erscheint nicht mehr in Antworten) und die Person von künftigen Trainingsdaten ausschließen. Aber das bestehende Modell kann die Information noch in seinen Gewichten enthalten — es spricht sie dann nur nicht mehr aus. Die Person ist womöglich versteckt, nicht vergessen.

Machine Unlearning ist ein aktives Forschungsfeld: Wie bringt man ein Modell dazu, bestimmte Daten gezielt zu vergessen? Bourtoule et al. (2021) zeigten mit dem SISA-Verfahren einen exakten Weg: Man teilt die Trainingsdaten von vornherein in Scheiben, trainiert je Scheibe ein Teilmodell und muss nach einem Löschantrag nur die betroffene Scheibe neu trainieren. Das muss allerdings vor dem Training so geplant sein und gilt für große Sprachmodelle als kaum praktikabel. Für fertig trainierte Modelle gibt es nur Näherungsverfahren, und Übersichtsarbeiten aus den Jahren 2025 und 2026 kommen zum selben Befund: Diese Verfahren unterdrücken das Wissen meist nur — mit gezielten Angriffen oder etwas Nach-Training lässt es sich oft wieder hervorholen. Eine zuverlässige, überprüfbare Methode gibt es (Stand November 2026) nicht. Die Kernfrage bleibt: Wie weist man nach, dass ein Modell wirklich vergessen hat?

Carlini et al. (2021) zeigten, dass sich aus GPT-2 Hunderte wörtliche Textstücke der Trainingsdaten extrahieren lassen, darunter Namen, Telefonnummern und E-Mail-Adressen; Nasr, Carlini et al. (2023) gelang das in viel größerem Umfang sogar bei ChatGPT — trotz Sicherheitstraining. Das unterstreicht: Filter verbergen Information, sie löschen sie nicht.

Achtung

Häufiger Irrtum: "Output-Filter lösen das Löschproblem"

Output-Filter verhindern, dass das Modell Informationen anzeigt. Aber die Daten können in den Gewichten codiert bleiben und unter bestimmten Bedingungen extrahiert werden. Ob Modellgewichte überhaupt personenbezogene Daten sind, war unter Aufsichtsbehörden umstritten — der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit verneinte es 2024 in einem Diskussionspapier. Der EDSA hat im Dezember 2024 die Linie vorgegeben: Prüfung im Einzelfall. Anonym ist ein Modell nur, wenn sich Personen daraus sehr wahrscheinlich nicht identifizieren und ihre Daten auch durch gezielte Abfragen nicht herausholen lassen. Filter sind ein pragmatischer Workaround, keine rechtliche Lösung im Sinne der DSGVO.

Verwandt ist ein zweites Problem: Sprachmodelle erfinden manchmal falsche Angaben über echte Menschen. Die DSGVO verlangt, dass Daten richtig sind (Art. 5 Abs. 1 lit. d), und gibt dir ein Recht auf Berichtigung (Art. 16). Ein Modell lässt sich aber ähnlich schwer gezielt korrigieren, wie es vergessen kann. Die Datenschutzorganisation noyb hat deshalb Beschwerden gegen OpenAI eingereicht, 2024 in Österreich und 2025 in Norwegen: Dort hatte ChatGPT einen Mann fälschlich als verurteilten Mörder seiner Kinder beschrieben. Eine Entscheidung der Behörden ist bisher nicht bekannt (Stand November 2026).

Deine Rechte, ihre Pflichten

Auskunftsrecht (Art. 15) Du kannst erfahren, welche Daten über dich verarbeitet werden. Entscheidet ein Algorithmus allein über dich, steht dir zusätzlich eine verständliche Erklärung zu, wie das Ergebnis zustande kam.
Widerspruchsrecht (Art. 21) Stützt sich ein Anbieter auf sein berechtigtes Interesse, kannst du aus Gründen deiner besonderen Situation widersprechen, dass deine Daten künftig ins Training fließen. Er muss dann aufhören, es sei denn, er weist zwingende schutzwürdige Gründe nach.
Recht auf menschliche Prüfung (Art. 22) Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung — etwa über Kredite oder Bewerbungen — darf eine KI nur ausnahmsweise allein treffen. Dann kannst du verlangen, dass ein Mensch sie überprüft.

Wie ernst der Europäische Gerichtshof diese Rechte nimmt, zeigen zwei Urteile zur Kreditwürdigkeit. Im Fall SCHUFA (Dezember 2023) entschied er: Schon ein automatisch berechneter Score ist eine Entscheidung im Sinne von Art. 22, wenn die Bank sich maßgeblich darauf stützt — die Auskunftei kann sich nicht darauf zurückziehen, dass formal erst die Bank entscheidet. Im Fall Dun & Bradstreet Austria (Februar 2025) präzisierte er das Auskunftsrecht: Wer automatisiert bewertet wird, hat Anspruch auf eine verständliche Erklärung des Verfahrens und der Grundsätze, die tatsächlich angewandt wurden. Die bloße Übermittlung einer Formel oder des Algorithmus genügt nicht, und Geschäftsgeheimnisse rechtfertigen keine pauschale Verweigerung — im Streitfall wägen Aufsichtsbehörde oder Gericht ab.

Stell dir ein Baugenehmigungssystem vor: Bevor du ein Gebäude errichtest (ein KI-System einführst), brauchst du zwei Genehmigungen. Eine vom Bauamt (EU AI Act — ist das Gebäude sicher?) und eine von der Umweltbehörde (DSGVO — werden die Rechte der Nachbarn gewahrt?). Beide müssen genehmigen, bevor der Bau beginnt. Anders als beim Bau stellt allerdings meist keine Behörde vorab eine Genehmigung aus — das Unternehmen muss selbst prüfen und nachweisen, dass es beide Regelwerke einhält.

Für ein deutsches Unternehmen, das einen Kundenservice-Chatbot einführt, kann das konkret bedeuten:

  • Vor dem Launch eine Datenschutz-Folgenabschätzung durchführen (Art. 35 DSGVO) — KI-Kundensupport mit personenbezogenen Daten steht auf der Muss-Liste der deutschen Aufsichtsbehörden
  • Eine Rechtsgrundlage für die Chat-Protokolle festlegen: Für die Bearbeitung der Anfrage genügt meist die Vertragserfüllung oder das berechtigte Interesse; sollen die Protokolle weiteren Zwecken dienen, etwa dem Training eigener Modelle, braucht es dafür eine eigene Rechtsgrundlage — oft die Einwilligung. Die Kunden in jedem Fall darüber informieren (Art. 13)
  • Mit dem LLM-Anbieter einen Auftragsverarbeitungsvertrag schließen (Art. 28 DSGVO) — mehr dazu im Entscheidungsbaum unten
  • Personenbezogene Angaben möglichst entfernen oder pseudonymisieren, bevor sie an das LLM gesendet werden
  • Eine Speicherfrist festlegen und die Chat-Protokolle danach löschen, etwa nach 30 Tagen
  • Den Chatbot als KI kenntlich machen — Pflicht nach Art. 50 Abs. 1 EU AI Act seit 2. August 2026, sofern es nicht ohnehin offensichtlich ist

Achtung

Häufiger Irrtum: "Wer nichts zu verbergen hat, hat nichts zu befürchten"

Datenschutz schützt nicht primär Geheimnisse — er schützt das fundamentale Recht auf informationelle Selbstbestimmung. Es geht um deine Macht zu entscheiden, wer was über dich weiß und wie diese Information in KI-Systemen verwendet wird.

DSGVO und EU AI Act ergänzen sich: Die DSGVO reguliert den Umgang mit DATEN, der AI Act reguliert das KI-SYSTEM selbst. Für ein KI-Produkt in der EU gelten beide gleichzeitig — weder allein ist ausreichend. An einer Stelle greifen sie direkt ineinander: Um Verzerrungen (Bias) in Trainingsdaten zu erkennen und zu korrigieren, erlaubt der AI Act ausnahmsweise die Verarbeitung besonders geschützter Daten wie Gesundheitsdaten. Ursprünglich galt das nur für Anbieter von Hochrisiko-Systemen (Art. 10 Abs. 5); seit dem KI-Omnibus (Verordnung (EU) 2026/1744, in Kraft seit Juli 2026) gilt es auch für andere KI-Systeme und -Modelle, sofern die Verzerrung Gesundheit, Sicherheit oder Grundrechte gefährden oder zu verbotener Diskriminierung führen kann (Art. 4a AI Act). Die Bedingungen sind streng: nur wenn es strikt erforderlich ist und synthetische oder anonymisierte Daten nicht genügen, mit Pseudonymisierung und Zugriffskontrolle, und gelöscht wird, sobald die Verzerrung behoben ist.

Interaktiv: Brauche ich einen Auftragsverarbeitungsvertrag?

Beantworte die Fragen und finde heraus, welche DSGVO-Maßnahmen für dein KI-Projekt relevant sind.

Merke

Die wichtigsten Erkenntnisse

  1. Die DSGVO verbietet nicht KI — sie verbietet unkontrollierte Verarbeitung personenbezogener Daten. Für das Training ist das berechtigte Interesse die wichtigste Rechtsgrundlage: Der EDSA erkennt es seit Dezember 2024 unter Bedingungen an, eine ausdrückliche Regel in der DSGVO ist (Stand November 2026) in Verhandlung.
  2. Das "Recht auf Vergessenwerden" kollidiert mit der Funktionsweise neuronaler Netze: Information ist über Milliarden Gewichte verteilt und kann nicht chirurgisch entfernt werden. Machine Unlearning ist ein aktives, aber ungelöstes Forschungsfeld.
  3. Bürger haben wirksame Werkzeuge: Auskunft über ihre Daten und bei automatisierten Entscheidungen eine verständliche Erklärung (Art. 15), Widerspruch gegen Training auf Basis des berechtigten Interesses (Art. 21) und Schutz vor rein automatisierten Entscheidungen mit erheblicher Wirkung (Art. 22).

Prüfen

Quiz: DSGVO und KI

Noch offen

Was verlangt das DSGVO-Prinzip der Datensparsamkeit?

Wähle eine Antwort

Auflösung: 1) B · 2) C · 3) B · 4) D

Prüfen

Verständnischeck

Kannst du das in eigenen Worten erklären? Hake ab, was sitzt.

0 von 3 sitzen