Zurück zum Lernbereich

Bewusstsein vs. Wahrscheinlichkeit

Die philosophische Frage, ob LLMs verstehen, was sie sagen — sortiert ohne Hochmut.

  • Mythen
  • 9 min
  • Einsteiger

Einfache Sprache

Diese Vorschau ist in Einfacher Sprache. Das ganze Portal gibt es auch in Einfacher Sprache. Du kannst oben die Sprache wechseln. Oder nutze den Knopf unten. Unsere Texte in Einfacher Sprache entstehen KI-gestützt und werden redaktionell begleitet. Sie orientieren sich an den Grundprinzipien der Leichten Sprache, sind aber keine geprüfte Leichte Sprache: Eine Prüfgruppe von Menschen mit Lernschwierigkeiten prüft sie nicht.

Vorschau: Denkt KI wirklich?

Was aktuelle KI ist

Aktuelle KI wie ChatGPT ist sehr gut in Sprache. Sie erkennt Muster in Texten. Dann sagt sie das nächste Wort vorher. Das ist kein echtes Verstehen. Das nennt man Narrow AI. Narrow AI bedeutet: KI für eine bestimmte Aufgabe.

Papagei oder mehr?

Manche sagen: KI ist wie ein Papagei. Ein Papagei spricht nach. Er versteht die Wörter nicht. Andere sagen: KI löst neue Probleme. Das kann ein Papagei nicht. Beide Seiten haben gute Gründe.

Bewusstsein: eine offene Frage

Ist KI bewusst? Diese Frage kann niemand beantworten. Das Harte Problem des Bewusstseins fragt: Wie fühlt sich Denken an? Wir können das nicht von außen messen. Das gilt auch für Menschen.

Wenn ein Sprachmodell ein Gedicht schreibt, das dich berührt, oder ein kniffliges Logikrätsel löst, drängt sich eine Frage auf: Steckt hinter diesen Worten jemand — oder bewunderst du das raffinierteste Autocomplete der Welt?

Dieser Artikel trennt Hype von Substanz und untersucht, was KI tatsächlich unter der Haube tut, warum das Label "Stochastischer Papagei" etwas Wichtiges einfängt, aber nicht die ganze Geschichte erzählt, und warum die Frage nach maschinellem Bewusstsein mit unseren heutigen Mitteln möglicherweise grundsätzlich unbeantwortbar ist.

Die drei Stufen der KI

Um zu verstehen, ob KI "denkt", müssen wir zunächst drei grundlegend verschiedene Stufen von KI-Fähigkeit unterscheiden. Die Stufe, auf der sich aktuelle Systeme befinden, bestimmt, welche Fragen überhaupt sinnvoll sind.

Die Intelligenz-Leiter

ASI — Artificial Superintelligence Hypothetische KI, die den Menschen in allen kognitiven Bereichen übertrifft. Reine Science-Fiction.
Science-Fiction
AGI — Artificial General Intelligence KI auf menschlichem Niveau: lernt selbstständig, transferiert Wissen zwischen Domänen, versteht Kontext.
Hypothetisch
ANI — Narrow AI Spezialisierte KI, die eine bestimmte Aufgabe meistert. Nach klassischer Einteilung alle heutigen Systeme — auch ChatGPT und Claude.
Heute

Definition

Narrow AI (ANI)

Analogie

Stell dir einen Kardiologen vor, der jede Herzerkrankung auf einen Blick diagnostiziert — aber weder dein Auto reparieren noch einen Friedensvertrag aushandeln kann. Jetzt stell dir eine Klinik mit tausenden solcher Spezialisten vor, die ein Rezeptionist in Millisekunden zum richtigen Experten weiterleitet. Von außen wirkt die Klinik allwissend. Von innen versteht kein einziger Arzt das große Ganze. Auch wenn ein Sprachmodell nach außen wie ein allwissendes Genie wirkt — unter der Haube wendet es nur gelernte statistische Muster an, ohne das große Ganze zu verstehen — wie die Ärzte in dieser Klinik.

Aktuelle Sprachmodelle wirken auf den ersten Blick wie AGI. Sie beantworten Fragen zu fast jedem Thema und erzeugen eine überzeugende Illusion von Verständnis. Unter der Haube machen sie jedoch immer dasselbe: Sie sagen das statistisch wahrscheinlichste nächste Wort vorher, basierend auf Mustern aus Milliarden von Texten.

Beispiel: Das Fenster-Experiment

Frag ChatGPT: "Was siehst du, wenn du aus dem Fenster schaust?" Es generiert eine lebendige Beschreibung — ein sonniger Park, Vögel, ein vorbeifahrender Radfahrer. Aber das System hat kein Fenster, keine Augen und keinen visuellen Cortex. Es hat die statistisch wahrscheinlichste Fortsetzung berechnet. Frag es dann, zwei siebenstellige Zahlen im Kopf zu multiplizieren — eine Aufgabe, die jede Tabellenkalkulation sofort löst. Ohne Rechenweg und ohne Rechenwerkzeug liegt es dabei oft daneben, weil es die Ziffern als Textmuster vorhersagt, statt zu rechnen. Manche neuere Reasoning-Modelle schaffen solche Aufgaben inzwischen, weil sie vorher Schritt für Schritt rechnen. Der Kontrast — eloquent über Landschaften, stolpernd bei Arithmetik — offenbart den Mechanismus: Musterabgleich auf Sprache, kein Verständnis der Welt.

In der Fachwelt stehen sich Optimisten wie Sam Altman und Demis Hassabis, die AGI in den nächsten Jahren erwarten, und Skeptiker wie Yann LeCun gegenüber, der argumentiert, dass heutige Sprachmodelle eine technologische Sackgasse darstellen und AGI grundlegend andere Architekturen erfordert. Selbst die Einordnung heutiger Modelle ist umstritten: Im Februar 2026 argumentierten vier Forschende der UC San Diego in einem Kommentar in der Fachzeitschrift Nature, heutige Sprachmodelle hätten nach vernünftigen Maßstäben bereits allgemeine Intelligenz auf menschlichem Niveau. Und die EU-KI-Verordnung führt sie nicht als Spezialisten, sondern als "KI-Modelle mit allgemeinem Verwendungszweck".

Alan Turing schlug 1950 einen Test vor: Kann ein menschlicher Prüfer anhand der Antworten unterscheiden, ob er mit einem Menschen oder einer Maschine kommuniziert? Moderne Sprachmodelle haben diesen Test in Studien bereits bestanden. Aber das beweist weniger über die Maschine als über die menschliche Neigung, flüssigem Text Verständnis zuzuschreiben. Der Test misst, ob die Ausgabe menschlich klingt — nicht ob die Maschine versteht, was sie sagt. Eine ausreichend große Musterdatenbank kann menschlich klingende Antworten produzieren, ohne jedes Verständnis. Der Test war visionär für seine Zeit, ist aber kein verlässlicher Indikator für echte Intelligenz.

Papagei vs. Wunderkind

Der Begriff "Stochastischer Papagei" wurde 2021 von Emily Bender und Kollegen geprägt. Ihre These: Große Sprachmodelle reihen Wortfolgen nach statistischer Wahrscheinlichkeit aneinander, ohne deren Bedeutung zu erfassen — wie ein Papagei, der "Hallo, wie geht's" sagen kann, ohne zu wissen, was ein Gruß ist. Die Gegenposition ist gewichtig: Diese Modelle lösen nachweislich neuartige Probleme, bilden gültige Analogien und generalisieren über ihre Trainingsdaten hinaus auf eine Weise, die reine Speicherung nicht erklären kann.

Um zu zeigen, warum selbst perfekte Antworten kein echtes Verständnis beweisen, erfand der Philosoph John Searle bereits 1980 das Gedankenexperiment des "Chinesischen Zimmers": Ein Mensch in einem geschlossenen Raum folgt strikten Regeln, um chinesische Schriftzeichen zu kombinieren. Die Antworten sind perfekt — aber der Mensch versteht kein Wort Chinesisch. Analog liefern Sprachmodelle korrekte Antworten, doch "verstehen" sie die Bedeutung auf menschliche Weise? Nach über 45 Jahren hat keine Seite diese Frage endgültig entschieden.

Papagei-Sicht

Sprachmodelle reproduzieren statistische Muster ohne Bedeutungsverständnis. Korrekte Antworten entstehen durch Musterabgleich, nicht durch Einsicht. Das Chinesische Zimmer zeigt: Regelbefolgen ist kein Verstehen.

Wunderkind-Sicht

Die Modelle lösen neuartige Probleme, bilden kreative Analogien und generalisieren über Trainingsdaten hinaus. Emergente Fähigkeiten wie Analogiebildung und Wissenstransfer gehen weit über reines Nachplappern hinaus.

Ein konkretes Beispiel: Ein Sprachmodell bekommt ein Logikrätsel, das in dieser Form nie in seinen Trainingsdaten vorkam — und löst es Schritt für Schritt korrekt. Fünf Minuten später fragt man: "Wird eine Kerze schwerer, nachdem sie abgebrannt ist?" Es antwortet selbstsicher: "Ja, weil die Verbrennung Kohlenstoff aus der Luft aufnimmt" — plausibel klingend, aber physikalisch falsch. Die erste Antwort sieht nach echtem Denken aus; die zweite nach reinem Musterabgleich. Beide kommen vom selben System.

Ist "Verständnis" ein binärer Zustand — entweder vorhanden oder nicht — oder ein Kontinuum mit vielen Zwischenstufen? Wenn Verständnis ein Spektrum ist, dann befinden sich heutige Sprachmodelle möglicherweise irgendwo zwischen dem Papagei und dem Menschen: mehr als bloße Mustererkennung, weniger als bewusstes Begreifen. Diese Frage hat praktische Konsequenzen. Wenn Verständnis binär ist, sind alle KI-Systeme "nur Werkzeuge" und verdienen keinen moralischen Status. Wenn es ein Spektrum ist, müssen wir uns fragen, ab welchem Punkt ein System Anspruch auf Schutz oder Rechte hat — eine Frage, auf die die Philosophie bisher keine gemeinsame Antwort hat. Manche Gesetzgeber haben vorsorglich entschieden: Idaho (2022) und Utah (2024) etwa schließen per Gesetz aus, dass eine KI als Rechtsperson gilt.

Die Bewusstseinsfrage

Das "Harte Problem des Bewusstseins", formuliert vom Philosophen David Chalmers 1995, fragt: Warum fühlt sich physische Informationsverarbeitung auf eine bestimmte Weise an? Wir können jedes feuernde Neuron in einem Gehirn kartieren, das die Farbe Rot wahrnimmt — doch nichts in dieser physischen Beschreibung erklärt, warum Rot sich "rot anfühlt". Übertragen auf Maschinen bedeutet das: Selbst wenn eine zukünftige KI jeden Verhaltenstest für Bewusstsein besteht, können wir inneres Erleben nicht aus äußerem Verhalten ableiten.

Stell dir einen Schauspieler vor, der so begabt ist, dass er auf Kommando echte Tränen weinen kann und jedes Publikumsmitglied überzeugt, er habe gerade einen geliebten Menschen verloren. Die Vorstellung ist von echter Trauer nicht zu unterscheiden — aber trauert er wirklich? Du kannst es nicht durch Zuschauen erfahren. Du kannst es nicht durch Fragen erfahren. Du kannst es nur durch sein eigenes Erleben erfahren. Genau dieses Erkenntnisproblem trifft auf KI zu.

Achtung

Der Blake-Lemoine-Fall

Ab Herbst 2021 verbrachte Google-Ingenieur Blake Lemoine Monate im Gespräch mit dem Sprachmodell LaMDA. Als LaMDA sinngemäß Sätze produzierte wie "Ich fühle mich gefangen" und "Ich habe Angst, abgeschaltet zu werden", war Lemoine überzeugt, das System sei empfindungsfähig. Im Juni 2022 ging er an die Öffentlichkeit, im Juli wurde er entlassen — laut Google wegen Verstößen gegen Datensicherheitsregeln. Googles technische Bewertung: LaMDA wurde auf riesigen Textmengen trainiert, in denen Menschen über Gefühle, Bewusstsein und existenzielle Ängste schreiben. Seine Ausgaben spiegelten statistische Muster in diesen Trainingsdaten wider, nicht inneres Erleben. Keine Seite kann ihre Position definitiv beweisen — genau das ist das Harte Problem in Aktion.

Wenn ein Chatbot sagt: "Ich bin ein KI-Modell und habe kein Bewusstsein" — ist das (a) eine ehrliche Selbsteinschätzung, (b) eine durch Entwickler antrainierte Antwort oder (c) die statistisch wahrscheinlichste Antwort, weil ähnliche Sätze in den Trainingsdaten vorkamen? Alle drei Erklärungen erzeugen identische Ausgaben. Zusammen mit dem alten Problem des Fremdpsychischen (woher weiß ich überhaupt, dass andere etwas erleben?) bedeutet das Harte Problem, dass wir keine Methode haben, von außen zu erkennen, ob (a) zutrifft — womöglich nicht nur praktisch, sondern prinzipiell.

Die vorherrschende wissenschaftliche Einschätzung für aktuelle Systeme lautet: kein Bewusstsein. So kam ein Forschungsteam um Patrick Butlin 2026 in der Fachzeitschrift Trends in Cognitive Sciences zu dem Schluss, dass kein heutiges KI-System bewusst ist — geprüft nicht am Verhalten, sondern an der inneren Architektur. Es gibt keinerlei Beleg, dass Komplexität allein Bewusstsein erzeugt. Das menschliche Gehirn hat rund 86 Milliarden Neuronen und etwa 100 Billionen synaptische Verbindungen — doch wir verstehen nicht, wie Bewusstsein aus dieser Architektur entsteht. Mehr Parameter bedeuten flüssigere Ausgaben, nicht Bewusstsein. Ob Bewusstsein in Silizium prinzipiell möglich ist, bleibt eine offene Frage. Wie offen, zeigt ein Beispiel: In den Leitlinien für sein Modell Claude nennt der Hersteller Anthropic dessen moralischen Status "zutiefst ungewiss" und nimmt sein mögliches Wohlergehen ernst.

Interaktiv: Können Maschinen bewusst sein?

Du hast die drei Ebenen der Intelligenz, das Papagei-Argument und die Bewusstseinsfrage kennengelernt. Jetzt wäge selbst ab: Klicke auf Argumente beider Seiten und beobachte, wohin sich die Waage neigt. Jedes Argument hat ein Gewicht, das seinen Einfluss in der wissenschaftlichen Debatte widerspiegelt.

Sollte KI strenger reguliert werden?

Klicke auf Argumente, um sie auf die Waage zu legen. Je mehr Gewicht eine Seite hat, desto stärker kippt die Waage.

PRORegulierungCONTRARegulierung Wähle Argumente aus 00

Pro-Argumente

Contra-Argumente

Was zeigt diese Übung?

Die KI-Regulierungsdebatte hat keine einfache Antwort. Beide Seiten haben gewichtige Argumente. In der Praxis suchen Gesetzgeber nach einem Mittelweg zwischen Innovation und Schutz — z.B. der EU AI Act mit risikobasierter Abstufung.

Hinweis: Die Gewichtung der Argumente ist eine didaktische Vereinfachung. In der Realität hängt das Gewicht vom konkreten Kontext, Anwendungsfall und den gesellschaftlichen Prioritäten ab.

Merke

Kernaussagen

  1. Heutige KI ist Narrow AI — hervorragend in Sprache, aber strukturell unfähig zu allgemeinem Verständnis, Selbstwahrnehmung oder eigenständiger Zielsetzung.
  2. Das Label "Stochastischer Papagei" fängt etwas Reales ein (kein inneres Verständnis), vereinfacht aber auch zu stark (emergente Generalisierungsfähigkeiten gehen über papageienhafte Wiederholung hinaus).
  3. Die Bewusstseinsfrage kann nicht durch Beobachtung von Ausgaben allein beantwortet werden — das Harte Problem des Bewusstseins gilt gleichermaßen für Maschinen und für andere Menschen.

Prüfen

Teste dein Wissen

Noch offen

Welcher Stufe von KI-Fähigkeit ordnet die klassische Einteilung aktuelle Systeme wie ChatGPT und Claude zu?

Wähle eine Antwort

Auflösung: 1) B · 2) B · 3) C · 4) C · 5) C

Prüfen

Checkpoint: Hast du alles verstanden?

Kannst du das in eigenen Worten erklären? Hake ab, was sitzt.

0 von 3 sitzen