138 Ereignisse

KI-Zeitstrahl

Eine Zeitleiste, die zeigt: KI wurde mindestens dreimal für tot erklärt — und kam jedes Mal wieder.

  1. Jahr 1837Meilensteine

    Babbages Analytical Engine: Die Idee des Computers

    Die Geschichte der KI beginnt nicht mit Computern, sondern mit ihrer Idee. In den 1830er-Jahren entwarf der britische Mathematiker Charles Babbage die Analytical Engine und beschrieb sie 1837 erstmals ausführlich — auf dem Papier den ersten universellen, programmierbaren Rechner der Welt. Sein Entwurf war seiner Zeit um ein Jahrhundert voraus: Er besaß bereits ein Rechenwerk, das Babbage mill nannte, einen Speicher (store), die Programmierung über Lochkarten und sogar bedingte Sprünge — die Grundbausteine jedes heutigen Computers. Gebaut wurde die Maschine zu seinen Lebzeiten nie; sie war zu komplex für die Mechanik des 19. Jahrhunderts. Dennoch ist sie die ferne Ahnin jeder Rechenmaschine — und damit der Hardware, auf der künstliche Intelligenz überhaupt erst laufen kann. Zur ehrlichen Einordnung: Die Analytical Engine blieb ein unvollendeter Entwurf, und sie war ein Rechner, keine denkende Maschine. Sie lieferte das Fundament, das Rechnen — nicht die Intelligenz.

    • In den 1830er-Jahren entwarf der britische Mathematiker Charles Babbage die Analytical Engine, die er 1837 erstmals beschrieb — die erste Konstruktion eines universellen, programmierbaren Rechners.
    • Sein Entwurf hatte bereits die Bausteine heutiger Computer: ein Rechenwerk (mill), einen Speicher (store), Programmierung per Lochkarten und sogar bedingte Sprünge.
    • Babbages Maschine war die ferne Ahnin jedes Computers — und damit der Hardware, auf der KI überhaupt erst laufen kann.
    • Anti-Hype: Die Analytical Engine wurde zu Babbages Lebzeiten nie fertig gebaut — sie blieb ein Entwurf auf dem Papier. Und sie war ein Rechner, keine KI: das Fundament, nicht das Denken selbst.
    Personen:
    Charles Babbage
  2. Jahr 1843Publikationen

    Ada Lovelace: Das erste Programm — und eine kühne Vision

    Charles Babbage hatte die Maschine entworfen — doch erst Ada Lovelace erkannte, wozu sie wirklich fähig sein könnte. 1843 übersetzte die britische Mathematikerin einen Artikel über Babbages Analytical Engine und fügte eigene Anmerkungen hinzu, die den Originaltext an Umfang und Tiefe weit übertrafen. In ihrer Anmerkung G beschrieb sie ein Verfahren, mit dem die Maschine die sogenannten Bernoulli-Zahlen berechnen sollte — oft als das erste veröffentlichte Computerprogramm bezeichnet. Noch weitsichtiger war ihre zweite Einsicht: Die Maschine müsse sich nicht auf Zahlen beschränken, sondern könne Symbole jeder Art verarbeiten und sogar Musik komponieren. Damit dachte Lovelace die Idee der universellen Datenverarbeitung ein Jahrhundert zu früh. Zur ehrlichen Einordnung: Ob sie wirklich die erste Programmiererin war, ist umstritten — Babbage selbst hatte zuvor Programme skizziert, und die Bernoulli-Routine entstand im Austausch mit ihm. Zugleich meinte Lovelace, die Maschine könne nichts wahrhaft Neues aus sich heraus erschaffen — ein Einwand, dem Alan Turing 1950 ausdrücklich widersprach.

    • 1843 übersetzte Ada Lovelace einen Artikel über Babbages Analytical Engine und ergänzte ihn um ausführliche eigene Anmerkungen, die den Originaltext weit übertrafen.
    • Ihre Anmerkung G enthält ein Verfahren zur Berechnung der Bernoulli-Zahlen — oft als das erste veröffentlichte Computerprogramm bezeichnet.
    • Visionär erkannte sie, dass die Maschine mehr als rechnen könnte: Sie könnte Symbole verarbeiten und sogar Musik komponieren — die Idee universeller Datenverarbeitung.
    • Anti-Hype: Ob Lovelace die erste Programmiererin war, ist umstritten (Babbage schrieb früher Programme; die Bernoulli-Routine entstand im Austausch mit ihm). Zudem meinte sie, die Maschine könne nichts wirklich Neues erschaffen — ein Einwand, dem Turing 1950 widersprach.
    Personen:
    Ada Lovelace
  3. Jahr 1936Publikationen

    Die Turing-Maschine: Was Rechnen überhaupt bedeutet

    Bevor man fragen konnte, ob Maschinen denken, musste erst geklärt werden, was eine Maschine überhaupt berechnen kann. Diese Frage beantwortete der britische Mathematiker Alan Turing 1936 in seinem Aufsatz On Computable Numbers. Darin beschrieb er ein verblüffend einfaches gedankliches Modell — ein Band, ein Schreib-Lese-Kopf, ein paar Regeln —, das später Turing-Maschine genannt wurde. Mit ihr legte Turing exakt fest, was berechenbar ist und was nicht. Seine wichtigste Einsicht: Eine einzige universelle Turing-Maschine kann jede andere nachahmen. Das ist die theoretische Blaupause des Universalcomputers — einer Maschine, die mit dem richtigen Programm alles Berechenbare leisten kann. Damit wurde Turing zum Begründer der Informatik und schuf das Fundament, auf dem die Idee denkender Maschinen erst möglich wurde. Zur ehrlichen Einordnung: Die Turing-Maschine ist eine mathematische Idee, kein gebautes Gerät, und es ging um Berechenbarkeit, nicht um Intelligenz. Die Frage, ob Maschinen denken können, stellte Turing erst 1950. Den Namen Turing-Maschine prägten zudem andere.

    • 1936 veröffentlichte Alan Turing den Aufsatz On Computable Numbers und beschrieb darin ein einfaches gedankliches Rechenmodell — die später so genannte Turing-Maschine.
    • Mit ihr legte Turing fest, was überhaupt berechenbar ist. Eine universelle Turing-Maschine kann jede andere nachahmen — die theoretische Blaupause des Universalcomputers.
    • Damit wurde Turing zum Begründer der Informatik. Dass eine einzige Maschine alles Berechenbare berechnen kann, ist die Grundlage dafür, dass Maschinen später denken lernen sollten.
    • Anti-Hype: Die Turing-Maschine ist eine mathematische Idee, kein Gerät — und es ging um Berechenbarkeit, nicht um Intelligenz. Ob Maschinen denken können, fragte Turing erst 1950. Den Namen prägten zudem andere.
    Personen:
    Alan Turing
  4. Jahr 1943Publikationen

    McCulloch & Pitts: Das erste künstliche Neuron

    Dreizehn Jahre vor der Dartmouth-Konferenz, mitten im Krieg, erschien die eigentliche Geburtsurkunde der künstlichen neuronalen Netze. Der Neurophysiologe Warren McCulloch und der autodidaktische Logiker Walter Pitts — gerade zwanzig und ohne jeden akademischen Abschluss — veröffentlichten 1943 im Bulletin of Mathematical Biophysics das Paper „A Logical Calculus of the Ideas Immanent in Nervous Activity“. Ihre Idee war radikal einfach: Man kann ein Neuron als binäres Schaltelement beschreiben, das nach dem Alles-oder-Nichts-Prinzip feuert, sobald die Summe seiner Eingänge eine Schwelle übersteigt. Auf dem Fundament reiner Aussagenlogik bewiesen sie, dass Netze aus solchen Einheiten jede logische Funktion berechnen können — und dass Netze mit Rückkopplungsschleifen sogar eine Form von Gedächtnis besitzen. Im Schlussteil hielten sie fest, dass ihre Netze dasselbe berechnen können wie eine Turing-Maschine. Damit lieferten sie das erste mathematische Modell des Neurons als logische Recheneinheit. Der Haken, der das nächste Jahrzehnt prägen sollte: Ihr Neuron konnte nicht lernen.

    • Das erste mathematische Modell des Neurons als logische Recheneinheit: McCulloch und Pitts gossen die Funktionsweise des Nervensystems in formale Aussagenlogik.
    • Alles oder Nichts: Ein Neuron feuert, wenn die Summe seiner Eingänge eine Schwelle übersteigt. Netze solcher Einheiten berechnen jede logische Funktion; Rückkopplungsschleifen erzeugen Gedächtnis.
    • Die entscheidende Grenze: kein Lernen. Gewichte und Schwellen lagen fest, das Netz musste von Hand entworfen werden. Erst Hebb (1949) und Rosenblatts Perceptron (1957) brachten Lernregeln.
    • Die Wirkung reichte weit über die Biologie hinaus: von Neumanns Rechnerarchitektur (EDVAC, 1945), Wieners Kybernetik und letztlich jedes künstliche neuronale Netz fußen auf dieser Arbeit.
    Personen:
    Warren S. McCulloch, Walter Pitts
    Organisationen:
    University of Illinois, College of Medicine, University of Chicago
  5. Jahr 1948Publikationen

    Shannons Informationstheorie: Das Bit wird geboren

    1948 erschien bei den Bell Labs ein Aufsatz, der die digitale Welt begründete: Claude Shannons A Mathematical Theory of Communication. Shannon zeigte, wie sich Information mathematisch messen lässt — unabhängig von ihrer Bedeutung. Er führte das Bit als kleinste Einheit der Information ein und prägte den Begriff der Entropie: ein Maß dafür, wie viel Unsicherheit eine Nachricht im Durchschnitt auflöst. Damit legte er das Fundament für Datenkompression, fehlerfreie Übertragung und letztlich für jeden Computer. Für die KI ist das mehr als Vorgeschichte: Begriffe wie Kreuzentropie und Kullback-Leibler-Divergenz, die heute als Trainingsziele neuronaler Netze dienen, stammen direkt aus Shannons Theorie. Zur ehrlichen Einordnung: Shannon beschrieb die Übertragung von Nachrichten, nicht das Denken. Die Informationstheorie ist ein mathematisches Werkzeug, auf dem die KI aufbaut — sie ist nicht selbst künstliche Intelligenz.

    • 1948 veröffentlichte Claude Shannon bei Bell Labs A Mathematical Theory of Communication und begründete die Informationstheorie.
    • Er führte das Bit als Maßeinheit der Information ein und definierte die Entropie — wie viel Unsicherheit eine Nachricht im Schnitt auflöst.
    • Für die KI zentral: Kreuzentropie und KL-Divergenz — direkt aus Shannons Theorie — sind heute Standard-Trainingsziele beim maschinellen Lernen.
    • Anti-Hype: Shannon beschrieb Nachrichtenübertragung, nicht Intelligenz. Die Informationstheorie ist ein Fundament, auf dem KI aufbaut — kein KI-Ergebnis. (Den Begriff Bit schlug Kollege John Tukey vor.)
    Personen:
    Claude Shannon
    Organisationen:
    Bell Labs
  6. Jahr 1949Publikationen

    Hebbsche Regel: Wie Lernen im Gehirn entsteht

    1949 veröffentlichte der kanadische Psychologe Donald Hebb das Buch The Organization of Behavior und stellte eine einfache, folgenreiche Idee vor: Wenn zwei verbundene Nervenzellen wiederholt gemeinsam feuern, verstärkt sich ihre Verbindung. Damit gab Hebb erstmals einen konkreten Mechanismus dafür an, wie Lernen auf der Ebene einzelner Synapsen funktionieren könnte. Für die KI wurde daraus ein Grundprinzip: Lernen bedeutet, die Stärke von Verbindungen anzupassen — genau das tun künstliche neuronale Netze, etwa die späteren Hopfield-Netze. Zur ehrlichen Einordnung: Der berühmte Merksatz, dass Nervenzellen die zusammen feuern sich zusammen verdrahten, stammt gar nicht von Hebb — er wird der Neurowissenschaftlerin Carla Shatz zugeschrieben (1992). Und Hebbs Regel allein erklärt noch kein modernes Deep Learning, denn ihr fehlt die gezielte Fehlerkorrektur.

    • 1949 veröffentlichte der Psychologe Donald Hebb The Organization of Behavior und formulierte, wie Lernen im Gehirn auf Ebene der Synapsen funktionieren könnte.
    • Hebbs Regel: Feuern zwei verbundene Nervenzellen wiederholt gemeinsam, verstärkt sich ihre Verbindung.
    • Die Idee — Lernen heißt, Verbindungsstärken anzupassen — wurde zum Grundprinzip lernender neuronaler Netze (etwa bei Hopfield-Netzen).
    • Anti-Hype: Der berühmte Merksatz (Zellen, die zusammen feuern, verdrahten sich zusammen) stammt nicht von Hebb, sondern wird Carla Shatz zugeschrieben (1992). Hebbs Regel allein erklärt noch kein modernes Deep Learning — dafür fehlt die Fehlerkorrektur.
    Personen:
    Donald Hebb
  7. Jahr 1950Publikationen

    Turing Test: Das Imitation Game

    Die philosophische Grundlage für maschinelle Intelligenz und der erste KI-Benchmark. 1950 veröffentlichte Alan Turing das Paper ‚Computing Machinery and Intelligence‘ in Mind und stellte die Frage ‚Können Maschinen denken?‘ neu. Statt philosophischer Definitionen schlug Turing das praktische ‚Imitation Game‘ vor: Ein menschlicher Evaluator beurteilt Texttranskripte von Konversationen zwischen einem Menschen und einer Maschine. Der Evaluator versucht, die Maschine zu identifizieren – die Maschine besteht den Test, wenn der Evaluator sie nicht zuverlässig unterscheiden kann. Entscheidend ist nicht die Korrektheit der Antworten, sondern wie sehr sie menschlichen Antworten ähneln. Dieser Test der Ununterscheidbarkeit lässt sich auf alle menschlichen Leistungen verallgemeinern, verbal wie nonverbal (Robotik). Turings verhaltensbasierter Ansatz etablierte das konzeptuelle Fundament für die gesamte KI-Forschung und beeinflusste ELIZA, ChatGPT und alle modernen Conversational AI-Systeme.

    • Test der Ununterscheidbarkeit: Evaluator versucht, Maschine von Mensch per Textkonversation zu unterscheiden
    • Verlagerte Fokus von philosophischen Definitionen zu verhaltensbasierten Demonstrationen von Intelligenz
    • Stellte fundamentale Frage 'Können Maschinen denken?' und schlug operationalen Ansatz vor
    • Etablierte ersten KI-Benchmark und beeinflusste alle nachfolgenden Conversational AI-Entwicklungen
    Personen:
    Alan Turing
    Organisationen:
    University of Manchester, Mind Journal
  8. Jahr 1956Durchbrüche

    Logic Theorist: Das erste schlussfolgernde Programm

    Im selben Sommer, in dem in Dartmouth der Begriff „Künstliche Intelligenz“ geprägt wurde, führten Allen Newell, Herbert Simon und der oft vergessene Programmierer Cliff Shaw etwas vor, das man gern „das erste KI-Programm“ nennt — mit einer Fußnote. Ihr Logic Theorist bewies mathematische Lehrsätze: Er nahm sich die Aussagenlogik aus Whitehead und Russells „Principia Mathematica“ vor und fand für 38 der ersten 52 Theoreme selbstständig Beweise. Bemerkenswert war das Wie: Statt stur alle Möglichkeiten durchzuprobieren, suchte das Programm heuristisch — es schätzte ab, welche Schritte lohnen, und arbeitete vom Ziel rückwärts. Für einen Satz fand es sogar einen kürzeren Beweis als das Original; Berichten zufolge reagierte Russell erfreut, während eine Fachzeitschrift den eingereichten Beweis ablehnte. Geschrieben war alles in IPL, einer Listen-Sprache, die McCarthys LISP vorwegnahm. Die Einschränkung: Spiele-Programme wie Samuels Dame liefen schon vorher — der Logic Theorist war das erste, das gezielt menschliches Schlussfolgern auf einer offenen Denkaufgabe nachbilden sollte.

    • Oft „das erste KI-Programm“ genannt — präziser: das erste Programm, das menschliches Schlussfolgern auf einer offenen Denkaufgabe nachbilden sollte (Spiele-Programme kamen davor).
    • Heuristische Suche statt roher Gewalt: vom Ziel rückwärts, mit Abschätzung lohnender Schritte (Einsetzen, Abtrennen, Verketten) — inspiriert von Pólyas Heuristik.
    • Bewies 38 der ersten 52 Theoreme aus Kapitel 2 der „Principia Mathematica“ — für einen Satz sogar kürzer als das Original.
    • Geschrieben in der Listen-Sprache IPL (maßgeblich von Shaw), die McCarthys LISP beeinflusste; der heuristische Ansatz führte direkt zum General Problem Solver (1957).
    Personen:
    Allen Newell, Herbert A. Simon, John Clifford Shaw
    Organisationen:
    RAND Corporation, Carnegie Institute of Technology
  9. Jahr 1956Konferenzen

    Dartmouth-Konferenz: Geburtsstunde der KI

    Der historische Moment, als Künstliche Intelligenz als Forschungsfeld geboren wurde. Vom 18. Juni bis 17. August 1956 fand am Dartmouth College die erste AI Summer Research Conference statt. John McCarthy, Marvin Minsky, Nathaniel Rochester und Claude Shannon hatten eine kühne Vision: ‚Jeder Aspekt des Lernens oder jedes andere Merkmal der Intelligenz kann so präzise beschrieben werden, dass eine Maschine es simulieren kann.' Den Begriff ‚Artificial Intelligence' hatte McCarthy schon im Projektantrag vom 31. August 1955 geprägt; der acht Wochen währende Workshop legte den Grundstein für eine neue Wissenschaftsdisziplin. Manche Teilnehmer kamen nur für wenige Wochen, andere blieben durchgängig: Herbert Simon und Allen Newell etwa demonstrierten in den ersten Wochen ihren Logic Theorist, während Ray Solomonoff die vollen acht Wochen vor Ort war – diskutiert wurde im obersten Stock des Mathematik-Departments. Aus dieser Konferenz entstanden die drei historischen KI-Zentren: Carnegie Mellon mit Newell und Simon, MIT mit Minsky und Stanford mit McCarthy.

    • Geburtsstunde der KI als eigenständige Forschungsdisziplin durch 8-wöchigen Workshop mit führenden Denkern
    • John McCarthy prägte den Begriff 'Artificial Intelligence' und definierte damit ein neues Forschungsfeld
    • Etablierte Forschungsprogramm: Maschinensprache, Abstraktion, Problemlösung und Selbstverbesserung
    • Versammelte die KI-Gründerväter: McCarthy, Minsky, Shannon, Rochester und den späteren Nobelpreisträger Herbert Simon
    Personen:
    John McCarthy, Marvin Minsky, Nathaniel Rochester, Claude Shannon
    Organisationen:
    Dartmouth College, IBM, Bell Labs
  10. Jahr 1957Publikationen

    Perceptron: Das erste lernende neuronale Netzwerk

    Die Geburt des maschinellen Lernens durch das erste trainierbare künstliche Neuron. 1957 entwickelte Frank Rosenblatt am Cornell Aeronautical Laboratory das Perceptron – das erste neuronale Netzwerk, das aus Erfahrung lernen konnte. Im Januar 1957 veröffentlichte er den technischen Report „The Perceptron: A Perceiving and Recognizing Automaton“ (Project PARA, Report 85-460-1). Die formale wissenschaftliche Publikation erfolgte im November 1958 in Psychological Review. Inspiriert von biologischen Neuronen kombinierte das Perceptron gewichtete Eingaben über eine Heaviside-Sprungfunktion zu binären Ausgaben. Die innovative Perceptron-Lernregel korrigierte die Gewichte immer dann, wenn ein Beispiel falsch klassifiziert wurde – ein früher Vorläufer des Lernens in modernen neuronalen Netzen (und nicht mit der späteren Delta-Regel von Widrow und Hoff, 1960, zu verwechseln). Zunächst auf einem IBM 704 simuliert und 1958 öffentlich angekündigt, wurde die Mark-I-Perceptron-Hardware erst um 1960 fertiggestellt. Obwohl auf linear separierbare Probleme beschränkt, legte das Perceptron das konzeptuelle Fundament für alle nachfolgenden neuronalen Architekturen.

    • Erstes trainierbare künstliches Neuron mit gewichteten Eingaben und Heaviside-Sprungfunktion
    • Binäre Klassifikation durch Schwellwert-Entscheidung, effektiv für linear separierbare Muster
    • Frank Rosenblatts Perceptron-Lernregel korrigierte die Gewichte bei jeder Fehlklassifikation und ermöglichte so automatisches Lernen
    • Beschränkung auf linear separierbare Probleme führte später zur XOR-Kritik von Minsky und Papert
    Personen:
    Frank Rosenblatt
    Organisationen:
    Cornell Aeronautical Laboratory, US Navy
  11. Jahr 1958Durchbrüche

    LISP: Die Sprache der KI

    1958 entwarf John McCarthy am MIT eine Programmiersprache, die das symbolische Rechnen ins Zentrum stellte: LISP, kurz für List Processing. Statt vor allem Zahlen zu verarbeiten, manipulierte LISP Listen von Symbolen — genau das, was die symbolische KI brauchte. Über Jahrzehnte wurde LISP zur Sprache der KI-Forschung: Expertensysteme, Sprachverarbeitung und Planungssysteme entstanden in ihr. McCarthys Sprache führte zudem Ideen ein, die heute selbstverständlich sind: Rekursion, automatische Speicherbereinigung (Garbage Collection), Funktionen als Daten und die interaktive Auswertung. Steve Russell setzte McCarthys theoretischen eval-Mechanismus als ersten Interpreter um — und machte LISP damit lauffähig. Zur ehrlichen Einordnung: LISP war nicht die erste höhere Programmiersprache (Fortran kam 1957), aber es ist die zweitälteste noch genutzte — und für die KI die prägendste.

    • John McCarthy entwarf LISP 1958 am MIT für symbolisches Rechnen (Listen statt Zahlen) — über Jahrzehnte DIE Sprache der KI-Forschung (Expertensysteme, NLP, Planung).
    • Führte Ideen ein, die heute Standard sind: Rekursion, automatische Garbage Collection, Funktionen als Daten, interaktive Auswertung (REPL).
    • Knüpfte an die Listen-Verarbeitung von IPL an; Steve Russell setzte McCarthys eval als ersten Interpreter um und machte LISP lauffähig.
    • Anti-Hype: nicht die erste höhere Sprache (Fortran 1957 kam zuvor) — aber die zweitälteste noch genutzte und für die KI die prägendste.
    Personen:
    John McCarthy, Steve Russell
    Organisationen:
    MIT
  12. Jahr 1959Durchbrüche

    Arthur Samuel: Selbstlernende KI & der Begriff „Machine Learning“

    Einige Jahre vor der Dartmouth-Konferenz brachte Arthur Samuel bei IBM einer Maschine das Dame-Spielen bei — und ihr zugleich das Lernen. Sein Programm lief ab 1952 auf der IBM 701; entscheidend aber war, was 1959 in seinem Aufsatz „Some Studies in Machine Learning Using the Game of Checkers“ stand. Das Programm verbesserte sich selbst: Es spielte zehntausende Partien gegen sich selbst und justierte die Gewichte seiner Bewertungsfunktion anhand der Ergebnisse. Im Titel dieses Aufsatzes erscheint der Begriff „Machine Learning“ erstmals belegt in seiner heutigen Bedeutung — Samuel gilt als sein Namensgeber. Richard Sutton würdigte Samuels Selbstspiel später als früheste Anwendung des Temporal-Difference-Lernens, das im Kern des modernen Reinforcement Learning steckt. Die Fernseh-Demonstration von 1956 und ein vielzitierter Sieg gegen einen vermeintlichen Meisterspieler machten Schlagzeilen — beides wurde jedoch kräftig überzeichnet: Gegen die wirklich starken Spieler verlor das Programm klar, und vollständig gelöst wurde Dame erst Jahrzehnte später.

    • Im Titel seines Aufsatzes von 1959 verwendete Samuel den Begriff „Machine Learning“ — die erste belegte Nutzung in der heutigen Bedeutung; er gilt als Namensgeber.
    • Das erste öffentlich vorgeführte selbstlernende Programm: Es justierte die Gewichte seiner Bewertungsfunktion selbst und merkte sich Stellungen (Rote Learning).
    • Durch zehntausende Partien gegen sich selbst nahm es das Selbstspiel vorweg, das später AlphaZero perfektionierte — für Sutton die früheste Anwendung des Temporal-Difference-Lernens.
    • Anti-Hype: Der gefeierte Sieg von 1962 galt einem überschätzten Gegner; gegen Weltklasse verlor das Programm. Vollständig gelöst wurde Dame erst 2007 (Chinook).
    Personen:
    Arthur Lee Samuel
    Organisationen:
    IBM
  13. Jahr 1965Meilensteine

    DENDRAL: Pionier der Expertensysteme

    Mitte der 1960er nahm die KI eine entscheidende Abzweigung. An der Stanford University begannen Edward Feigenbaum und der Genetiker und Nobelpreisträger Joshua Lederberg mit DENDRAL — einem Programm, das oft als erstes Expertensystem gilt und in jedem Fall das erste war, das KI auf wissenschaftliches Schließen anwandte. Statt wie frühere Systeme allgemein zu suchen, nutzte DENDRAL das Fachwissen menschlicher Chemiker: Aus den Daten eines Massenspektrometers leitete es die Struktur organischer Moleküle ab. Die Lehre daraus prägte ein Jahrzehnt der KI — Wissen ist Macht. Nicht der cleverste allgemeine Algorithmus gewinnt, sondern derjenige, der über die meiste Fachkenntnis verfügt. DENDRAL ebnete damit den Weg für den Expertensystem-Boom der 1980er. Zur ehrlichen Einordnung: DENDRAL selbst war ein über viele Jahre laufendes, erfolgreiches Forschungsprojekt — kein einzelnes Produkt. Doch seine Methode, alles Wissen mühsam von Hand einzugeben, wurde später zur Achillesferse: Sie machte die kommerziellen Expertensysteme der 1980er brüchig und teuer und trug so zum KI-Winter bei.

    • Ab Mitte der 1960er entwickelten Edward Feigenbaum, Joshua Lederberg und Kollegen an der Stanford University DENDRAL — oft als erstes Expertensystem bezeichnet und das erste, das KI auf wissenschaftliches Schließen anwandte.
    • DENDRAL leitete aus Massenspektrometrie-Daten die Struktur organischer Moleküle ab — mit dem Fachwissen menschlicher Chemiker statt mit allgemeiner Suche.
    • Die Lehre: Wissen ist Macht. Statt allgemeiner Problemlöser setzte die KI nun auf eng begrenzte, wissensreiche Domänen — der Beginn der Expertensysteme.
    • Anti-Hype: DENDRAL selbst war ein jahrelanges, erfolgreiches Projekt. Doch seine Methode — von Hand kodiertes Wissen — wurde zur Schwäche der kommerziellen Expertensysteme der 1980er und trug zum KI-Winter bei.
    Personen:
    Edward Feigenbaum, Joshua Lederberg, Bruce Buchanan
    Organisationen:
    Stanford University
  14. Jahr 1965Publikationen

    Fuzzy Logic: Logik der Unschärfe

    Ein wichtiger mathematischer Durchbruch für den Umgang mit Ungewissheit und approximativem Schließen. 1965 veröffentlichte Lotfi Zadeh an der UC Berkeley das wegweisende Paper 'Fuzzy Sets' – eine Antwort auf die Unfähigkeit der klassischen Logik, mit vagen und unvollständigen Informationen umzugehen. Seine Innovation lag in der Erkenntnis, dass Menschen Entscheidungen auf Basis unpräziser, nicht-numerischer Informationen treffen. Fuzzy Logic erlaubt Zugehörigkeitsgrade zwischen 0 und 1, im Gegensatz zur binären Ja/Nein-Logik. Mit inzwischen über 100.000 Zitierungen wurde Zadehs Arbeit zur Grundlage für Soft Computing und moderne KI-Ansätze. Die 'präzise Logik der Unpräzision' ermöglichte es, Ungewissheit, Unvollständigkeit und widersprüchliche Informationen mathematisch zu modellieren. Fuzzy Logic fand Anwendung in Expertensystemen, Kontrollsystemen und später in modernen KI-Architekturen für unscharfe Entscheidungsprozesse.

    • Lotfi Zadehs 1965er Paper 'Fuzzy Sets' mit über 100.000 Zitierungen veränderte den Umgang mit Ungewissheit erheblich
    • Ermöglichte mathematische Modellierung von Vagheit, Unvollständigkeit und widersprüchlichen Informationen
    • Fand Anwendung in Expertensystemen, Kontrollsystemen und approximativen Entscheidungsprozessen
    • Legte Grundstein für Soft Computing und moderne KI-Ansätze zum Umgang mit imperfekter Information
    Personen:
    Lotfi Zadeh
    Organisationen:
    UC Berkeley, Information and Control
  15. Jahr 1966Durchbrüche

    ELIZA: Der erste Chatbot

    Die Geburt der Mensch-Maschine-Konversation und ein unbeabsichtigtes Experiment über menschliche Psychologie. Etwa von 1964 bis 1966 entwickelte Joseph Weizenbaum am MIT ELIZA – das erste Programm, das explizit für Gespräche mit Menschen entworfen wurde. Mit erstaunlich schlankem Code und einfacher Pattern-Matching-Technologie simulierte ELIZA Gespräche, besonders in der DOCTOR-Variante als Rogerian Therapeut. Die Überraschung lag nicht in der Technik, sondern in der menschlichen Reaktion: Nutzer, einschließlich Weizenbaums eigener Sekretärin, entwickelten emotionale Bindungen zum Programm und verlangten sogar Privatsphäre für ihre ‚Therapiesitzungen'. Weizenbaum beschrieb und kritisierte dieses Phänomen früh – die Tendenz, rudimentären Programmen menschliche Eigenschaften zuzuschreiben. Der Begriff ‚ELIZA-Effekt' selbst wurde allerdings erst später, in den 1990er-Jahren, geprägt und popularisiert. ELIZA bewies die Macht simpler Illusion und legte den Grundstein für alle modernen Chatbots.

    • Erstes Computerprogramm explizit für Mensch-Maschine-Konversation entwickelt, fertiggestellt 1966
    • Nutzte einfache Pattern-Matching- und Substitutions-Methodik – das Programm kam mit erstaunlich wenig Code aus
    • Erzeugte Illusion von Verständnis und emotionaler Intelligenz ohne echtes Sprachverständnis
    • Machte den später so genannten ‚ELIZA-Effekt' sichtbar und warnte vor der Projektion menschlicher Eigenschaften auf rudimentäre Programme
    Personen:
    Joseph Weizenbaum
    Organisationen:
    MIT, MIT AI Laboratory
  16. Jahr 1969Publikationen

    Perceptrons: Das Buch, das den KI-Winter mitauslöste

    1969 veröffentlichten die MIT-Forscher Marvin Minsky und Seymour Papert das Buch Perceptrons. Mit mathematischer Strenge zeigten sie, was ein einlagiges Perzeptron — die einfachste Form eines neuronalen Netzes — kann und was nicht. Ihr berühmtestes Ergebnis: Ein solches Netz kann nicht einmal die simple XOR-Funktion lernen, weil sie sich nicht durch eine einzige Linie trennen lässt. Die Wirkung war enorm: Das Vertrauen in neuronale Netze brach ein, die Förderung versiegte für über ein Jahrzehnt — ein wichtiger Beitrag zum ersten KI-Winter. Zur ehrlichen Einordnung: Minsky und Papert widerlegten neuronale Netze keineswegs. Sie analysierten nur die einlagige Variante; mehrlagige Netze lösen XOR problemlos — was später, ab 1986, mit dem Backpropagation-Verfahren praktisch nutzbar wurde. Die Erzählung, das Buch habe die Forschung im Alleingang getötet, ist teils ein Mythos. Der Einbruch bei Geld und Aufmerksamkeit war aber sehr real.

    • 1969 veröffentlichten Marvin Minsky und Seymour Papert Perceptrons und analysierten mathematisch, was einlagige Perzeptronen können — und was nicht.
    • Ihr berühmtes Ergebnis: Ein einlagiges Perzeptron kann die simple XOR-Funktion nicht lernen, weil sie nicht linear trennbar ist.
    • Das Buch gilt als Mitauslöser des ersten KI-Winters: Die Förderung neuronaler Netze versiegte für über ein Jahrzehnt.
    • Anti-Hype: Minsky und Papert widerlegten nicht neuronale Netze an sich — mehrlagige Netze lösen XOR (später per Backpropagation, 1986). Dass das Buch das Feld allein getötet habe, ist teils Mythos; der Förder-Einbruch war jedoch real.
    Personen:
    Marvin Minsky, Seymour Papert
    Organisationen:
    MIT
  17. Jahr 1969Durchbrüche

    Shakey: Der erste intelligente mobile Roboter

    Die Geburt der autonomen Robotik durch Integration von Reasoning, Planning und physischer Aktion. Von 1966 bis 1972 entwickelte Charles Rosens Team am SRI International Shakey - den ersten mobilen Roboter, der über seine eigenen Handlungen reflektieren konnte. Der 2 Meter hohe Roboter kombinierte TV-Kamera, Sonar-Entfernungsmesser, Prozessoren und 'Katzen-Schnurrhaare' als Stoßdetektoren zu einem autonomen System. Shakeys bemerkenswerte Fähigkeiten umfassten Umgebungswahrnehmung, Schlussfolgerungen aus impliziten Fakten, Planerstellung und Fehlerkompensation - alles steuerbar durch natürliche englische Sprache. Das von der ARPA (heute DARPA) finanzierte Projekt vereinte erstmals logisches Reasoning mit physischer Aktion und legte Grundlagen für autonome Systeme. Shakeys Innovationen führten zum A*-Suchalgorithmus, zu Visibility-Graph-Methoden und zur einflussreichen rechnergestützten Variante der Hough-Transformation (Duda & Hart, SRI 1972). 1970 nannte Life Magazine Shakey die 'erste elektronische Person'.

    • Erster mobiler Roboter der über eigene Handlungen reflektieren und komplexe Aufgaben eigenständig planen konnte
    • Kombinierte TV-Kamera, Sonar, Prozessoren und Sensoren zu autonomem mobilem System
    • Entwickelte STRIPS-Planning-System für automatische Aufgabenzerlegung und Routenfindung
    • Vereinte Computer Vision, Navigation und logisches Reasoning in einem physischen System
    Personen:
    Charles Rosen, Nils Nilsson, Bertram Raphael
    Organisationen:
    SRI International, DARPA
  18. Jahr 1970Meilensteine

    SHRDLU: Sprache verstehen in der Klötzchenwelt

    Um 1970 baute Terry Winograd am MIT ein Programm, das die Fachwelt verblüffte: SHRDLU. Man konnte ihm in einfachem Englisch Anweisungen geben — etwa, den roten Würfel auf den grünen Block zu setzen — und es führte sie in einer virtuellen Welt aus bunten Klötzen aus. SHRDLU verstand mehr als nur Befehle: Es löste mehrdeutige Sätze auf, erinnerte sich an Gesagtes, beantwortete Fragen zu seiner Welt und konnte sogar erklären, warum es etwas getan hatte. Für viele war es der beeindruckende Höhepunkt der symbolischen KI — der Beweis, dass Maschinen Sprache erstaunlich gut verstehen können. Zur ehrlichen Einordnung: SHRDLUs Verständnis funktionierte nur in seiner winzigen, geschlossenen Klötzchenwelt. Auf die echte, unübersichtliche Welt mit ihrem unendlichen Alltagswissen ließ es sich nicht übertragen. So wurde SHRDLU mit der Zeit zum Lehrstück über die Grenzen solcher Mikrowelten — Winograd selbst wandte sich später von diesem Ansatz ab.

    • Um 1970 baute Terry Winograd am MIT SHRDLU — ein Programm, das in einfachem Englisch Befehle verstand und eine virtuelle Klötzchenwelt manipulierte.
    • SHRDLU konnte mehrdeutige Sätze auflösen, sich an Gesagtes erinnern, Fragen beantworten und sogar erklären, warum es etwas getan hatte.
    • Es galt als beeindruckender Höhepunkt der symbolischen KI — der Beweis, dass Maschinen Sprache in einer begrenzten Welt erstaunlich gut verstehen.
    • Anti-Hype: SHRDLUs Verständnis funktionierte nur in seiner winzigen Klötzchenwelt. Auf die echte Welt ließ es sich nicht übertragen — ein Lehrstück über die Grenzen solcher Mikrowelten.
    Personen:
    Terry Winograd
    Organisationen:
    MIT
  19. Jahr 1970Publikationen

    Hidden Markov Models etabliert

    Das mathematische Fundament für Spracherkennung und Sequenzmodellierung. Von Ende der 1960er bis 1970 entwickelten Leonard Baum, Lloyd Welch und Ted Petrie bei der Institute for Defense Analyses die Hidden Markov Models und etablierten den Baum-Welch-Algorithmus. Diese statistischen Modelle modellierten versteckte Zustände in Sequenzen und lieferten einen der ersten praktikablen Ansätze, um latente Zustände in zeitabhängigen Daten zu erfassen. Ab Mitte der 1970er fanden HMMs ihre erste praktische Anwendung in der Spracherkennung durch James Baker bei Carnegie Mellon und später bei IBM. Die Methode transformierte die automatische Spracherkennung von simplen Template-Matching-Verfahren hin zu statistischen Ansätzen. HMMs wurden zum Standard für Sequenzmodellierung in zahlreichen Bereichen: von Bioinformatik über Finanzanalyse bis zur Gestenerkennung. Der Baum-Welch-Algorithmus, später als Spezialfall des 1977 allgemein formulierten Expectation-Maximization-Algorithmus erkannt, legte das Fundament für moderne probabilistische Machine Learning-Verfahren.

    • Baum-Welch-Algorithmus als Spezialfall der Expectation-Maximization für HMM-Parameter-Schätzung
    • Erste praktische Anwendung in Spracherkennung ab Mitte 1970er bei Carnegie Mellon und IBM
    • Transformierte Sequenzmodellierung von Template-Matching zu statistischen probabilistischen Ansätzen
    • Legte mathematisches Fundament für moderne probabilistische Machine Learning-Verfahren
    Personen:
    Leonard Baum, Lloyd Welch, Ted Petrie
    Organisationen:
    Institute for Defense Analyses
  20. Jahr 1972Meilensteine

    Prolog: Programmieren mit Logik

    1972 entstand an der Universität Marseille eine Programmiersprache, die ganz anders dachte als alle anderen: Prolog, kurz für Programmation en Logique. Ihre Schöpfer Alain Colmerauer und Philippe Roussel — gestützt auf die Theorie von Robert Kowalski — verfolgten eine bestechende Idee. Statt dem Computer Schritt für Schritt zu sagen, wie er etwas tun soll, beschreibt man in Prolog nur die Fakten und Regeln einer Welt. Den logischen Schluss zieht das System dann selbst. Prolog wurde zur wichtigsten Sprache der symbolischen KI: in Expertensystemen, in der Sprachverarbeitung und als Herzstück von Japans ehrgeizigem Fifth-Generation-Projekt. Zur ehrlichen Einordnung: Die logische Programmierung wurde nie das beherrschende Paradigma der KI. Japans Großprojekt, das ganz auf Prolog setzte, blieb deutlich hinter seinen Versprechen zurück. Und der Durchbruch verdankt sich ebenso der Theorie von Robert Kowalski wie der Sprache selbst.

    • 1972 entwickelten Alain Colmerauer und Philippe Roussel an der Universität Marseille die Sprache Prolog — kurz für Programmation en Logique.
    • Prolog ist deklarativ: Man beschreibt Fakten und Regeln, und das System leitet selbst die logischen Schlüsse ab — statt Schritt für Schritt vorzugeben, wie.
    • Prolog wurde zur wichtigsten Sprache der logischen, symbolischen KI — in Expertensystemen, der Sprachverarbeitung und Japans Fifth-Generation-Projekt.
    • Anti-Hype: Die logische Programmierung wurde nie das dominierende KI-Paradigma; Japans darauf gebautes Fifth-Generation-Projekt blieb hinter den Erwartungen. Wichtig war auch die Theorie von Robert Kowalski, nicht nur die Sprache.
    Personen:
    Alain Colmerauer, Philippe Roussel, Robert Kowalski
    Organisationen:
    University of Aix-Marseille
  21. Erster KI-Winter1974–1980
    Jahr 1974Meilensteine

    Der erste KI-Winter

    Eine Zeit drastischer Kürzungen der Forschungsgelder und schwindendes Vertrauen in die Künstliche Intelligenz. Nach übertriebenen Versprechungen der 1960er Jahre folgte die bittere Realität: KI-Programme konnten nur triviale Versionen der Probleme lösen, die sie eigentlich bewältigen sollten. In Großbritannien lieferte der Lighthill-Report von 1973 eine vernichtende Kritik, woraufhin der Science Research Council die Förderung ungerichteter KI-Forschung zurückfuhr. In den USA wandte sich die DARPA – angestoßen vom Mansfield-Amendment – über mehrere Jahre von zweckungebundener Forschung ab; der scharfe Einschnitt bei der Sprachverständnis-Förderung traf 1974/75 das Projekt an Carnegie Mellon und führte zur Kündigung eines 3-Millionen-Dollar-Vertrags. Dieser Winter dauerte bis etwa 1980 und lehrte die KI-Gemeinschaft eine wichtige Lektion: Realistische Erwartungen sind der Schlüssel für nachhaltigen Fortschritt.

    • DARPA in den USA und der britische Science Research Council fuhren Mitte der 1970er die Förderung ungerichteter KI-Forschung drastisch zurück
    • Professor James Lighthill kritisierte 1973 scharf die KI-Forschung für das Verfehlen ihrer Ziele und wies auf das Problem der kombinatorischen Explosion hin
    • DARPA kündigte den 3-Millionen-Dollar-Vertrag mit Carnegie Mellon für Sprachverständnissysteme nach enttäuschenden Ergebnissen
    • KI-Programme der frühen 1970er waren auf triviale Versionen echter Probleme beschränkt und wirkten wie intelligente 'Spielzeuge'
    Personen:
    James Lighthill, J.C.R. Licklider, Hans Moravec
    Organisationen:
    DARPA, British Science Research Council, Carnegie Mellon University
  22. Jahr 1980Publikationen

    Neocognitron: Der Urahn der CNNs

    1980 stellte der japanische Forscher Kunihiko Fukushima ein neuronales Netz vor, das seiner Zeit weit voraus war: das Neocognitron. Sein Vorbild war die Natur — genauer der Sehkortex, wie ihn die Nobelpreisträger Hubel und Wiesel an Katzen erforscht hatten. Dort verarbeiten einfache und komplexe Zellen visuelle Reize stufenweise. Fukushima baute dieses Prinzip nach: ein mehrschichtiges Netz, das Merkmale Schicht für Schicht erkennt — und zwar unabhängig davon, wo im Bild sie auftauchen. Damit nahm das Neocognitron die Kernideen heutiger Convolutional Neural Networks vorweg, jener Netze, die seit 2012 die Bilderkennung beherrschen. Zur ehrlichen Einordnung: Das Neocognitron nutzte noch keine Backpropagation und ließ sich nicht so trainieren wie moderne CNNs. Erst die Backpropagation (1986) und Yann LeCuns LeNet (1989) machten aus der Architektur praktisch lernfähige Netze. Fukushimas Pionierrolle wird bis heute oft unterschätzt.

    • 1980 stellte Kunihiko Fukushima das Neocognitron vor — ein mehrschichtiges neuronales Netz für die Mustererkennung.
    • Vorbild war der Sehkortex (Hubel und Wiesel): einfache und komplexe Zellen, die Merkmale stufenweise und unabhängig von ihrer Position erkennen.
    • Damit nahm das Neocognitron die Kernideen heutiger Convolutional Neural Networks vorweg — lokale Merkmalsfilter und hierarchische Verarbeitung. LeCuns LeNet (1989) baute darauf auf.
    • Anti-Hype: Das Neocognitron nutzte noch keine Backpropagation. Erst Backpropagation (1986) und LeNet (1989) machten daraus praktisch lernfähige Netze. Fukushimas Pionierrolle wird oft unterschätzt.
    Personen:
    Kunihiko Fukushima
    Organisationen:
    NHK Broadcasting Science Research Laboratories
  23. Jahr 1980Meilensteine

    Expertensystem-Ära der 1980er

    Die 1980er Jahre markieren die Blütezeit der Expertensysteme, als KI erstmals kommerziell erfolgreich wird. Unternehmen weltweit adoptieren diese regelbasierten KI-Programme, die menschliches Expertenwissen in spezialisierten Domänen nachbilden. Die KI-Industrie wächst von wenigen Millionen Dollar 1980 auf Milliarden 1988. Zwei Drittel der Fortune-500-Unternehmen setzen die Technologie ein. Systeme wie MYCIN erreichen in Studien eine Akzeptanzrate von rund 65% für ihre Therapieempfehlungen – auf Augenhöhe mit Fakultäts-Experten, auch wenn MYCIN nie klinisch eingesetzt wird. Doch der Boom endet im klassischen Muster einer Wirtschaftsblase, als Dutzende Firmen scheitern und die Grenzen der Technologie deutlich werden.

    • KI-Industrie wächst von wenigen Millionen Dollar (1980) auf Milliarden (1988)
    • Zwei Drittel der Fortune-500-Unternehmen setzen Expertensysteme im Geschäftsalltag ein
    • MYCINs Therapievorschläge erreichen rund 65% Akzeptanz – vergleichbar mit menschlichen Fakultäts-Experten
    • Klassisches Muster einer Wirtschaftsblase: Boom gefolgt von massivem Crash
    Personen:
    Edward Feigenbaum, Bruce Buchanan, Edward Shortliffe
    Organisationen:
    Stanford University, Fortune 500 Companies
  24. Jahr 1982Publikationen

    Hopfield-Netzwerke: Assoziatives Gedächtnis

    Die Wiedergeburt neuronaler Netzwerke durch assoziative Speicherfähigkeiten. 1982 veröffentlichte John Hopfield das wegweisende Paper 'Neural networks and physical systems with emergent collective computational abilities' in PNAS. Seine Innovation lag in der Verbindung von Neurobiologie und statistischer Physik: Hopfield-Netzwerke funktionieren als content-addressable memory, das vollständige Muster aus unvollständigen oder verrauschten Eingaben rekonstruiert. Die rekurrente Architektur mit symmetrischen bidirektionalen Verbindungen konvergiert zu Fixpunkt-Attraktoren durch eine Lyapunov-Energiefunktion. Das System 'rollt bergab' zur nächsten gespeicherten Erinnerung. Hopfields Arbeit entfachte das Interesse an neuronalen Netzwerken neu und legte das theoretische Fundament für moderne RNNs. Die Hebbsche Lernregel ermöglichte das assoziative Speichern von Mustern – ein Durchbruch für das Verständnis biologischer und künstlicher Gedächtnissysteme.

    • Content-addressable memory das vollständige Muster aus unvollständigen oder verrauschten Eingaben rekonstruiert
    • Rekurrente Architektur mit symmetrischen bidirektionalen Verbindungen und emergenten kollektiven Eigenschaften
    • Lyapunov-Energiefunktion führt System zu Fixpunkt-Attraktoren durch 'Bergab-Rollen' zur gespeicherten Erinnerung
    • Entfachte Interesse an neuronalen Netzwerken neu und legte Grundstein für moderne RNN-Entwicklung
    Personen:
    John Hopfield
    Organisationen:
    California Institute of Technology, Bell Laboratories
  25. Jahr 1986Publikationen

    Backpropagation-Algorithmus

    Die Geburt des modernen maschinellen Lernens durch einen eleganten Trainingsalgorithmus. Im Oktober 1986 veröffentlichten David Rumelhart, Geoffrey Hinton und Ronald Williams in Nature das Paper 'Learning representations by back-propagating errors'. Dieser Algorithmus veränderte das Training neuronaler Netzwerke erheblich, indem er eine effiziente Methode zur Gewichtsanpassung in mehrschichtigen Netzen bereitstellte. Das Verfahren passt wiederholt die Verbindungsgewichte an, um die Differenz zwischen tatsächlicher und gewünschter Ausgabe zu minimieren. Die entscheidende Innovation lag in der Fähigkeit, versteckte Schichten zu trainieren, die wichtige Merkmale der Aufgabe automatisch erkennen. Die mathematischen Grundlagen waren bereits zuvor hergeleitet worden – etwa von Paul Werbos (1974) und Seppo Linnainmaa (1970) –, doch erst dieses Paper machte Backpropagation breit bekannt und demonstrierte überzeugend ihre Wirkung. Backpropagation wurde zum Arbeitspferd des maschinellen Lernens und ermöglicht heute alle modernen Deep-Learning-Anwendungen.

    • Veröffentlicht in Nature am 9. Oktober 1986 als 'Learning representations by back-propagating errors'
    • Machte effizientes Training mehrschichtiger neuronaler Netzwerke durch Gradient-Berechnung praktisch nutzbar und breit bekannt
    • Versteckte Schichten lernten automatisch wichtige Merkmale zu erkennen – ein wichtiger Fortschritt gegenüber Perzeptronen
    • Legte das mathematische Fundament für alle modernen Deep-Learning-Anwendungen und Transformer-Architekturen
    Personen:
    David Rumelhart, Geoffrey Hinton, Ronald Williams
    Organisationen:
    University of California San Diego, Carnegie Mellon University, Nature
  26. Zweiter KI-Winter1987–1993
    Jahr 1987Meilensteine

    Der zweite KI-Winter

    Der Zusammenbruch des spezialisierten KI-Hardware-Marktes und das Scheitern der Expertensysteme. 1987 brach der Markt für Lisp-Maschinen zusammen, als Apple- und IBM-Computer kostengünstiger und leistungsfähiger wurden als die teuren AI-spezifischen Systeme. Expertensysteme wie XCON erwiesen sich als zu wartungsintensiv und inflexibel für reale Anwendungen. Jack Schwartz, der neue IPTO-Leiter, bezeichnete Expertensysteme als 'clevere Programmierung' und kürzte die KI-Finanzierung 'tief und brutal'. Der Niedergang der Lisp-Maschinenhersteller zog sich über die folgenden Jahre hin - der Marktführer Symbolics meldete erst 1993 Insolvenz an -, was zu einem längeren und tiefgreifenderen Winter führte als der erste von 1974. Dieser Winter dauerte bis etwa 1993 und beendete den kommerziellen Hype um Expertensysteme und spezialisierte KI-Hardware - die symbolische KI als Forschungsrichtung blieb jedoch bestehen.

    • Der Markt für spezialisierte Lisp-Maschinen brach 1987 zusammen, da Apple- und IBM-Computer kostengünstiger und leistungsfähiger wurden
    • Expertensysteme wie XCON erwiesen sich als zu wartungsintensiv, starr und unfähig mit neuen Daten umzugehen
    • Jack Schwartz kürzte die KI-Finanzierung bei DARPA 'tief und brutal' und bezeichnete Expertensysteme als 'clevere Programmierung'
    • Die Kosten für AI-spezifische Hardware überwogen die versprochenen geschäftlichen Erträge bei weitem
    Personen:
    Jacob T. Schwartz, Marvin Minsky, Roger Schank
    Organisationen:
    DARPA, IPTO, Symbolics, Lisp Machines Inc, XCON
  27. Jahr 1987Datensätze

    UCI ML Repository: Die Datensatz-Bibliothek

    Die Demokratisierung der Machine Learning-Forschung durch standardisierte Benchmark-Datensätze. 1987 gründete UCI-PhD-Student David Aha mit Kommilitonen das UCI Machine Learning Repository als FTP-Archiv – eine Sammlung von Datenbanken, Domänen-Theorien und Daten-Generatoren für empirische ML-Algorithmus-Analyse. Diese Initiative adressierte den kritischen Mangel an standardisierten, frei verfügbaren Datensätzen für die wachsende ML-Community. Das Repository wurde zur primären Quelle für ML-Datensätze weltweit und ermöglichte Studenten, Lehrenden und Forschern den Zugang zu qualitativ hochwertigen Benchmarks. Über die Jahre wurde es zehntausendfach zitiert und zählt damit zu den meistgenutzten Ressourcen der gesamten Informatik. Heute verwaltet vom Center for Machine Learning and Intelligent Systems bietet UCI ML Repository Datensätze aus Healthcare, Finanzwesen und zahllosen anderen Domänen. Das Repository demokratisierte ML-Bildung und -Forschung fundamental.

    • 1987 als FTP-Archiv von David Aha und UCI-Studenten für empirische ML-Algorithmus-Analyse gegründet
    • Wurde zur primären Quelle für ML-Datensätze für Studenten, Lehrende und Forscher weltweit
    • Zehntausendfach zitiert – eine der meistgenutzten Datensatz-Ressourcen der gesamten Informatik
    • Demokratisierte ML-Forschung durch Zugang zu standardisierten, qualitativ hochwertigen Benchmark-Datensätzen
    Personen:
    David Aha, Patrick Murphy
    Organisationen:
    University of California Irvine, UCI
  28. Jahr 1988Publikationen

    Bayessche Netze: Schließen unter Unsicherheit

    Während neuronale Netze und Expertensysteme um Aufmerksamkeit rangen, baute Judea Pearl an der UCLA an einer dritten großen Säule der KI: dem Schließen unter Unsicherheit. In seinem Buch Probabilistic Reasoning in Intelligent Systems (1988) machte er Bayessche Netze populär — Graphen, in denen Knoten Variablen sind und Kanten ihre wahrscheinlichkeitsbasierten Abhängigkeiten. Statt der starren Wenn-dann-Regeln und ad-hoc-Sicherheitsfaktoren der Expertensysteme erlaubten sie es, Wissen und Unsicherheit sauber zu kombinieren und effizient daraus zu folgern. Bayessche Netze prägten KI und maschinelles Lernen der 1990er und 2000er; Pearl erhielt 2011 den Turing Award und wandte sich später der kausalen Inferenz zu — dem Warum hinter den Daten. Zur ehrlichen Einordnung: Das Bayes-Theorem selbst stammt aus dem 18. Jahrhundert; Pearls Leistung war nicht, die Wahrscheinlichkeit zu erfinden, sondern das probabilistische Schließen für die KI strukturierbar und berechenbar zu machen.

    • Judea Pearl (UCLA) etablierte das Schließen unter Unsicherheit als eine dritte Säule der KI — neben Symbolik und neuronalen Netzen.
    • Bayessche Netze: Graphen aus Variablen (Knoten) und wahrscheinlichkeitsbasierten Abhängigkeiten (Kanten) — ersetzten ad-hoc-Sicherheitsfaktoren durch sauberes, effizientes Schließen.
    • Prägte das maschinelle Lernen der 1990er/2000er; Pearl erhielt 2011 den Turing Award und begründete später die moderne kausale Inferenz.
    • Anti-Hype: Das Bayes-Theorem stammt aus dem 18. Jahrhundert; Pearls Leistung war, probabilistisches Schließen für die KI strukturierbar und berechenbar zu machen — nicht, die Wahrscheinlichkeit zu erfinden.
    Personen:
    Judea Pearl
    Organisationen:
    UCLA
  29. Jahr 1989Publikationen

    Universal Approximation Theorem

    Der mathematische Beweis für die theoretische Macht neuronaler Netzwerke. 1989 veröffentlichten Kurt Hornik, Maxwell Stinchcombe und Halbert White das fundamentale Paper 'Multilayer feedforward networks are universal approximators' in Neural Networks. Ihr rigoroser Beweis zeigte: Bereits ein einziges Hidden Layer mit genügend Neuronen kann jede Borel-messbare Funktion beliebig genau approximieren. Diese theoretische Grundlage rechtfertigte den Einsatz neuronaler Netzwerke mathematisch und versicherte Forschern, dass ausreichend große Netzwerke komplexe, nicht-lineare Beziehungen realer Daten modellieren können. Parallel erschienen ähnliche Arbeiten von George Cybenko und Funahashi mit verschiedenen Techniken. Das Theorem etablierte die Universalität durch Verbreiterung des Hidden Layers und wurde zur theoretischen Säule für alle nachfolgenden Deep Learning-Entwicklungen. Hornik et al. schufen das mathematische Vertrauen, das die neuronale Netzwerk-Renaissance der 1990er ermöglichte.

    • Rigoroser mathematischer Beweis für universelle Approximationsfähigkeiten neuronaler Netzwerke
    • Ein Hidden Layer mit genügend Neuronen kann jede Borel-messbare Funktion beliebig genau approximieren (Cybenkos Parallelarbeit zeigte dies für stetige Funktionen)
    • Beweist Fähigkeit zur Modellierung komplexer, nicht-linearer Beziehungen in realen Daten
    • Lieferte mathematische Rechtfertigung für Neural Network-Einsatz und theoretische Vertrauensgrundlage
    Personen:
    Kurt Hornik, Maxwell Stinchcombe, Halbert White
    Organisationen:
    University of California San Diego
  30. Jahr 1989Durchbrüche

    World Wide Web: Die Erfindung des WWW

    Die Erfindung, die die Welt vernetzte und die Grundlage für moderne KI-Datenquellen schuf. Am 12. März 1989 reichte Tim Berners-Lee bei CERN seinen Vorschlag „Information Management: A Proposal“ ein – ursprünglich „Mesh“ genannt, später „World Wide Web“. Als britischer Wissenschaftler erkannte er die Notwendigkeit automatisierten Informationsaustauschs zwischen Wissenschaftlern weltweit. Bis Ende 1990 entwickelte er die drei fundamentalen Web-Technologien: HTML (Hypertext Markup Language), HTTP (Hypertext Transfer Protocol) und URI/URL. Der erste Web-Server info.cern.ch lief auf einem NeXT-Computer, zusammen mit dem ersten Browser/Editor „WorldWideWeb.app“. 1991 wurde das Web öffentlich zugänglich. Das exponentielle Wachstum von rund 10 Websites (1992) auf mehrere Hunderttausend (1996) schuf die Datengrundlage für spätere KI-Systeme. Ohne das Web gäbe es keine Common Crawl-Datensätze und keine Large Language Models.

    • Hypertext-Projekt mit verlinkten Dokumenten, Browsern und „Hot Spots“ – aufbauend auf älteren Hypertext-Ideen (Ted Nelson, Vannevar Bushs Memex), aber bewusst einfacher als Nelsons Xanadu
    • Information Management Proposal vom 12. März 1989 bei CERN für automatisierten Wissenschaftsaustausch
    • HTML, HTTP und URI/URL als fundamentale Web-Technologien bis Ende 1990 entwickelt
    • Schuf die Dateninfrastruktur für spätere Common Crawl-Sammlungen und Large Language Model-Training
    Personen:
    Tim Berners-Lee
    Organisationen:
    CERN
  31. Jahr 1989Publikationen

    LeNet und die Geburt der CNNs

    Die erste erfolgreiche Anwendung von Convolutional Neural Networks in der Praxis. 1989 kombinierte Yann LeCun bei AT&T Bell Labs erstmals Backpropagation mit einer CNN-Architektur für die Handschriftenerkennung. Dieses System – später als Urahn der LeNet-Familie bekannt – erkannte handgeschriebene Postleitzahlen für den US Postal Service mit beachtlicher Genauigkeit: rund 1% Fehler auf den Trainingsdaten und etwa 5% auf bislang ungesehenen Testdaten; durfte das Netz unsichere Fälle zurückweisen, sank der Fehler bei den verbleibenden Ziffern auf etwa 1%. Diese Leistung bewies die praktische Überlegenheit von CNNs gegenüber herkömmlichen Ansätzen und etablierte die Grundlage für moderne Computer Vision. Sie demonstrierte, dass neuronale Netzwerke nicht nur theoretische Konstrukte waren, sondern reale Geschäftsprobleme lösen konnten. Die Architektur durchlief mehrere Verbesserungsiterationen und mündete 1998 in LeNet-5 mit 99,05% Genauigkeit auf MNIST. Diese Arbeit legte den Grundstein für alle modernen CNN-Architekturen.

    • Erste erfolgreiche Kombination von Convolutional Neural Networks mit Backpropagation-Training
    • Erkannte handgeschriebene Postleitzahlen für den US Postal Service: rund 5% Fehler auf Testdaten, etwa 1% wenn unsichere Fälle zurückgewiesen werden durften
    • Yann LeCuns wegweisende Arbeit bei Bell Labs etablierte CNNs als praktikable Computer Vision-Lösung
    • Legte das Fundament für alle modernen CNN-Architekturen von AlexNet bis zu aktuellen Vision-Systemen
    Personen:
    Yann LeCun, Bernhard Boser, John Denker
    Organisationen:
    AT&T Bell Labs, NIPS
  32. Jahr 1992Durchbrüche

    TD-Gammon: Lernen durch Spiel gegen sich selbst

    Lange vor AlphaGo zeigte ein Programm bei IBM, wozu Reinforcement Learning fähig ist: 1992 stellte Gerald Tesauro TD-Gammon vor, ein neuronales Netz, das Backgammon spielen lernte. Das Bemerkenswerte war die Lernmethode. TD-Gammon trainierte fast ausschließlich, indem es Hunderttausende Partien gegen sich selbst spielte und aus dem Ausgang lernte — mit dem Temporal-Difference-Verfahren, das Vorhersagen schrittweise korrigiert. Niemand musste ihm gute Züge vormachen. Das Netz erreichte annähernd Weltklasse-Niveau und entdeckte sogar Eröffnungszüge, die menschliche Profis daraufhin selbst übernahmen. Zur ehrlichen Einordnung: So beeindruckend der Erfolg war, er ließ sich lange nicht auf andere Spiele übertragen. Ein Grund liegt im Würfel: Backgammon ist ein Glücksspiel, und der Zufall sorgt beim Üben von selbst für Abwechslung — ein Vorteil fürs Selbstspiel, den deterministische Spiele wie Schach oder Go nicht bieten.

    • 1992 stellte Gerald Tesauro bei IBM TD-Gammon vor — ein neuronales Netz, das Backgammon spielen lernte.
    • Es lernte fast nur durch Spiele gegen sich selbst, mit dem Reinforcement-Learning-Verfahren Temporal Difference — ohne menschliche Partien als Vorlage.
    • TD-Gammon erreichte annähernd Weltklasse und entdeckte neue Eröffnungszüge, die Profis übernahmen — ein Vorbote von AlphaGo, fast 25 Jahre früher.
    • Anti-Hype: Der Erfolg ließ sich lange nicht auf andere Spiele übertragen. Der Würfel im Backgammon sorgt von selbst für Abwechslung beim Üben — ein Vorteil fürs Selbstspiel, den Schach oder Go nicht haben.
    Personen:
    Gerald Tesauro
    Organisationen:
    IBM
  33. Jahr 1992Publikationen

    Q-Learning: Fundament des Reinforcement Learning

    1992 veröffentlichten Chris Watkins und Peter Dayan den mathematischen Beweis für Q-Learning - einen Algorithmus, der die KI-Welt erheblich verändern sollte. Watkins hatte die Grundidee bereits 1989 in seiner Doktorarbeit „Learning from Delayed Rewards“ am King's College Cambridge entwickelt. Q-Learning löste ein fundamentales Problem: Wie kann ein Agent optimal handeln, ohne ein Modell seiner Umgebung zu benötigen? Die Antwort war elegant - durch schrittweise Optimierung einer Q-Funktion, die jedem Zustand-Aktion-Paar einen Wert zuweist. Der 1992er Konvergenzbeweis zeigte: Bei unendlicher Exploration findet Q-Learning garantiert die optimale Strategie für jedes endliche Markov-Entscheidungsproblem. Diese modellfreie Methode wurde zum Grundstein des modernen Reinforcement Learning. Von Robotik bis Finanzmärkten, von Spielen bis autonomen Systemen - Q-Learning ist überall. Ende 2013 stellte DeepMind mit Deep Q-Networks (DQN) eine tiefe Variante vor (Nature-Publikation 2015) und erreichte damit auf einem Großteil der Atari-Spiele menschliches oder übermenschliches Niveau. Bis heute bildet Q-Learning – vor allem in seiner Deep-Q-Network-Form – einen Grundbaustein zahlloser KI-Systeme.

    • 1992 mathematischer Konvergenzbeweis: Q-Learning findet garantiert optimale Strategien bei unendlicher Exploration
    • Innovativer modellfreier Ansatz: Lernen optimaler Aktionen ohne Umgebungsmodell oder Übergangswahrscheinlichkeiten
    • Elegante Lösung für Markov-Entscheidungsprobleme durch schrittweise Q-Funktions-Optimierung
    • Grundstein des modernen Reinforcement Learning - bis heute Kern von Deep Q-Networks und zahllosen KI-Systemen
    Personen:
    Chris Watkins, Peter Dayan
    Organisationen:
    King's College Cambridge, University College London
  34. Jahr 1993Datensätze

    Penn Treebank: Syntaktische Annotation verändert NLP

    Die Schaffung des fundamentalen Korpus für moderne Parsing-Forschung. 1993 veröffentlichten Mitchell Marcus, Beatrice Santorini und Mary Ann Marcinkiewicz das wegweisende Paper ‚Building a Large Annotated Corpus of English: The Penn Treebank‘ in Computational Linguistics. Mit über 4,5 Millionen Wörtern amerikanischen Englisch, die mit Wortarten ausgezeichnet wurden, und davon rund 3 Millionen mit detaillierter syntaktischer (skeletal geparster) Annotation veränderte das Penn Treebank die computergestützte Linguistik erheblich. Das zweistufige Verfahren kombinierte automatisches POS-Tagging mit menschlicher Korrektur für außergewöhnliche Annotationsqualität. Über die gesamte Projektlaufzeit von rund sieben Jahren (1989-1996) und in der erweiterten Penn Treebank II entstanden insgesamt 7 Millionen POS-getaggte Wörter, 3 Millionen skeletal geparste Texte und 2 Millionen Predicate-Argument-Strukturen. Penn Treebank etablierte empirische Methoden in der Computerlinguistik und wurde zur Grundlage moderner Parsing-Algorithmen. Bis heute dient das Penn Treebank modernen NLP-Systemen als wichtiger Evaluations-Benchmark für Parsing und Sprachmodellierung.

    • 4,5+ Millionen Wörter mit Wortart-Auszeichnung, davon rund 3 Millionen mit detaillierter syntaktischer Annotation - durch zweistufiges semi-automatisches Verfahren
    • Etablierte empirische Methoden in Computerlinguistik und wurde Standard-Benchmark für Parsing-Forschung
    • Veränderte Parsing-Algorithmen erheblich von regelbasierten zu statistischen Ansätzen
    • Legte Grundlagen für statistisches Parsing und dient modernen NLP-Systemen als Evaluations-Benchmark
    Personen:
    Mitchell Marcus, Beatrice Santorini, Mary Ann Marcinkiewicz
    Organisationen:
    University of Pennsylvania, Linguistic Data Consortium
  35. Jahr 1995Publikationen

    AdaBoost: Schwache Lerner werden stark

    1995 entwickelten Yoav Freund und Robert Schapire AdaBoost (Adaptive Boosting), einen Algorithmus der das Machine Learning erheblich veränderte. Ihre zentrale Idee: Kombiniere viele 'schwache Lerner' zu einem hochpräzisen Vorhersagemodell. Ein schwacher Lerner ist nur geringfügig besser als Zufall - aber hunderte davon können gemeinsam beachtliche Ergebnisse erzielen. AdaBoost passt sich adaptiv an: Fehlerhafte Vorhersagen werden beim nächsten Durchgang stärker gewichtet. So fokussiert sich das System automatisch auf schwierige Fälle. Die theoretische Eleganz überzeugte - Freund und Schapire bewiesen, dass der Trainingsfehler exponentiell schnell gegen null fällt, solange jeder schwache Lerner besser als der Zufall ist. 2003 erhielten sie für diese Begründung der Boosting-Theorie den Gödel-Preis, eine der renommiertesten Auszeichnungen der theoretischen Informatik. AdaBoost fand praktische Anwendung in Biologie, Computer Vision und Spracherkennung. Das Verfahren legte das Fundament für moderne Ensemble-Methoden und inspirierte eine ganze Generation von Boosting-Algorithmen bis hin zu XGBoost.

    • Adaptive Gewichtung: Schwere Fälle werden stärker gewichtet für fokussiertes Lernen auf Problemstellen
    • Schwache Lerner Prinzip: Hunderte einfache Klassifikatoren ergeben zusammen hochpräzise Vorhersagen
    • Gödel-Preis 2003: Eine der renommiertesten Auszeichnungen der theoretischen Informatik für die Begründung der Boosting-Theorie
    • Fundament moderner Ensemble-Methoden: Inspirierte XGBoost und ganze Generation von Boosting-Algorithmen
    Personen:
    Yoav Freund, Robert Schapire
    Organisationen:
    AT&T Bell Laboratories
  36. Jahr 1995Publikationen

    Support Vector Machines: Maximum Margin-Klassifikation

    Die Etablierung eleganter geometrischer Ansätze für robuste Klassifikation. 1995 veröffentlichten Corinna Cortes und Vladimir Vapnik bei AT&T Bell Labs das fundamentale Paper 'Support-Vector Networks' in Machine Learning. SVMs erweiterten Vapniks und Chervonenkis' frühen Maximum-Margin-Ansatz von 1964 (das 'Generalized Portrait') zu einer praktischen Lösung für nicht-separierbare Trainingsdaten durch die 'Soft Margin'-Innovation. Das Kernprinzip liegt in der Konstruktion linearer Entscheidungsflächen in sehr hochdimensionalen Feature-Räumen durch nicht-lineare Eingabe-Transformationen. Der Kernel Trick von 1992 ermöglichte effiziente Berechnung ohne explizite Transformation. SVMs maximieren den Margin zwischen Klassen und bieten dadurch hohe Generalisierungsfähigkeit. Mit zehntausenden Zitierungen wurde das Paper zu einem der meistzitierten Werke des Machine Learning und dominierte Klassifikationsaufgaben bis zur Deep Learning-Revolution. SVMs blieben robust, interpretierbar und effektiv für hochdimensionale Probleme.

    • Vapniks und Chervonenkis' Maximum-Margin-Ansatz von 1964 erweitert zu praktischer Lösung für nicht-separierbare Daten
    • Kernel Trick ermöglicht nicht-lineare Klassifikation durch implizite hochdimensionale Transformationen
    • Maximum Margin-Prinzip maximiert Abstand zwischen Klassen für optimale Generalisierung
    • Etablierte theoretisch fundierte Alternative zu neuronalen Netzwerken mit Generalisierungsgarantien
    Personen:
    Vladimir Vapnik, Corinna Cortes
    Organisationen:
    AT&T Bell Labs
  37. Jahr 1995Datensätze

    WordNet: Semantisches Netzwerk der Sprache

    Das erste als semantisches Netz aufgebaute lexikalische Wörterbuch für die Computerlinguistik. Im November 1995 veröffentlichte George Miller das fundamentale Paper „WordNet: A Lexical Database for English“ in Communications of the ACM und stellte seine seit 1986 entwickelte Vision vor. WordNet organisiert englische Substantive, Verben, Adjektive und Adverbien in Synsets – kognitive Synonymgruppen, die durch semantische und lexikalische Relationen verknüpft sind. Diese Struktur spiegelt menschliches semantisches Gedächtnis wider und ermöglicht Navigation durch bedeutungsvolle Wort- und Konzept-Netzwerke. Maschinenlesbare Wörterbücher gab es zwar schon vorher, doch WordNet war das erste, das den Wortschatz konsequent als Netz aus Synsets und Bedeutungsrelationen modellierte und so traditionelle lexikographische Information mit moderner Datenverarbeitung verband. Mit Entwicklungsbeginn 1986 durch Miller und sein Princeton-Team wurde WordNet zur Grundlage für ImageNet-Hierarchien und moderne NLP-Systeme. Die semantische Netzwerk-Struktur beeinflusste alle nachfolgenden Knowledge Graphs und Embedding-Techniken.

    • Erstes als semantisches Netz aus Synsets und Bedeutungsrelationen aufgebautes lexikalisches Wörterbuch mit programmgesteuertem Zugang
    • Synsets verknüpft durch semantische und lexikalische Relationen bilden navigierbares Bedeutungs-Netzwerk
    • Spiegelt menschliches semantisches Gedächtnis wider und verbindet Cognitive Science mit Computational Linguistics
    • Legte Grundstein für ImageNet-Hierarchien, Knowledge Graphs und moderne semantische NLP-Systeme
    Personen:
    George Miller, Christiane Fellbaum
    Organisationen:
    Princeton University, Cognitive Science Laboratory
  38. Jahr 1996Publikationen

    PageRank: Googles Milliarden-Dollar-Algorithmus

    1996 entwickelten zwei Stanford-Doktoranden einen Algorithmus, der das Internet erheblich verändern sollte. Larry Page und Sergey Brin starteten das Projekt „BackRub“ mit einer neuartigen Idee: Die Wichtigkeit einer Webseite bemisst sich nicht nur an Inhalten, sondern an den Links, die auf sie verweisen. Wie beim wissenschaftlichen Zitieren gilt: Je öfter eine Seite verlinkt wird, desto wichtiger ist sie. Der PageRank-Algorithmus simuliert einen „Random Surfer“, der zufällig durch das Web klickt. Je häufiger der zufällige Surfer eine Seite über die Link-Struktur erreicht, desto wichtiger wird sie eingestuft. Pages Webcrawler startete im März 1996 von seiner eigenen Stanford-Homepage aus. Die formale Veröffentlichung des PageRank-Papiers erfolgte im Januar 1998 als Stanford Technical Report. Bis August 1996 hatte BackRub bereits rund 75 Millionen URLs entdeckt – also über Links gefundene Adressen, von denen erst ein Teil tatsächlich gecrawlt war. Schon der frühe Stanford-Prototyp lieferte relevantere Ergebnisse als zeitgenössische Suchdienste wie Excite oder Yahoo!. Stanford erhielt das Patent und verkaufte seine 1,8 Millionen Google-Aktien 2004 und 2005 für insgesamt 336 Millionen Dollar. Aus einem Uni-Projekt wurde eine der erfolgreichsten Suchmaschinen – und die Grundlage des modernen Web-AI.

    • Stanford-Projekt 'BackRub' analysierte Backlink-Daten zur Web-Wichtigkeit - Grundlage für Google
    • Innovative Link-Analyse: Webseiten-Wichtigkeit durch Verweise statt nur Keyword-Häufigkeit
    • Random Surfer Modell: Eine Seite ist umso wichtiger, je häufiger der zufällige Surfer sie über die Link-Struktur besucht
    • Aus Stanford-Forschung wurde Google Inc. - PageRank als Fundament der wertvollsten Suchmaschine
    Personen:
    Larry Page, Sergey Brin, Rajeev Motwani, Terry Winograd
    Organisationen:
    Stanford University, Google Inc.
  39. Jahr 1997Wettbewerbe

    Deep Blue besiegt Kasparov

    Der erste Matchsieg einer Maschine über einen amtierenden Schachweltmeister unter Turnierbedingungen. Am 11. Mai 1997 schrieb Deep Blue Geschichte, als der IBM-Supercomputer Garry Kasparov im Revanche-Match in New York mit 3½:2½ besiegte. Nach der 1996er-Niederlage hatte IBM das System grundlegend überarbeitet: mehr als doppelt so viele, verbesserte Schachchips verdoppelten die Geschwindigkeit auf 200 Millionen Positionen pro Sekunde, verbesserte Endspieldatenbanken und Großmeister-Beratung verfeinerten die Spielstärke. Das entscheidende sechste Spiel dauerte nur eine Stunde – nach einem Springeropfer geriet Kasparov rasch in eine objektiv verlorene Stellung und gab bereits im 19. Zug auf, ein beispielloser Moment in seiner Karriere. Der Sieg demonstrierte erstmals die Überlegenheit von Computern in komplexem strategischem Denken und markierte einen Wendepunkt für die öffentliche KI-Wahrnehmung. Das Preisgeld von 700.000 Dollar für Deep Blue unterstrich die historische Bedeutung dieses Triumphs der Maschinenintelligenz.

    • Erster Sieg eines Computers über einen amtierenden Schachweltmeister im Match unter Standard-Turnierbedingungen (eine Einzelpartie hatte Deep Blue bereits 1996 gewonnen)
    • 200 Millionen Positionen pro Sekunde, verbesserte Endspieldatenbanken und Großmeister-Beratung
    • IBMs technischer Triumph nach jahrelanger Entwicklung seit ChipTest 1985 über Deep Thought zu Deep Blue
    • Wendepunkt für öffentliche KI-Wahrnehmung und Beweis maschineller Überlegenheit in komplexem strategischem Denken
    Personen:
    Garry Kasparov, Murray Campbell, Joe Hoane, Feng-hsiung Hsu
    Organisationen:
    IBM, World Chess Championship
  40. Jahr 1997Publikationen

    LSTM: Long Short-Term Memory

    Die Lösung des Vanishing Gradient Problems und die Geburt effektiver Sequenzmodellierung. Am 15. November 1997 veröffentlichten Sepp Hochreiter und Jürgen Schmidhuber das wegweisende Paper 'Long Short-Term Memory' in Neural Computation. Ihre Innovation löste ein fundamentales Problem rekurrenter Netzwerke: das Verschwinden von Gradienten über längere Sequenzen. LSTM führte spezielle Gedächtniszellen mit Gate-Mechanismen ein, die konstanten Error-Flow über tausende Zeitschritte ermöglichen. Die multiplikativen Gates lernen, den Zugang zum konstanten Error Carousel zu öffnen und zu schließen. Mit O(1)-Komplexität pro Zeitschritt und lokalem Lernen übertraf LSTM alle damaligen RNN-Verfahren deutlich. Das System löste erstmals komplexe Long-Time-Lag-Probleme, die zuvor unlösbar waren. LSTM wurde zur Grundlage für moderne Spracherkennung, Übersetzung und Zeitreihenanalyse.

    • Löste Vanishing Gradient Problem durch konstanten Error-Flow über tausende Zeitschritte
    • Spezielle Gedächtniszellen mit konstanten Error Carousels für langfristige Informationsspeicherung
    • Multiplikative Gate-Units lernen Zugang zum konstanten Error-Flow zu öffnen und schließen
    • Ermöglichte effektive Langzeit-Sequenzmodellierung für Spracherkennung und Zeitreihenanalyse
    Personen:
    Sepp Hochreiter, Jürgen Schmidhuber
    Organisationen:
    Technical University of Munich, IDSIA
  41. Jahr 1998Datensätze

    MNIST: Der Machine Learning-Standard

    Die Schaffung eines der wichtigsten Benchmark-Datensätze für Computer Vision-Anfänger. 1998 stellten Yann LeCun, Corinna Cortes und Christopher Burges den MNIST-Datensatz vor – eine kuratierte Sammlung handgeschriebener Ziffern, die zum „Hello World“ des maschinellen Lernens wurde. Basierend auf NISTs Special Database 3 und Special Database 1 enthält MNIST 70.000 normalisierte 28x28-Pixel-Bilder in Graustufen: 60.000 für Training, 10.000 für Tests. Die sorgfältige Preprocessing und Anti-Aliasing machten MNIST ideal für Lernzwecke ohne aufwendige Datenaufbereitung. MNIST erschien im Paper „Gradient-based learning applied to document recognition“ (Proceedings of the IEEE, November 1998). Der Datensatz wurde zum Standard-Benchmark für unzählige ML-Algorithmen und ermöglichte es Generationen von Studenten, ihre ersten Erfolge in Computer Vision zu erleben. MNIST demokratisierte Machine Learning-Bildung weltweit.

    • 70.000 handgeschriebene Ziffern als 28x28-Pixel normalisierte Graustufen-Bilder
    • Von Yann LeCun, Corinna Cortes und Christopher Burges aus NIST-Datenbanken kuratiert
    • Wurde zum 'Hello World' des Machine Learning und Standard-Benchmark für ML-Algorithmen
    • Demokratisierte ML-Bildung durch einfachen Zugang ohne aufwendige Datenaufbereitung
    Personen:
    Yann LeCun, Corinna Cortes, Christopher Burges
    Organisationen:
    AT&T Labs, Courant Institute
  42. Jahr 2001Publikationen

    Random Forest: Durchbruch der Ensemble-Methoden

    2001 veröffentlichte Leo Breiman von der UC Berkeley einen der meistzitierten Machine Learning Papers aller Zeiten: 'Random Forests'. Sein Algorithmus veränderte das Konzept der Ensemble-Methoden erheblich und wurde zu einem der wichtigsten Werkzeuge der modernen Statistik. Die Grundidee war genial einfach: Statt einem Entscheidungsbaum trainiert man hunderte zufällige Bäume und lässt sie abstimmen. Jeder Baum sieht nur einen zufälligen Teil der Daten und Features - 'Bagging' kombiniert mit Merkmals-Randomisierung. Das Ergebnis: drastisch reduzierte Overfitting-Probleme und außergewöhnliche Vorhersagegenauigkeit. Breiman lieferte auch die theoretische Grundlage mit Generalisierungsfehlern basierend auf Baumstärke und Korrelation. Random Forest wurde zu einem der wartungsärmsten 'plug-and-play' ML-Algorithmen - minimal tuning, maximale Performance. Von Bioinformatik bis Finanzmarktanalyse dominiert Random Forest bis heute unzählige Anwendungen und machte Ensemble-Methoden zum Standard-Werkzeug - parallel zur Boosting-Linie, aus der später XGBoost hervorging.

    • Ensemble-Durchbruch: Hunderte zufällige Entscheidungsbäume stimmen gemeinsam für bessere Vorhersagen ab
    • Bagging + Feature-Randomisierung: Jeder Baum sieht unterschiedliche Daten und Features für Diversität
    • Theoretische Fundierung: Generalisierungsfehler-Bounds basierend auf Baumstärke und Korrelation
    • Plug-and-Play ML-Algorithmus: Minimales Tuning bei außergewöhnlicher Performance in allen Domänen
    Personen:
    Leo Breiman, Adele Cutler
    Organisationen:
    UC Berkeley Statistics Department, Machine Learning Journal
  43. Jahr 2003Meilensteine

    Digitaler Zwilling: Ein Konzept mit zwei Geburtsjahren

    Der digitale Zwilling wurde nicht im Labor geboren, sondern in einem Weiterbildungskurs für Produktlebenszyklus-Management. Michael Grieves stellte dort die Idee vor: zu jedem physischen Ding gehört ein virtuelles Gegenstück, und beide bleiben über Daten miteinander verbunden. Wann genau das war, ist der interessante Teil. In seinem eigenen Whitepaper von 2014 schreibt Grieves, er habe das Konzept 2003 in seinem Executive Course an der University of Michigan eingeführt. In der Fachliteratur, in Lexikonartikeln und auf zahllosen Hersteller-Seiten steht dagegen fast überall 2002, samt einer Folie mit dem Titel "Conceptual Ideal for PLM" - eine Angabe, die auf spätere Texte von Grieves selbst zurückgeht. Beide Jahreszahlen stammen also von derselben Person, und wer eine davon als Tatsache zitiert, zitiert in Wahrheit eine Zitierkette. Ehrlich bleibt: frühe 2000er, im Umfeld der Produktentwicklung. Den Namen "Digital Twin" beansprucht Grieves ausdrücklich nicht für sich allein - in einer Fußnote schreibt er ihn John Vickers von der NASA zu. Was blieb, ist ein Modell aus drei Teilen: das reale Produkt, sein virtuelles Abbild und die Datenverbindung dazwischen. Genau diese Verbindung unterscheidet einen Zwilling bis heute von einer hübschen 3D-Simulation.

    • Grieves' eigenes Whitepaper von 2014 nennt 2003 und einen Kurs an der University of Michigan. Die verbreitete Angabe 2002 stammt aus seinen späteren Rückblicken. Beide Datierungen kommen von ihm - ein sauberes Gründungsdatum gibt es nicht.
    • Das Modell hat drei Teile: das physische Produkt im realen Raum, das virtuelle Produkt im virtuellen Raum und die Daten- und Informationsverbindung zwischen beiden. Ohne den dritten Teil ist es kein Zwilling, sondern ein Modell.
    • Den Begriff schreibt Grieves in einer Fußnote John Vickers von der NASA zu. Das Konzept kommt aus der Produktentwicklung, der Name aus der Raumfahrt.
    • Der Fall taugt als Lehrstück: Eine Jahreszahl wird oft genug abgeschrieben und gilt danach als gesichert. Nachgeprüft ist sie deshalb nicht.
    Personen:
    Michael Grieves, John Vickers
    Organisationen:
    University of Michigan, NASA
  44. Jahr 2005Organisationen

    Future of Humanity Institute gegründet

    Die Institutionalisierung der KI-Sicherheitsforschung und existenzieller Risikoabschätzung. 2005 gründete Nick Bostrom an der Universität Oxford das Future of Humanity Institute als multidisziplinäre Forschungsgruppe. Mit nur drei Forschern beginnend, entwickelte sich FHI zu einem intellektuellen Gravitationszentrum für brillante, oft exzentrische Denker und wuchs auf etwa 40 Mitarbeiter an. Das Institut etablierte neue Forschungsfelder: existenzielle Risiken, AI Alignment, AI Governance und Longtermism. Bostroms frühe Publikationen wie 'The fable of the dragon tyrant' (2005) und 'What is a singleton?' (2006) prägten das Denken über KI-Sicherheit. Trotz seiner relativ kurzen 19-jährigen Existenz bis zur Schließung 2024 produzierte FHI bedeutende Fortschritte und eine neue Art, über große Fragen der Menschheit zu denken. Die akademische Legitimierung der AI Safety-Forschung durch Oxford verlieh dem Feld wissenschaftliche Glaubwürdigkeit.

    • 2005 an Oxford University gegründet, wuchs von 3 auf etwa 40 Forscher bis zur Schließung 2024
    • Pionierarbeit bei existenziellen Risiken, Longtermism und AI Governance als neue Forschungsfelder
    • Etablierte AI Alignment und AI Safety als legitime akademische Disziplinen mit globaler Wirkung
    • Verlieh KI-Sicherheitsforschung durch Oxford-Affiliation wissenschaftliche Glaubwürdigkeit und Respekt
    Personen:
    Nick Bostrom, Anders Sandberg
    Organisationen:
    Oxford University, Future of Humanity Institute
  45. Jahr 2005Wettbewerbe

    DARPA Grand Challenge: Geburt des autonomen Fahrens

    Am 8. Oktober 2005 schrieb ein blauer Volkswagen Touareg namens 'Stanley' Geschichte. Unter der Leitung von Sebastian Thrun gewann das Stanford Racing Team die DARPA Grand Challenge - den ersten erfolgreichen autonomen Fahrzeug-Wettbewerb der Welt. Nach dem kompletten Versagen aller Teilnehmer 2004 (bester: 7,4 Meilen bzw. 11,9 km) bewältigte Stanley die gesamte 212 km lange Wüstenstrecke in 6 Stunden und 53 Minuten. Fünf Fahrzeuge erreichten das Ziel, vier davon innerhalb des Zeitlimits - ein deutlicher Fortschritt gegenüber null im Vorjahr. Stanley navigierte durch drei enge Tunnel, über 100 scharfe Kurven und den gefährlichen Beer Bottle Pass mit seinen Abgründen. Die Innovation war Software, nicht Hardware: LiDAR-Sensoren, maschinelles Lernen und ein Log menschlicher Fahrentscheidungen gaben Stanley Fähigkeiten, die kein Roboter zuvor besaß. Die 2 Millionen Dollar Preisgeld waren nur der Anfang - Stanley legte den Grundstein für Tesla Autopilot, Google Waymo und die gesamte autonome Fahrzeugindustrie. Heute steht Stanley im Smithsonian Museum.

    • Stanford's 'Stanley' gewann als erstes autonomes Fahrzeug eine 212 km Wüstenstrecke in unter 7 Stunden
    • Durchbruch von null erfolgreichen Fahrzeugen (2004) zu fünf Zieleinläufen (2005), vier davon im Zeitlimit, durch bessere KI
    • Erkannte als Software-Race: LiDAR, Machine Learning und menschliche Fahrdaten als Schlüssel
    • Geburtsmoment der modernen Selbstfahr-Technologie - inspirierte Tesla, Google und ganze Industrie
    Personen:
    Sebastian Thrun, Mike Montemerlo, Stanley Thrun Team
    Organisationen:
    DARPA, Stanford University, Stanford AI Lab
  46. Jahr 2006Publikationen

    Deep Belief Networks: Renaissance des Deep Learning

    Geoffrey Hinton veränderte 2006 die KI-Welt mit seinem wichtigen Paper über Deep Belief Networks. Nach jahrelanger Unpopularität neuronaler Netze zeigte er, wie tiefe neuronale Netzwerke effizient trainiert werden können. Seine Innovation: Layer-by-Layer Pre-Training mit Restricted Boltzmann Machines (RBMs). Diese 'gierige' Lernstrategie löste das Problem der Gewichtsinitialisierung und machte Deep Learning praktisch anwendbar. Die Methode stapelt RBMs übereinander und trainiert jede Schicht einzeln, bevor das gesamte Netzwerk verfeinert wird. Hintons Arbeit beendete das jahrelange Schattendasein neuronaler Netze und leitete deren Renaissance ein. Bereits 2009 reduzierten DBNs Fehlerraten in der Spracherkennung erheblich. 2012 gewann Hintons Team die ImageNet-Challenge (ILSVRC) mit AlexNet - einem tiefen Convolutional Neural Network, das mit GPU-Training, ReLU und Dropout arbeitete und nicht mehr auf das RBM-Pre-Training der DBNs angewiesen war. AlexNet erreichte eine top-5-Fehlerrate von 15,3% gegenüber 26,2% beim zweitbesten Team - eine deutliche Verbesserung. Dieser Moment markiert die Wiedergeburt der neuronalen Netzwerke und den Beginn des heutigen KI-Booms.

    • Gieriger Layer-by-Layer Lernalgorithmus ermöglichte erstmals effizientes Training tiefer neuronaler Netze
    • Stapeln von Restricted Boltzmann Machines (RBMs) als Bausteine für komplexe Repräsentationen
    • Unüberwachtes Pre-Training löste das Gewichtsinitialisierungsproblem tiefer Netzwerke
    • Beendete das Schattendasein neuronaler Netze und begründete die moderne Deep Learning Revolution ab 2006
    Personen:
    Geoffrey Hinton, Simon Osindero, Yee-Whye Teh
    Organisationen:
    University of Toronto, Neural Computation
  47. Jahr 2006Wettbewerbe

    Netflix Prize: Der Million-Dollar-Algorithmus

    Die Demokratisierung des Machine Learning durch einen Crowdsourcing-Wettbewerb von beispielloser Größe - mit öffentlichem Datensatz und einer Million Dollar Preisgeld. Am 2. Oktober 2006 startete Netflix diese Million-Dollar-Challenge: Wer kann den Empfehlungsalgorithmus Cinematch um 10% verbessern? Mit über 100 Millionen Bewertungen von 480.000 Nutzern für 17.770 Filme stellte Netflix einen der größten öffentlichen ML-Datensätze bereit. Über 40.000 Teams aus 186 Ländern registrierten sich, mehr als 5.000 davon schafften es auf das Qualifikations-Leaderboard und reichten zusammen rund 44.000 gültige Lösungen ein. Als 'BellKors Pragmatic Chaos' am 26. Juni 2009 als erstes Team die 10-Prozent-Marke knackte, löste das den 30-tägigen Last Call aus, der am 26. Juli 2009 endete; offiziell gekürt wurde der Sieger mit 10,06% Verbesserung erst bei der Preisverleihung am 21. September 2009. Sein Erfolgsrezept: eine Ensemble-Kombination aus Matrix-Factorization und Restricted Boltzmann Machines. Der Wettbewerb veränderte Collaborative Filtering erheblich und demonstrierte die Macht von Crowdsourcing für komplexe ML-Probleme. Obwohl Netflix die Gewinner-Algorithmen nie in Produktion einsetzte (zu hohe Implementierungskosten), inspirierte der Wettbewerb die moderne Empfehlungssystem-Industrie nachhaltig.

    • 1 Million Dollar Preisgeld für 10% Verbesserung des Cinematch-Algorithmus über 3 Jahre Wettbewerb
    • 100+ Millionen Bewertungen von 480k Nutzern für 17.770 Filme als öffentlicher ML-Datensatz
    • Veränderte Collaborative Filtering erheblich durch Matrix-Factorization und Restricted Boltzmann Machines
    • 40.000+ Teams aus 186 Ländern, über 5.000 auf dem Qualifikations-Leaderboard mit rund 44.000 Einreichungen - Crowdsourcing-Power für ML
    Personen:
    Reed Hastings, Netflix Team, BellKor Pragmatic Chaos Team
    Organisationen:
    Netflix, BellKor, AT&T Research
  48. Jahr 2007Datensätze

    Common Crawl Foundation gegründet

    Die Demokratisierung des Internets als Trainingsdaten für künstliche Intelligenz. 2007 gründete Gil Elbaz die Common Crawl Foundation mit der Mission: Das gesamte öffentliche Internet zu archivieren und frei verfügbar zu machen. Ab 2008 begann die systematische Crawling-Aktivität, deren Korpus seither Monat für Monat um Milliarden Seiten wächst und mittlerweile (Stand 2024) in der Größenordnung von über 100 Milliarden Webseiten und mehreren Petabytes an Daten liegt. Diese Sammlung wurde zur wichtigsten Trainingsquelle für Large Language Models und ermöglichte die Entwicklung von GPT-3, ChatGPT, LLaMA und anderen modernen KI-Systemen. Common Crawl unterschied sich von kommerziellen Ansätzen durch seine Non-Profit-Natur und freie Verfügbarkeit. Die ungefilterte Rohdatensammlung erfordert zwar Nachbearbeitung, aber sie demokratisierte den Zugang zu umfassenden Sprachdaten und machte KI-Forschung unabhängiger von proprietären Datensätzen.

    • Gründung 2007 mit der Mission, das gesamte öffentliche Internet zu archivieren und frei verfügbar zu machen
    • Wächst seit Crawling-Beginn 2008 monatlich um Milliarden Seiten – Größenordnung mittlerweile (Stand 2024) über 100 Milliarden Webseiten und mehrere Petabytes Daten
    • Wurde zur wichtigsten Trainingsquelle für GPT-3, ChatGPT, LLaMA und andere moderne Large Language Models
    • Non-Profit-Ansatz demokratisierte Zugang zu umfassenden Sprachdaten für KI-Forschung weltweit
    Personen:
    Gil Elbaz, Common Crawl Team
    Organisationen:
    Common Crawl Foundation, Internet Archive, Alexa Internet
  49. Jahr 2007Meilensteine

    CUDA: Die Grafikkarte wird zum KI-Motor

    Die KI-Revolution von 2012 lief nicht nur auf Algorithmen — sie lief auf Grafikkarten. Den Boden dafür bereitete NVIDIA 2007 mit CUDA: einer Plattform, die es erlaubte, normale Programme in einer C-ähnlichen Sprache direkt auf der GPU laufen zu lassen — nicht mehr nur Grafik. Angekündigt mit dem G80-Chip Ende 2006, als öffentliche Beta im Februar 2007 und als Version 1.0 im Juni 2007, machte CUDA die enorme Parallelität von Grafikprozessoren erstmals breit zugänglich. Das passt perfekt zu neuronalen Netzen, deren Rechnung im Kern aus Matrixmultiplikationen besteht — tausende kleine Operationen gleichzeitig. Fünf Jahre später trainierten Krizhevsky, Sutskever und Hinton AlexNet auf zwei NVIDIA-GTX-580-Karten mit CUDA — der Durchbruch, der Deep Learning zündete. Ab 2014 lieferte NVIDIAs cuDNN die optimierten Bausteine, auf denen heute TensorFlow, PyTorch und andere laufen. Die ehrliche Einordnung: CUDA hat GPGPU nicht erfunden (programmierbare Shader gab es seit 2001, BrookGPU seit 2004) und Deep Learning nicht im Alleingang verursacht — aber es machte die nötige Rechenleistung zugänglich, und ohne sie wäre der Rest nicht möglich gewesen.

    • CUDA (2007, NVIDIA; Architekten Ian Buck — aus dem BrookGPU-Projekt — und John Nickolls) erlaubt es, allgemeine Programme in einer C-ähnlichen Sprache direkt auf der GPU auszuführen — nicht mehr nur Grafik.
    • GPUs rechnen tausende Operationen parallel. Das passt exakt zu neuronalen Netzen, deren Kern Matrixmultiplikationen sind.
    • Wurde zum Motor des Deep Learning: AlexNet (2012) trainierte auf zwei GTX-580-Karten mit CUDA; ab cuDNN (2014) läuft praktisch jedes große Framework darauf.
    • Anti-Hype: GPGPU gab es schon vor CUDA (Shader 2001, BrookGPU 2004); CUDA verursachte Deep Learning nicht allein — es machte die Rechenleistung zugänglich (nötig, nicht hinreichend).
    Personen:
    Ian Buck, John Nickolls
    Organisationen:
    NVIDIA
  50. Jahr 2008Publikationen

    Zero-Shot Learning: Lernen ohne Daten

    Die Formalisierung des Lernens ungesehener Klassen durch semantische Beschreibungen. Im Juli 2008 veröffentlichten Hugo Larochelle, Dumitru Erhan und Yoshua Bengio auf der AAAI-Konferenz ihre Arbeit „Zero-data Learning of New Tasks“ und lieferten die theoretische Vorläufer-Formalisierung. Den eigentlichen Namen „Zero-Shot Learning“ prägten erst 2009 zwei andere Gruppen: Palatucci und Kollegen mit „Zero-Shot Learning with Semantic Output Codes“ auf der NIPS 2009 sowie Lampert und Kollegen mit ihrem attributbasierten Ansatz auf der CVPR 2009. Das fundamentale Problem: Wie kann ein Modell Klassen klassifizieren, für die keine Trainingsdaten verfügbar sind, sondern nur Beschreibungen? Die Lösung lag in semantischen Embeddings und Transfer Learning – der Wiederverwendung trainierter Modelle für neue Aufgaben. Larochelles Formalisierung adressierte sehr große Klassensets, die nicht vollständig durch Trainingsdaten abgedeckt sind. Experimentelle Analysen bewiesen signifikante Generalisierungsfähigkeiten in diesem Kontext. Diese Arbeit legte das konzeptuelle Fundament für moderne Few-Shot und Zero-Shot Fähigkeiten in GPT-3, GPT-4 und anderen Large Language Models. Zero-Shot Learning wurde zur Schlüsseltechnologie für skalierbare KI-Systeme.

    • Klassifikation von Klassen ohne Trainingsdaten – nur mit semantischen Beschreibungen der Zielklassen
    • Wiederverwendung trainierter Modelle für völlig neue Aufgaben durch semantische Embeddings
    • Semantische Repräsentationen ermöglichen Generalisierung zu ungesehenen Konzepten
    • Legte Fundament für Few-Shot und Zero-Shot Fähigkeiten moderner Large Language Models
    Personen:
    Hugo Larochelle, Dumitru Erhan, Yoshua Bengio
    Organisationen:
    University of Montreal
  51. Jahr 2009Datensätze

    CIFAR-Datensätze etabliert

    Die Schaffung eines fundamentalen Benchmarks für Computer Vision. Im Jahr 2009 entwickelten Alex Krizhevsky, Vinod Nair und Geoffrey Hinton an der Universität Toronto die CIFAR-10 und CIFAR-100 Datensätze. Diese entstanden als markierte Teilmengen des 80-Millionen-Bilder-Datensatzes 'Tiny Images'. CIFAR-10 umfasst 60.000 farbige 32x32-Pixel-Bilder in zehn Kategorien wie Flugzeuge, Autos und Tiere, während CIFAR-100 dieselbe Bildanzahl auf hundert feinere Klassen verteilt. Die Datensätze wurden zu einem der wichtigsten Benchmarks der Computer Vision-Forschung und ermöglichten standardisierte Vergleiche zwischen verschiedenen Algorithmen. Bemerkenswert ist die Verbindung zu AlexNet: Krizhevsky nutzte CIFAR-10 bereits vor 2011 zum Training kleiner CNNs auf einzelnen GPUs – ein Vorläufer seines späteren ImageNet-Erfolgs von 2012.

    • CIFAR-10 mit 60.000 Bildern in 10 Kategorien, CIFAR-100 mit 100 detaillierteren Klassen als Computer Vision-Benchmarks
    • Wurde zu einem der wichtigsten standardisierten Benchmarks für Computer Vision-Algorithmen weltweit
    • Ermöglichte systematische Evaluierung und Vergleich verschiedener Machine Learning-Ansätze
    • Krizhevsky nutzte CIFAR-10 vor 2011 für CNN-Training – Vorstufe zu seinem AlexNet-Erfolg 2012
    Personen:
    Alex Krizhevsky, Vinod Nair, Geoffrey Hinton
    Organisationen:
    University of Toronto, Canadian Institute for Advanced Research, CIFAR
  52. Jahr 2009Datensätze

    ImageNet: Der Datensatz der alles veränderte

    Die Schaffung des Datensatzes, der die Deep Learning-Entwicklung ermöglichte. 2009 stellte Fei-Fei Li mit ihrem Team das ImageNet-Paper vor und präsentierte eine visuelle Datenbank, die Computer Vision transformieren sollte – zum Launch waren es rund 3,2 Millionen handannotierte Bilder in etwa 5.200 Kategorien. Auf seine volle Größe ausgebaut umfasste ImageNet später über 14 Millionen handannotierte Bilder und rund 22.000 Kategorien, basierend auf WordNet-Hierarchien, und adressierte so den kritischen Engpass: den Mangel an großen, qualitativ hochwertigen Trainingsdaten. Die Annotation erfolgte im Lauf des Projekts durch rund 49.000 Worker aus 167 Ländern via Amazon Mechanical Turk – ein beispiellos kollaboratives Projekt. Was als Poster in einer Ecke eines Miami Beach-Konferenzzentrums begann, entwickelte sich zur jährlichen ImageNet Challenge (ILSVRC) und wurde zu einem der drei Treiber der modernen KI-Entwicklung. ImageNet ermöglichte AlexNets 2012er-Durchbruch und legte das Fundament für autonome Fahrzeuge, Gesichtserkennung und medizinische Bildgebung.

    • Zum Launch 2009 rund 3,2 Millionen Bilder, im Vollausbau über 14 Millionen handannotierte Bilder in rund 22.000 Kategorien durch rund 49.000 Worker aus 167 Ländern
    • Basiert auf WordNet-Hierarchien für strukturierte Kategorisierung visueller Objekte
    • Stellte die kritischen Trainingsdaten für AlexNets 2012er-Durchbruch und die Deep Learning-Entwicklung bereit
    • Transformierte Computer Vision-Forschung und ermöglichte autonome Fahrzeuge, Gesichtserkennung, medizinische Bildgebung
    Personen:
    Fei-Fei Li, Jia Deng, Wei Dong, Richard Socher
    Organisationen:
    Stanford University, Princeton University
  53. Jahr 2010Meilensteine

    DeepMind wird gegründet

    Die Geburt eines KI-Labors, das Schlagzeilen schreiben würde. Im September 2010 gründeten Demis Hassabis, Shane Legg und Mustafa Suleyman in London DeepMind Technologies. Ihr Ziel: Allgemeine Künstliche Intelligenz entwickeln, indem sie Erkenntnisse aus Neurowissenschaft und maschinellem Lernen kombinieren. Hassabis, ein ehemaliges Schach-Wunderkind und Spieleentwickler, brachte eine einzigartige Vision mit: KI sollte wie das menschliche Gehirn lernen. 2014 kaufte Google das Startup für geschätzte 500 Millionen Dollar – eine der größten KI-Akquisitionen der Geschichte. DeepMind sollte später mit AlphaGo, AlphaFold und anderen Durchbrüchen die Welt verblüffen.

    • September 2010 in London als DeepMind Technologies gegründet
    • Demis Hassabis (Neurowissenschaftler, Spieleentwickler), Shane Legg und Mustafa Suleyman
    • 2014 von Google für geschätzte 500 Millionen Dollar übernommen
    • Später verantwortlich für AlphaGo, AlphaFold und andere bahnbrechende KI-Systeme
    Personen:
    Demis Hassabis, Shane Legg, Mustafa Suleyman
    Organisationen:
    DeepMind, Google
  54. Jahr 2010Wettbewerbe

    ImageNet Challenge: Der Wettkampf beginnt

    Die Etablierung des wichtigsten Computer Vision-Benchmarks der KI-Geschichte. 2010 startete die erste ImageNet Large Scale Visual Recognition Challenge (ILSVRC) und schuf einen standardisierten Wettbewerb, der die Computer Vision-Forschung für das nächste Jahrzehnt prägen sollte. Mit 1.000 Objektkategorien und 1,2 Millionen Trainingsbildern übertraf die Challenge die damals verfügbaren Benchmarks wie PASCAL VOC mit nur 20 Klassen bei weitem. Die Evaluierung erfolgte über Top-1 und Top-5 Fehlerquoten – Metriken, die bis heute Standard sind. Von 2010 bis 2017 verbesserte sich die Top-5-Genauigkeit der Gewinner erheblich von 71,8% auf 97,3% und übertraf schließlich menschliche Leistung. Die jährliche Challenge zog über 50 Institutionen aus aller Welt an und katalysierte Fortschritte, die 2012 in AlexNets bedeutendem Durchbruch gipfelten – einer Top-5-Fehlerrate von nur 15,3% (rund 84,7% Genauigkeit).

    • Erste ILSVRC 2010 mit 1.000 Kategorien und 1,2 Millionen Trainingsbildern – weit über PASCAL VOC hinaus
    • Etablierte Top-1 und Top-5 Fehlerquoten als Standard-Metriken für Computer Vision-Evaluierung
    • Jährlicher Wettbewerb seit 2010 zog über 50 Institutionen weltweit an und trieb Forschungsfortschritte
    • Schuf die Wettbewerbsstruktur die 2012 AlexNets Durchbruch ermöglichte: eine Top-5-Fehlerrate von nur 15,3% (rund 84,7% Genauigkeit)
    Personen:
    Fei-Fei Li, Olga Russakovsky, Alexander Berg
    Organisationen:
    Stanford University, ImageNet Team
  55. Jahr 2010Meilensteine

    Digital Twin wird Behördenwort: NASA-Roadmap 2010

    Ein Begriff wird nicht dadurch offiziell, dass jemand ihn erfindet, sondern dadurch, dass eine Behörde ihn in ein Planungsdokument schreibt. Im November 2010 legte das NASA Office of Chief Technologist seine Technologie-Roadmap für den Bereich 11 vor - Modellierung, Simulation, Informationstechnik und Datenverarbeitung, verfasst von sieben Autoren um M. Shafto. In diesem Papier taucht der Digital Twin zum ersten Mal in einem offiziellen NASA-Dokument auf. Damit war er kein Vortragsbegriff aus der Produktentwicklung mehr, sondern ein Posten in einer Technologieplanung mit Budgetfolgen. Die Ironie der Sache: Das Dokument selbst ist unter seiner alten Adresse verschwunden. Belegt ist es heute vor allem über die Referenzliste eines späteren Papers - Glaessgen und Stargel stellten 2012 auf einer AIAA-Konferenz in einer Sondersitzung mit dem Titel "Special Session on the Digital Twin" die Fassung vor, die seither zitiert wird: eine hochaufgelöste Simulation eines konkret gebauten Fluggeräts, gekoppelt an dessen Sensorik, Wartungsgeschichte und Flottendaten. Die Definition selbst stand allerdings schon in der Roadmap: Die NASA zitiert sie noch 2021 als „TA 11 (2010)“, und Glaessgen gehörte zu deren Autoren.

    • Die NASA-Roadmap für Technologiebereich 11 vom November 2010 ist das erste offizielle Dokument, das den Begriff Digital Twin führt. Sieben Autoren, herausgegeben vom Office of Chief Technologist.
    • Das Papier ist unter seiner historischen NASA-Adresse nicht mehr erreichbar. Existenz, Datum und Autoren stehen fest, weil das Paper von 2012 es als Quelle führt. Seine Definition zitiert die NASA selbst noch 2021 als „TA 11 (2010)“; laut den National Academies wurde das Papier 2010 veröffentlicht und trägt offiziell das Jahr 2012.
    • Bekannt wurde die Definition 2012: Glaessgen (NASA Langley) und Stargel (Air Force Office of Scientific Research) beschreiben eine Simulation, die an Sensordaten, Wartungshistorie und Flottendaten eines einzelnen Fluggeräts gekoppelt ist.
    • Die Raumfahrt hatte den härtesten Anwendungsfall: Bauteile sollten nicht mehr nach Sicherheitsfaktoren aus Materialtabellen bewertet werden, sondern pro Exemplar, mit seiner eigenen Belastungsgeschichte.
    Personen:
    M. Shafto, M. Conroy, R. Doyle, E. Glaessgen, C. Kemp, J. LeMoigne, L. Wang
    Organisationen:
    NASA, U.S. Air Force
  56. Jahr 2011Wettbewerbe

    Watson besiegt Jeopardy-Champions

    IBMs Triumph im Natural Language Processing und der Beweis für maschinelles Sprachverständnis. Am 16. Februar 2011 besiegte IBMs Watson-System in der im Fernsehen übertragenen Jeopardy-Challenge die beiden erfolgreichsten Champions aller Zeiten: Ken Jennings (74 Siege in Folge) und Brad Rutter (3,25 Millionen Dollar Gewinne bis 2005). Watson, entwickelt von David Ferruccis DeepQA-Team, bestand aus 90 IBM Power 750 Servern (in 10 Racks) mit 16 Terabyte RAM und 2.880 POWER7-Prozessorkernen. Die Innovation lag im Natural Language Processing: Watson verstand Fragen in natürlicher Sprache und antwortete präziser als jede Standard-Suchtechnologie – ohne Internetverbindung. Mit 77.147 Dollar Gewinn (für Wohltätigkeit gespendet) dominierte Watson seine menschlichen Konkurrenten um mehr als 50.000 Dollar. Ken Jennings berühmte Schlussanmerkung „I for one welcome our new computer overlords“ unterstrich die historische Bedeutung dieses NLP-Meilensteins.

    • Besiegte Jeopardy-Legenden Ken Jennings und Brad Rutter in im Fernsehen übertragener Challenge
    • Erste TV-Demonstration fortgeschrittener Natural Language Processing-Fähigkeiten für Millionen Zuschauer
    • DeepQA-System kombinierte Knowledge-Retrieval mit komplexem Reasoning ohne Internetverbindung
    • Ken Jennings' 'computer overlords'-Kommentar unterstrich kulturelle Bedeutung des KI-Fortschritts
    Personen:
    David Ferrucci, Ken Jennings, Brad Rutter
    Organisationen:
    IBM Research, Jeopardy!, Sony Pictures Television
  57. Jahr 2011Produkte

    Siri Launch: Sprachassistentin wird Smartphone-Mainstream

    Am 4. Oktober 2011 veränderte Apple die Mensch-Computer-Interaktion erheblich mit der Einführung von Siri auf dem iPhone 4S. Als erste tief ins Smartphone integrierte Massen-Sprachassistentin brachte Siri KI in die Hosentaschen von Millionen Menschen. 'Was ist heute für Wetter?' oder 'Finde mir ein gutes griechisches Restaurant' - plötzlich konnten Nutzer natürlich mit ihrem Telefon sprechen. Siri war dabei keine völlig neue Erfindung: Sie existierte seit 2010 als eigenständige iOS-App von Siri Inc. (von Apple übernommen), und Google bot mit Voice Actions bereits Sprachsuche an. Aber erst Apples nahtlose Integration ins Betriebssystem machte den Sprachassistenten zum Massenphänomen. Siri basierte auf jahrzehntelanger Forschung bei SRI International und DARPAs CALO-Projekt. Susan Bennett hatte bereits 2005 unwissentlich die Originalstimme aufgenommen. Steve Jobs, schwer krank in seinen letzten Lebenstagen, trat beim Launch-Event selbst nicht mehr auf - Tim Cook präsentierte das iPhone 4S. Einen Tag nach Siris Vorstellung verstarb Jobs. Siri war nicht perfekt - Kritiker bemängelten die steifen Kommandos und mangelnde Flexibilität. Aber das Ziel war erreicht: KI war mainstream geworden. Siri inspirierte Amazon Alexa, Google Assistant und Microsoft Cortana. Die Ära der Sprachassistenten hatte begonnen.

    • Erste tief ins Smartphone integrierte Massen-Sprachassistentin für Millionen Nutzer weltweit
    • Fortschrittliche natürliche Sprachverarbeitung ermöglichte intuitive Mensch-Computer-Kommunikation
    • Eines von Steve Jobs' letzten großen Produkten vor seinem Tod am 5. Oktober 2011
    • Begründete die moderne Ära der Sprachassistenten und inspirierte alle Konkurrenten
    Personen:
    Steve Jobs, Susan Bennett, Tom Gruber, Adam Cheyer
    Organisationen:
    Apple, SRI International, DARPA
  58. Jahr 2012Publikationen

    Dropout-Regularisierung

    Geoffrey Hinton, Nitish Srivastava, Alex Krizhevsky, Ilya Sutskever und Ruslan Salakhutdinov verändern im Juli 2012 das Training neuronaler Netzwerke erheblich mit der Erfindung der Dropout-Regularisierung. Diese elegante Technik verhindert Overfitting durch zufälliges Ausschalten etwa der Hälfte aller Neuronen während des Trainings, wodurch komplexe Ko-Adaptationen vermieden werden. Statt spezifischer Feature-Kombinationen lernt jedes Neuron robuste, allgemein nützliche Erkennungsmuster. Die am 3. Juli 2012 auf arXiv veröffentlichte Methode wurde wenige Monate später zu einem der Bausteine von AlexNets ImageNet-Triumph bei der ILSVRC 2012, deren Ergebnisse im Oktober 2012 vorgestellt wurden — neben GPU-Training, ReLU-Aktivierung und der Netztiefe — und wurde über Jahre zum Standard in vielen Deep-Learning-Architekturen; beim Vortraining großer Sprachmodelle verzichtet man heute meist darauf. Dropout setzt neue Rekorde in Sprach- und Objekterkennung und entschärft das zentrale Overfitting-Problem tiefer Netzwerke.

    • Entschärft das zentrale Overfitting-Problem tiefer neuronaler Netzwerke
    • Zufälliges Ausschalten der Hälfte aller Neuronen während des Trainings
    • Einer der Bausteine von AlexNets ImageNet-Durchbruch — neben GPU-Training, ReLU und Netztiefe
    • Jahrelang Standard in vielen Deep-Learning-Architekturen, im Vortraining großer Sprachmodelle heute meist weggelassen
    Personen:
    Geoffrey Hinton, Nitish Srivastava, Alex Krizhevsky, Ilya Sutskever, Ruslan Salakhutdinov
    Organisationen:
    University of Toronto
  59. Jahr 2012Durchbrüche

    AlexNet-Erfolg

    Der Wendepunkt für Deep Learning und moderne KI. Am 30. September 2012 reichte das Team AlexNet bei der ImageNet-Challenge ein; als im Oktober 2012 die Ergebnisse veröffentlicht wurden, hatte AlexNet sie mit einem derartigen Vorsprung für sich entschieden, dass die Computer Vision nachhaltig verändert wurde. Alex Krizhevsky, Ilya Sutskever und Geoffrey Hinton von der Universität Toronto entwickelten eine CNN-Architektur, die ihre Konkurrenz um beachtliche 10,9 Prozentpunkte schlug – eine Verbesserung, die in der Wissenschaft als außergewöhnlich gilt. Mit 60 Millionen Parametern und innovativen Techniken wie ReLU-Aktivierungen und Dropout-Layern führte AlexNet die praktische Überlegenheit des Deep Learning eindrucksvoll vor Augen. Das war der Moment, als aus einer interessanten Theorie eine dominante Technologie wurde. Yann LeCun nannte es einen 'unzweifelhaften Wendepunkt in der Computer-Vision-Geschichte'. Die GPU-basierte Implementierung ebnete den Weg für die moderne KI-Entwicklung.

    • AlexNet gewann die ImageNet 2012 Challenge mit 15,3% Fehlerrate – 10,9 Prozentpunkte besser als der zweitbeste Teilnehmer (26,2%)
    • 60 Millionen Parameter, ReLU-Aktivierungen, Dropout-Layer und GPU-Training etablierten neue technische Standards
    • Führte die praktische Überlegenheit des Deep Learning eindrucksvoll vor Augen und beendete die Skepsis gegenüber neuronalen Netzen
    • Startete die moderne KI-Entwicklung und machte CNN-Architekturen zum Standard in der Computer Vision
    Personen:
    Alex Krizhevsky, Geoffrey Hinton, Ilya Sutskever
    Organisationen:
    University of Toronto, ImageNet Challenge, NIPS
  60. Jahr 2012Durchbrüche

    Deep Learning-Revolution

    Das Jahr, das die moderne KI-Ära einläutete durch die Konvergenz von Datensätzen, GPU-Power und neuronalen Architekturen. 2012 markierte den Aufstieg des Deep Learning als dominante KI-Technologie, katalysiert durch AlexNets beeindruckenden ImageNet-Sieg. Die Konvergenz dreier Entwicklungen machte dies möglich: Fei-Fei Lis ImageNet-Datensatz stellte massive beschriftete Trainingsdaten bereit, GPU-Computing erreichte die nötige Rechenpower für tiefe Netzwerke, und verbesserte Trainingsmethoden wie ReLU-Aktivierungen und Dropout-Regularisierung überwindeten alte Beschränkungen. Geoffrey Hintons Team – Alex Krizhevsky, Ilya Sutskever und Hinton selbst – bewies in Krizhevskys Elternhaus mit zwei Nvidia-Karten, dass Deep Neural Networks praktikabel waren. AlexNet erwies sich als Wendepunkt für die Computer Vision. Dieser Erfolg steigerte das Interesse an Deep Learning erheblich und ebnete den Weg für VGG, ResNet und schließlich die heutige Entwicklung der Generative AI.

    • Deep Learning etablierte sich als dominante KI-Technologie und beendete die Vorherrschaft traditioneller Machine Learning-Ansätze
    • AlexNets ImageNet-Sieg demonstrierte erstmals die praktische Überlegenheit tiefer neuronaler Netzwerke
    • GPU-Computing ermöglichte Training großer neuronaler Netzwerke und veränderte KI-Forschungsmethoden grundlegend
    • Löste massive Investitionen in Deep Learning-Forschung und industrielle Adoption neuronaler Architekturen aus
    Personen:
    Geoffrey Hinton, Yann LeCun, Yoshua Bengio, Alex Krizhevsky, Ilya Sutskever
    Organisationen:
    University of Toronto, NYU, University of Montreal
  61. Jahr 2013Publikationen

    Word2Vec: Wörter als Vektoren

    Die Transformation der Wort-Repräsentation durch semantische Vektorräume. Am 16. Januar 2013 veröffentlichte Tomas Mikolov mit seinem Google-Team das wegweisende Paper „Efficient Estimation of Word Representations in Vector Space“. Word2Vec transformierte NLP durch die Darstellung von Wörtern als dichte, niedrigdimensionale Vektoren (typisch 100 bis 300 Dimensionen), die semantische und syntaktische Beziehungen erfassen – ein Bruch mit den riesigen, dünn besetzten One-Hot-Vektoren früherer Verfahren. Die zwei Architektur-Varianten CBOW (Continuous Bag of Words) und Skip-Gram lernten aus großen Text-Korpora, dass ähnliche Wörter in ähnlichen Kontexten auftreten. Das berühmte Beispiel demonstrierte Vektor-Arithmetik: König - Mann + Frau ≈ Königin. Mit Zehntausenden Zitierungen wurde Mikolovs Arbeit zu einem der einflussreichsten NLP-Papers. Word2Vec legte das Fundament für alle modernen Embedding-Techniken und ermöglichte semantisches Reasoning in Vektorräumen. Diese Innovation ebnete den Weg für Transformer-Architekturen und moderne Large Language Models.

    • Erste effiziente dichte, niedrigdimensionale Vektor-Repräsentationen von Wörtern mit semantischen Beziehungen
    • Semantische und syntaktische Muster durch Vektor-Arithmetik: König - Mann + Frau ≈ Königin
    • Ermöglichte analogisches Reasoning in Vektorräumen durch Cosinus-Ähnlichkeit und Distanz-Metriken
    • Legte Fundament für moderne Embedding-Techniken und Transformer-basierte Large Language Models
    Personen:
    Tomas Mikolov, Kai Chen, Greg Corrado, Jeffrey Dean
    Organisationen:
    Google, Google Research
  62. Jahr 2013Publikationen

    VAE: Variational Autoencoders

    Die Entwicklung probabilistischer generativer Modelle durch latente Raummodellierung. Am 20. Dezember 2013 veröffentlichten Diederik Kingma und Max Welling das Paper 'Auto-Encoding Variational Bayes'. VAEs verbinden Encoder- und Decoder-Netzwerke durch einen probabilistischen latenten Raum – typischerweise eine multivariate Gauss-Verteilung. Im Gegensatz zu deterministischen Autoencodern kodiert der Encoder Daten als Verteilungen statt Einzelpunkte, was kontinuierliche Interpolation und Datengeneration ermöglicht. Der Reparameterization Trick macht Zufälligkeit als Modell-Input differenzierbar und ermöglicht Standard-Gradientenoptimierung. In ihren Experimenten generierten VAEs handgeschriebene Ziffern (MNIST) und kleine Gesichtsbilder (Frey Faces) – noch verschwommen, aber als Machbarkeitsbeweis variational inference wegweisend. Diese Arbeit legte das Fundament für moderne generative KI und prägte spätere probabilistische Ansätze bis hin zu Diffusion Models.

    • Variational Inference für effiziente Approximation intraktabler Posterior-Verteilungen in kontinuierlichen latenten Variablen
    • Probabilistischer latenter Raum ermöglicht kontinuierliche Interpolation und Generierung neuer Datenpunkte
    • Wegweisende Verbindung von Autoencoder-Architektur mit skalierbarer probabilistischer generativer Modellierung durch amortisierte Variational Inference
    • Encoder-Decoder-Architektur mit Reparameterization Trick für differenzierbare Zufälligkeit
    Personen:
    Diederik P. Kingma, Max Welling
    Organisationen:
    University of Amsterdam
  63. Jahr 2014Publikationen

    Adam: Der Standard-Optimierer des Deep Learning

    Damit ein neuronales Netz lernt, muss ein Optimierer seine Millionen Stellschrauben Schritt für Schritt in die richtige Richtung drehen. 2014 stellten Diederik Kingma und Jimmy Ba dafür ein Verfahren vor, das schnell zum meistgenutzten der Branche wurde: Adam, ein Name, der sich von der englischen Bezeichnung Adaptive Moment Estimation ableitet (und kein Akronym ist). Adams Trick ist, für jeden einzelnen Parameter eine eigene, automatisch angepasste Lernrate zu führen. Dazu verbindet es zwei bewährte Ideen — Momentum, das die bisherige Richtung mitnimmt, und adaptive Schrittweiten im Stil von RMSProp. Das Ergebnis: Netze trainieren robust und ohne mühsames Herumprobieren an der Lernrate. Das Paper wurde zu einem der meistzitierten der KI-Forschung. Zur ehrlichen Einordnung: Adam ist kein Wundermittel. In manchen Fällen verallgemeinert das schlichtere SGD besser auf neue Daten. Außerdem baut Adam auf Vorläufern wie AdaGrad und RMSProp auf, und spätere Varianten wie AdamW (2017) mussten Schwächen des Originals erst noch ausbessern.

    • 2014 stellten Diederik Kingma und Jimmy Ba den Optimierer Adam vor — der Name leitet sich von Adaptive Moment Estimation ab (kein Akronym).
    • Adam passt die Lernrate für jeden Parameter automatisch an und kombiniert dafür zwei Ideen: Momentum und adaptive Schrittweiten (wie bei RMSProp).
    • Adam wurde zum Standard-Werkzeug für das Training neuronaler Netze — robust und ohne mühsames Feintuning der Lernrate. Das Paper zählt zu den meistzitierten der KI-Forschung.
    • Anti-Hype: Adam ist kein Wundermittel — in manchen Fällen verallgemeinert schlichtes SGD besser. Es baut auf Vorläufern auf (AdaGrad, RMSProp); spätere Varianten wie AdamW (2017) korrigierten Schwächen.
    Personen:
    Diederik Kingma, Jimmy Ba
  64. Jahr 2014Datensätze

    MS COCO: Der Computer Vision Gold-Standard

    2014 veränderte ein Forscherteam um Microsoft Research, die Cornell University und die UC Berkeley mit dem COCO-Dataset (Common Objects in Context) die Computer Vision Forschung erheblich. Anders als ImageNet mit isolierten Objekten zeigte COCO Gegenstände in ihrem natürlichen Kontext - wie sie in der realen Welt auftreten. 2,5 Millionen Annotationen in 328.000 Bildern, gegliedert in 91 Kategorien des Originalpapiers, von denen 80 den bis heute gebräuchlichen Detection-Benchmark bilden - allesamt Alltagsdinge, die ein 4-jähriges Kind erkennen könnte. Die Innovation lag im Detail: Pixel-genaue Segmentierungsmasken statt nur Bounding Boxes. COCO ermöglichte erstmals präzise Objektlokalisierung und komplexe Szenenverständnis. Das Dataset wurde zum Goldstandard für Object Detection, Instance Segmentation und Image Captioning. Von YOLO bis Mask R-CNN - alle großen Computer Vision Modelle werden an COCO gemessen. Die standardisierten Metriken wie mean Average Precision (mAP) machten Modellvergleiche objektiv möglich. Über ein Jahrzehnt später ist COCO immer noch der wichtigste Benchmark der CV-Community. Ohne COCO gäbe es keine modernen Objekterkennungs-Systeme in autonomen Fahrzeugen, Überwachung oder Augmented Reality.

    • Objekte in natürlichem Kontext statt isoliert - veränderte Computer Vision erheblich von künstlichen zu realen Szenen
    • 2,5 Millionen pixel-genaue Annotationen in 328k Bildern - beispiellose Annotationsqualität und -tiefe
    • Goldstandard mit mAP-Metriken für objektive Modellvergleiche - definierte Computer Vision Evaluation
    • Fundament für YOLO, Mask R-CNN und alle modernen CV-Systeme - von autonomen Autos bis AR
    Personen:
    Tsung-Yi Lin, Michael Maire, Serge Belongie
    Organisationen:
    Microsoft Research, Cornell University, UC Berkeley
  65. Jahr 2014Publikationen

    GANs - Generative Adversarial Networks

    Ian Goodfellow erfindet 2014 Generative Adversarial Networks (GANs) während einer Nacht in Montreal nach einem Kneipenbesuch. Sein wegweisendes Framework lässt zwei neuronale Netze in einem Minimax-Spiel gegeneinander antreten: Ein Generator erschafft künstliche Daten, ein Diskriminator versucht echte von gefälschten zu unterscheiden. Dieses adversarielle Training verändert die generative KI grundlegend. Das Ur-GAN von 2014 erzeugte zwar nur kleine, unscharfe Bilder (etwa von Ziffern und Gesichtern), ebnete aber den Weg zur später fotorealistischen Bildgenerierung. Die 2014 auf arXiv veröffentlichte Arbeit wird zu einem der einflussreichsten KI-Papers und macht Goodfellow zur KI-Berühmtheit. Hunderte GAN-Varianten folgen.

    • Zwei neuronale Netze im Minimax-Spiel: Generator vs. Diskriminator
    • Erfunden in einer Nacht 2014 in Montreal nach Kneipenbesuch - funktionierte sofort
    • Mathematisch elegantes Framework für adversarielle Optimierung
    • Verändert generative KI grundlegend - ebnet den Weg zur später fotorealistischen Bildgenerierung
    Personen:
    Ian Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, Yoshua Bengio
    Organisationen:
    University of Montreal, NIPS Conference
  66. Jahr 2014Publikationen

    Attention Mechanism: Der Schlüssel zu modernen LLMs

    September 2014: Dzmitry Bahdanau, Kyunghyun Cho und Yoshua Bengio veröffentlichten ein Paper, das die NLP-Welt nachhaltig verändern sollte. 'Neural Machine Translation by Jointly Learning to Align and Translate' löste ein grundlegendes Problem der Sequence-to-Sequence-Modelle. Bisherige Encoder-Decoder-Architekturen quetschten jeden Eingabesatz in einen einzigen Festlängen-Vektor - ein Informations-Flaschenhals bei langen Sätzen. Die Bahdanau-Attention war ein bedeutender Fortschritt: Statt einem fixen Vektor nutzte das Modell dynamische Aufmerksamkeit auf verschiedene Teile des Eingabesatzes. Wie das menschliche Auge beim Lesen springt die KI-Attention zwischen relevanten Wörtern hin und her. Diese 'Additive Attention' wurde zum konzeptionellen Wegbereiter moderner NLP-Systeme. Der spätere Transformer (2017) baute auf der Attention-Idee auf, ersetzte die additive Variante aber durch effizientere Scaled-Dot-Product-Attention. Ohne Bahdanaus Attention-Konzept keine Transformer, ohne Transformer keine GPT-Familie oder BERT. Dieser Durchbruch ereignete sich drei Jahre vor 'Attention Is All You Need.'

    • Löste Encoder-Decoder Flaschenhals: Variable Satzlängen statt fixer Vektor-Kompression
    • Dynamische Aufmerksamkeit statt statische Kodierung: Adaptive Fokussierung auf relevante Eingabeteile
    • Lernt Alignment zwischen Sprachen: Welche Wörter entsprechen sich beim Übersetzen?
    • Konzeptioneller Wegbereiter der Transformer: Die Attention-Idee von Bahdanau ebnete den Weg zu GPT, BERT und ChatGPT
    Personen:
    Dzmitry Bahdanau, Kyunghyun Cho, Yoshua Bengio
    Organisationen:
    University of Montreal, Jacobs University Bremen
  67. Jahr 2014Produkte

    Amazon Alexa & Echo Launch

    Amazon verändert mit der Vorstellung von Alexa und dem Echo Smart Speaker am 6. November 2014 die Interaktion zwischen Mensch und Technologie erheblich. Der Echo startet zunächst nur auf Einladung und ausschließlich für Prime-Mitglieder; erst mit dem öffentlichen Verkauf 2015 wird Voice AI für breite Verbraucherkreise zugänglich und verwandelt das Zuhause in eine sprachgesteuerte Umgebung. Aufbauend auf der am 24. Januar 2013 erworbenen polnischen Sprachsynthese-Technologie Ivona schafft Amazon ein neuartiges Nutzererlebnis. Der Echo startet als Musiksteuerungsgerät, entwickelt sich aber schnell zum universellen Smart Home Hub. Diese Innovation begründet eine Massenkategorie und markiert den Beginn einer weitreichenden Entwicklung im Smart Speaker Markt, die zahlreiche Konkurrenten inspiriert.

    • Begründet die Massenkategorie Smart Speaker mit permanenter Sprachbereitschaft
    • Macht Voice AI über den öffentlichen Verkauf ab 2015 für Millionen von Verbrauchern zugänglich - nicht nur Tech-Enthusiasten
    • Transformiert Wohnzimmer in sprachgesteuerte Smart Home Zentrale
    • Markiert den Beginn einer weitreichenden Marktentwicklung - Google, Apple und andere folgen
    Personen:
    Jeff Bezos, Amazon Alexa Team
    Organisationen:
    Amazon, Ivona (acquired 2013)
  68. Jahr 2015Durchbrüche

    Deep Q-Networks: KI lernt Atari aus Pixeln

    Rund ein Jahr bevor AlphaGo Schlagzeilen machte, brachte DeepMind 2015 eine KI dazu, Atari-Videospiele allein aus den rohen Bildpunkten zu lernen — und legte damit den Grundstein des Deep Reinforcement Learning. Im Februar 2015 stellte das Team um Volodymyr Mnih in Nature „Human-level control through deep reinforcement learning“ vor (ein erster Vorläufer war 2013 erschienen). Ein neuronales Netz, das nur Bildschirm und Punktestand sah, lernte 49 verschiedene Atari-Spiele — mit derselben Architektur, ohne pro Spiel nachzujustieren. Technisch verband DeepMind ein Faltungsnetz mit Q-Learning, einem Erfahrungs-Speicher (Experience Replay, von Lin Anfang der 1990er eingeführt) und einem stabilisierenden Ziel-Netzwerk. Bei der Einordnung lohnt Präzision: Das System erreichte auf mehr als der Hälfte der Spiele (29 von 49) menschliches Niveau und schlug auf 43 von 49 alle früheren Verfahren — bei Spielen mit seltener Belohnung wie Montezuma's Revenge scheiterte es jedoch fast völlig. Trotzdem war es der Beweis, dass tiefe Netze und Reinforcement Learning im großen Maßstab zusammenpassen — die Brücke vom Q-Learning der 1990er zu AlphaGo und AlphaZero.

    • Lernen aus rohen Pixeln: Das System sah nur Bildschirm und Punktestand — keine handgebauten Merkmale, kein Spezialwissen pro Spiel.
    • Faltungsnetz + Q-Learning + Erfahrungs-Speicher (Experience Replay, von Lin in den frühen 1990ern eingeführt) + ein 2015 ergänztes Ziel-Netzwerk, das das Training stabilisierte.
    • Anti-Hype: menschliches Niveau auf mehr als der Hälfte der 49 Spiele (29) (43/49 besser als frühere Verfahren) — bei seltener Belohnung (Montezuma's Revenge) nahe null.
    • Startschuss des Deep Reinforcement Learning; machte DeepMind vor AlphaGo bekannt — die Brücke vom Q-Learning zu AlphaGo und AlphaZero.
    Personen:
    Volodymyr Mnih, David Silver, Demis Hassabis
    Organisationen:
    Google DeepMind
  69. Jahr 2015Publikationen

    Batch Normalization: Wichtiger Fortschritt im Neural Network Training

    Am 11. Februar 2015 veröffentlichten Sergey Ioffe und Christian Szegedy von Google ein Paper, das das Training tiefer neuronaler Netzwerke nachhaltig veränderte. Ihre Diagnose: der „Internal Covariate Shift“ — die Eingabeverteilung jeder Schicht verschiebt sich während des Trainings, was das Lernen instabil macht. Ihre elegante Lösung: Batch Normalization normalisiert die Aktivierungen jeder Schicht für jeden Mini-Batch. Der Effekt war beachtlich: rund 14x weniger Trainings-Schritte bis zur gleichen Genauigkeit. Höhere Lernraten wurden möglich, Dropout oft überflüssig, die Initialisierung weniger kritisch. Das Verfahren wirkte zugleich als Regularisierer und Beschleuniger. Ihr ImageNet-Ensemble erreichte 4,8% Top-5 Fehlerrate und übertraf damit menschliche Rater (ca. 5,1%). Interessant: Spätere Forschung (Santurkar et al. 2018) zeigte, dass der eigentliche Wirkmechanismus weniger im gebändigten Covariate Shift liegt als in einer geglätteten Verlustlandschaft — die ursprüngliche Erklärung gilt heute also als relativiert. Mit inzwischen weit über 60.000 Zitierungen inspirierte das Paper unzählige Normalisierungsmethoden: GroupNorm, LayerNorm, InstanceNorm. Heute ist Batch Normalization Standard in vielen modernen Architekturen von ResNet bis zu modernen CNNs — Transformer dagegen setzen meist auf die hier mitinspirierte Layer Normalization.

    • Löste Internal Covariate Shift Problem durch Normalisierung der Aktivierungen in jedem Mini-Batch
    • Rund 14x weniger Trainings-Schritte bis zur gleichen Genauigkeit - ermöglichte höhere Lernraten und robuste Initialisierung
    • Doppelter Nutzen: Beschleunigung UND Regularisierung - oft Dropout-Ersatz in modernen Architekturen
    • 4,8% ImageNet Top-5 Error mit Ensemble - übertraf menschliche Rater (ca. 5,1%) und setzte neuen Standard
    Personen:
    Sergey Ioffe, Christian Szegedy
    Organisationen:
    Google Inc., ICML Conference
  70. Jahr 2015Publikationen

    YOLO: You Only Look Once

    Die Transformation der Echtzeit-Objekterkennung durch vereinheitlichte Single-Pass-Architektur. Am 8. Juni 2015 stellten Joseph Redmon, Santosh Divvala, Ross Girshick und Ali Farhadi das wegweisende Paper 'You Only Look Once: Unified, Real-Time Object Detection' vor. YOLO durchbrach das traditionelle zwei-stufige Paradigma der Objekterkennung und formulierte Detection als Regression-Problem für räumlich getrennte Bounding Boxes. Ein einziges neuronales Netzwerk sagt Bounding Boxes und Klassen-Wahrscheinlichkeiten direkt aus vollständigen Bildern in einer einzigen Evaluation vorher. Mit 45 fps Basis-Performance und Fast YOLO bei erstaunlichen 155 fps war das System hunderte bis tausende Male schneller als existierende Detektoren. Die Grid-basierte Architektur teilte Bilder in Zellen auf, wobei jede Zelle Objekte in ihrem Zentrum vorhersagt. YOLO lernte generalisierende Objekt-Repräsentationen und übertraf andere Methoden bei Domain-Transfer erheblich.

    • 45 fps Basis-Performance, Fast YOLO 155 fps – hunderte bis tausende Male schneller als existierende Detektoren
    • Single-Pass-Architektur formuliert Objekterkennung als Regression-Problem statt zwei-stufigem Paradigma
    • Grid-basierte Zell-Aufteilung mit direkter Bounding Box und Klassen-Wahrscheinlichkeits-Vorhersage
    • Ermöglichte Echtzeit-Computer Vision für autonome Fahrzeuge, Überwachung und mobile Anwendungen
    Personen:
    Joseph Redmon, Santosh Divvala, Ross Girshick, Ali Farhadi
    Organisationen:
    University of Washington, Allen Institute, Facebook AI Research
  71. Jahr 2015Durchbrüche

    DeepMind AlphaGo Entwicklung

    Im Oktober 2015 gelingt DeepMind ein historischer Durchbruch: AlphaGo wird das erste KI-System, das einen professionellen Go-Spieler auf einem vollständigen Brett ohne Handicap besiegt. AlphaGo schlägt den europäischen Go-Champion Fan Hui mit 5:0 und erobert damit das komplexeste klassische Brettspiel der Welt – ein Jahrzehnt früher als von Experten vorhergesagt. Das Match bleibt zunächst geheim; öffentlich bekannt gegeben wird der Erfolg erst am 27. Januar 2016, zusammen mit der Veröffentlichung im Fachjournal Nature. Go ist astronomisch komplexer als Schach – grob ein Googol (10^100) mal mehr legale Stellungen, mit mehr möglichen Brettkonfigurationen als Atome im bekannten Universum. Dieser bemerkenswerte Erfolg demonstriert die Macht neuronaler Netzwerke und Monte-Carlo-Baumsuche.

    • Erster Computersieg gegen Profi-Go-Spieler auf vollständigem Brett ohne Handicap (Fan Hui 5:0)
    • Neuartiger Ansatz mit Deep Neural Networks statt hartcodierter Algorithmen
    • Bewältigung von 10^170 möglichen Brettkonfigurationen - mehr als Atome im Universum
    • Durchbruch kam ein Jahrzehnt früher als von KI-Experten prognostiziert
    Personen:
    Demis Hassabis, David Silver, DeepMind Team
    Organisationen:
    DeepMind, Google
  72. Jahr 2015Produkte

    Tesla Autopilot: Assistenzsysteme für den Massenmarkt

    Am 14. Oktober 2015 veröffentlichte Tesla die Software-Version 7.0 und aktivierte damit erstmals den Autopilot für Model S Fahrzeuge. Die Hardware war bereits seit September 2014 in den Fahrzeugen verbaut – ein Jahr vor der Software-Freischaltung. Das System nutzte Mobileye-Technologie mit einer Frontkamera, Radar und 12 Ultraschallsensoren. Fahrer konnten nun adaptive Geschwindigkeitsregelung, Spurhalteassistent und automatisches Einparken nutzen – Funktionen, die zuvor Oberklassefahrzeugen vorbehalten waren. Tesla bezeichnete es als Level 2 Autonomie: Das System unterstützt den Fahrer, ersetzt ihn aber nicht. Musk betonte bei der Freigabe: ‚Wir raten Fahrern, die Hände am Lenkrad zu lassen.‘ Schon im ersten Jahr sammelte die Tesla-Flotte hunderte Millionen Kilometer mit aktivem Autopilot – bis Ende 2016 meldete Tesla rund 222 Millionen gefahrene Meilen. Das Konzept – Hardware vorinstallieren, Features per Software-Update freischalten – zeigte der Automobilindustrie einen neuen Weg. Von Mercedes bis zu reinen Tech-Anbietern wie Mobileye trieben zahlreiche Akteure ihre eigenen Fahrassistenzsysteme voran.

    • Software-Update vom 14. Oktober 2015 aktivierte vorinstallierte Hardware - neues Konzept für die Automobilindustrie
    • Mobileye-basierte Sensorik: Frontkamera, Radar und 12 Ultraschallsensoren für Level 2 Fahrassistenz
    • Adaptive Geschwindigkeitsregelung, Spurhalteassistent und automatisches Einparken - zuvor Oberklasse-Features
    • Hunderte Millionen Kilometer schon im ersten Jahr - zeigte Massenmarkt-Bereitschaft für Fahrassistenzsysteme
    Personen:
    Elon Musk, Tesla Engineering Team
    Organisationen:
    Tesla Inc., Mobileye
  73. Jahr 2015Produkte

    TensorFlow: Googles ML-Framework wird Open Source

    Die Demokratisierung des Machine Learning durch Googles mächtiges internes Werkzeug. Am 9. November 2015 open-sourcte Google TensorFlow unter Apache 2.0-Lizenz und machte ihr zweites ML-System für jedermann verfügbar. TensorFlow ersetzte das interne DistBelief-System und bot doppelte Geschwindigkeit bei verbesserter Skalierbarkeit und Produktionsreife. Als universeller computational flow graph-Prozessor ermöglichte TensorFlow nicht nur Deep Learning, sondern jede differenzierbare Berechnung. Die flexibile Python-Schnittstelle, Auto-Differentiation und erstklassige Optimierer revolutionierten ML-Entwicklung. Googles Strategie: Community-basierte Entwicklung beschleunigt KI-Fortschritt für alle. Mit über 30 Autoren vom Google Brain-Team entwickelt, wurde TensorFlow zu einer der führenden ML-Plattformen und ermöglichte es Millionen von Entwicklern, fortgeschrittene KI-Anwendungen zu erstellen.

    • Apache 2.0-Lizenz machte Googles mächtiges internes ML-System für jedermann frei verfügbar
    • Ersetzte DistBelief mit doppelter Geschwindigkeit und verbesserter Skalierbarkeit
    • Flexible Python-Schnittstelle und Auto-Differentiation verbesserten ML-Entwicklung erheblich
    • Ermöglichte Millionen Entwicklern den Zugang zu fortgeschrittener KI-Technologie
    Personen:
    Martín Abadi, Ashish Agarwal, Paul Barham, Jeff Dean
    Organisationen:
    Google, Google Brain
  74. Jahr 2015Publikationen

    ResNet: Residual Networks revolutionieren Deep Learning

    Die Lösung des Degradationsproblems sehr tiefer Netze und die Geburt ultra-tiefer Netzwerke. Am 10. Dezember 2015 veröffentlichte Kaiming Hes Team bei Microsoft Research das Paper 'Deep Residual Learning for Image Recognition' und veränderte Deep Learning erheblich. Bis dahin verschlechterte sich die Trainingsgenauigkeit, wenn man Netze immer tiefer stapelte - nicht primär wegen verschwindender Gradienten, sondern weil tiefe Netze schlicht schwerer zu optimieren waren. ResNet führte Residual Connections ein - Skip-Verbindungen, die Eingaben direkt an spätere Schichten weiterleiten und das Training ultra-tiefer Netzwerke ermöglichen. Mit 152 Schichten war ResNet achtfach tiefer als VGG, aber weniger komplex. Das bemerkenswerte Ergebnis: 3,57% Top-5-Fehlerrate des Modell-Ensembles auf ImageNet - ein Triumph, der alle Kategorien dominierte. ResNet gewann ImageNet Classification, Detection, Localization sowie COCO Detection und Segmentation 2015. Das Residual Learning-Framework reformulierte Schichten als Lernen von Residual-Funktionen statt unreferenzierter Funktionen. Diese Innovation ermöglichte das Training von Netzwerken mit Hunderten von Schichten.

    • Skip-Verbindungen leiten Eingaben direkt weiter und ermöglichen Training ultra-tiefer Netzwerke
    • 152 Schichten – 8x tiefer als VGG aber weniger komplex durch Residual Learning Framework
    • 3,57% Top-5-Fehlerrate (Ensemble) auf ImageNet, gewann alle 2015 ILSVRC & COCO Kategorien
    • Etablierte Residual Connections als Standard für moderne Deep Learning-Architekturen
    Personen:
    Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun
    Organisationen:
    Microsoft Research
  75. Jahr 2015Meilensteine

    OpenAI wird gegründet

    Die Organisation, die KI für alle zugänglich machen wollte – und die Welt veränderte. Am 11. Dezember 2015 kündigten Sam Altman, Elon Musk und andere prominente Tech-Persönlichkeiten die Gründung von OpenAI an. Mit einer zugesagten Milliarde Dollar – einem über mehrere Jahre verteilten Finanzierungsversprechen der Geldgeber, von dem anfangs nur ein Bruchteil tatsächlich floss – und dem Ziel, sichere allgemeine KI zu entwickeln, die der gesamten Menschheit nützt, betrat OpenAI als gemeinnützige Forschungsorganisation die Bühne. Was als idealistisches Unterfangen begann, entwickelte sich zum einflussreichsten KI-Labor der Welt. 2019 wurde eine gewinnorientierte Tochtergesellschaft gegründet. Mit GPT-3 und ChatGPT definierte OpenAI neu, was KI leisten kann.

    • Gegründet am 11. Dezember 2015 in San Francisco
    • Mission: Sichere allgemeine KI entwickeln, die der gesamten Menschheit nützt
    • Zugesagt: 1 Milliarde Dollar von Elon Musk, Peter Thiel, Reid Hoffman und anderen - ein Finanzierungsversprechen über mehrere Jahre, nicht sofort verfügbar
    • GPT-1 (2018) und GPT-2 (2019) entstanden noch in der reinen Non-Profit-Phase; 2019 folgte die capped-profit-Struktur, in die GPT-3 (2020) und ChatGPT (2022) fallen
    Personen:
    Sam Altman, Elon Musk, Greg Brockman, Ilya Sutskever, Wojciech Zaremba, John Schulman
    Organisationen:
    OpenAI, Y Combinator
  76. Jahr 2016Wettbewerbe

    AlphaGo besiegt Lee Sedol

    Der historische Moment, als KI erstmals einen Weltmeister im komplexesten Brettspiel besiegte. Vom 9. bis 15. März 2016 fand in Seoul das DeepMind Challenge Match statt – fünf Partien zwischen Lee Sedol, einem der weltbesten Go-Spieler, und AlphaGo. Das Ergebnis verblüfte die Welt: 4:1 für die Maschine. Besonders der berühmte 'Zug 37' in Partie zwei demonstrierte maschinelle Kreativität – ein Zug mit einer Wahrscheinlichkeit von 1:10.000, der jahrhundertealte Go-Weisheiten auf den Kopf stellte. AlphaGo kombinierte Deep Learning mit Monte-Carlo-Baumsuche und trainierte sowohl mit menschlichen Partien als auch durch Selbstspiele. Lee Sedols Antwort in Partie vier mit seinem 'göttlichen Zug 78' zeigte jedoch, dass menschliche Intuition noch immer überraschen kann. Über 200 Millionen Menschen verfolgten diese Partien weltweit.

    • AlphaGo besiegte Lee Sedol 4:1 und demonstrierte erstmals KI-Überlegenheit im komplexesten Brettspiel
    • Der berühmte 'Zug 37' mit 1:10.000 Wahrscheinlichkeit zeigte maschinelle Kreativität und stellte Go-Traditionen infrage
    • Kombination aus Deep Learning und Monte-Carlo-Baumsuche ermöglichte das Meistern der Go-Komplexität
    • Über 200 Millionen Menschen verfolgten die Partien – ein Wendepunkt für die öffentliche KI-Wahrnehmung
    Personen:
    Lee Sedol, Demis Hassabis, David Silver, Aja Huang
    Organisationen:
    DeepMind, Google, Korean Baduk Association
  77. Jahr 2016Publikationen

    XGBoost: Extreme Gradient Boosting dominiert ML

    Die Perfektionierung des Gradient Boosting und die Eroberung strukturierter Daten-Probleme. Am 9. März 2016 veröffentlichten Tianqi Chen und Carlos Guestrin auf arXiv das Paper XGBoost: A Scalable Tree Boosting System, präsentiert im August 2016 auf der KDD-Konferenz. Aus Chens PhD-Projekt an der University of Washington entwickelt, verbesserte XGBoost traditionelles Gradient Boosting durch extreme Optimierungen erheblich: L1- und L2-Regularisierung verhinderten Overfitting, Second-Order-Gradients lieferten präzisere Richtungsinformationen, und Parallelisierung beschleunigte Tree-Construction erheblich. XGBoost dominierte Machine Learning-Wettbewerbe der 2010er und wurde zur Standard-Wahl für Gewinner-Teams auf Kaggle. Bei der Higgs Boson ML Challenge gewann Tianqi Chen einen Spezialpreis und XGBoost wurde von vielen Top-Teilnehmern eingesetzt, was seine Dominanz bei strukturierten Daten etablierte. Das skalierbare End-to-End Tree Boosting System unterstützt C++, Java, Python, R und weitere Sprachen. XGBoost bewies die anhaltende Relevanz traditioneller ML-Methoden parallel zur Deep Learning-Revolution.

    • Extreme Optimierung von Gradient Boosting mit L1/L2-Regularisierung und Second-Order-Gradients
    • Dominierte ML-Wettbewerbe der 2010er und wurde Standard-Wahl für Kaggle-Gewinner-Teams
    • Parallelisierte Tree-Construction und skalierbare End-to-End-Architektur für große Datensätze
    • Go-to-Algorithmus für strukturierte Daten parallel zur Deep Learning-Revolution
    Personen:
    Tianqi Chen, Carlos Guestrin
    Organisationen:
    University of Washington
  78. Jahr 2016Produkte

    Google Assistant: KI-First Strategie wird Realität

    Am 18. Mai 2016 stellte Sundar Pichai auf der Google I/O den Google Assistant vor - Googles Antwort auf Siri und Alexa. Nach Jahren des Rückstands im Voice-Assistant-Bereich holte Google mit voller Kraft auf. Der Assistant war mehr als ein Upgrade von Google Now - er war das Fundament von Pichais „AI-First“ Strategie. „Wir wollen, dass Nutzer einen kontinuierlichen Dialog mit Google führen“, erklärte Pichai. „Wir bauen für jeden Nutzer sein eigenes individuelles Google.“ Der Assistant sollte ein „ambient experience“ werden, das sich über alle Geräte erstreckt - von Smartphones über Google Home bis zu Autos. Im Gegensatz zu kommandobasierten Konkurrenten setzte Google auf natürliche Konversation und Kontextverständnis. Zunächst war der Assistant nur angekündigt; sein erstes Zuhause wurde wenige Monate später die Messaging-App Allo, gefolgt vom Lautsprecher Google Home Ende 2016. Der Launch markierte Googles ernsthaften Einstieg in die Voice-AI-Entwicklung und legte den Grundstein für die heutige KI-Dominanz des Unternehmens.

    • Natürliche Konversation statt Kommandos - 'kontinuierlicher Dialog' als Ziel für Voice-AI
    • Fundament von Pichais AI-First Strategie - 'individuelles Google' für jeden Nutzer
    • Ambient Experience Vision - nahtlose KI-Interaktion über alle Geräte und Plattformen hinweg
    • Googles Aufholjagd gegen Siri und Alexa - vom Nachzügler mit dem Ziel, in der Voice-AI vorne mitzuspielen
    Personen:
    Sundar Pichai, Google Assistant Team
    Organisationen:
    Google Inc., Google I/O Conference
  79. Jahr 2016Organisationen

    Partnership on AI: Tech-Giganten vereinen sich

    Eine bedeutende Allianz führender Tech-Unternehmen für verantwortliche KI-Entwicklung. Am 28. September 2016 gründeten Amazon, Facebook, Google, DeepMind, IBM und Microsoft die ‚Partnership on Artificial Intelligence to Benefit People and Society‘ – eine ungewöhnliche Koalition ehemaliger Konkurrenten. Mit Eric Horvitz (Microsoft Research) und Mustafa Suleyman (DeepMind) als Interim-Co-Chairs startete die Partnership zunächst mit einem rein corporate besetzten Board und kündigte an, ihn zu einem paritätischen Gremium mit ebenso vielen Non-Corporate-Mitgliedern auszubauen. Die Mission umfasst Forschung und Best Practices zu Ethik, Fairness, Transparenz, Datenschutz und Mensch-KI-Kollaboration. Bemerkenswert: Apple fehlte zunächst, trat aber 2017 bei. Die Partnership verzichtet bewusst auf Lobby-Aktivitäten und fokussiert auf Forschungskooperation. Diese Initiative markierte den Beginn strukturierter Industrie-Selbstregulierung in der KI-Entwicklung.

    • Bedeutende Allianz von Amazon, Facebook, Google, DeepMind, IBM und Microsoft für KI-Ethik
    • Mission: KI zum Nutzen von Menschen und Gesellschaft durch Ethik, Fairness und Transparenz
    • Geplant paritätischer Board: zum Start corporate besetzt, später ergänzt um ebenso viele Non-Corporate-Mitglieder
    • Fokus auf Forschungskooperation und Best Practices ohne Lobby-Aktivitäten
    Personen:
    Mustafa Suleyman, Eric Horvitz, Partnership Team
    Organisationen:
    Amazon, Apple, Facebook, Google, IBM, Microsoft
  80. Jahr 2016Durchbrüche

    Spracherkennung erreicht Mensch-Level

    Am 18. Oktober 2016 gelang Microsoft ein historischer Erfolg: Als erstes Unternehmen erreichte ihr Spracherkennungssystem Mensch-Level-Performance auf dem Switchboard-Benchmark für konversationelle Sprache. Nach 25 Jahren Forschung war das Ziel erreicht - 5,9% Wortfehlerrate, genauso gut wie professionelle Transkriptoren auf dieser Aufgabe. (2017 korrigierte Microsoft die menschliche Vergleichsrate auf 5,1% und musste erneut nachziehen.) Xuedong Huang, Microsofts Chief Speech Scientist, verkündete: 'Wir haben Mensch-Parität erreicht. Das ist eine historische Errungenschaft.' Das System nutzte die neueste Deep Learning Technologie: Convolutional Neural Networks, LSTM-Architekturen und neuronale Sprachmodelle mit kontinuierlichen Wortvektoren. Die Stärke lag in der systematischen Kombination bewährter Bausteine - ein Ensemble aus CNN- und BLSTM-Akustikmodellen, i-vector-Sprecheradaption und Rescoring per Sprachmodell. Dies wurde möglich durch die Konvergenz dreier Entwicklungen: große Datensätze (Switchboard Corpus), GPU-Computing und verbesserte Training-Methoden. Diese Errungenschaft ebnete den Weg für moderne Voice-Assistenten - allerdings belegt sie Parität nur bei einer eng definierten Transkriptions-Aufgabe, nicht allgemeine menschliche kognitive Fähigkeiten.

    • 5,9% Wortfehlerrate erreicht Mensch-Level auf Switchboard: genauso gut wie professionelle Transkriptoren
    • Historischer Meilenstein: Niedrigste jemals gemessene Fehlerrate im Switchboard-Standard
    • CNN + LSTM + neuronale Sprachmodelle: Systematische Kombination modernster Deep Learning Technologie
    • 25-jähriges Forschungsziel erreicht: Mensch-Parität bei einer eng definierten Transkriptions-Aufgabe
    Personen:
    Xuedong Huang, Microsoft AI Research Team
    Organisationen:
    Microsoft AI and Research, Switchboard Corpus
  81. Jahr 2017Regulierung

    Asilomar-Prinzipien: Die Fachwelt gibt sich Leitplanken

    Anfang 2017, lange vor ChatGPT, trafen sich führende KI-Forscher in Asilomar an der kalifornischen Küste — am selben Ort, an dem Biologen 1975 über die Risiken der Gentechnik beraten hatten. Eingeladen hatte das Future of Life Institute zur Konferenz für nützliche KI. Das Ergebnis waren die 23 Asilomar-KI-Prinzipien: Leitlinien zu Forschung, zu Werten wie Sicherheit und Transparenz und zu langfristigen Risiken. Über tausend KI-Fachleute und prominente Unterzeichner wie Stephen Hawking und Elon Musk stellten sich dahinter. Es war einer der ersten breiten Versuche der Fachwelt, sich selbst Leitplanken zu geben — Jahre bevor Regierungen das Thema entdeckten. Zur ehrlichen Einordnung: Die Prinzipien waren freiwillig und unverbindlich. Sie prägten die Debatte, hatten aber keine rechtliche Kraft.

    • Januar 2017: Das Future of Life Institute versammelte führende KI-Forscher in Asilomar (Kalifornien) — am Ort der historischen Gentechnik-Konferenz von 1975.
    • Ergebnis: die 23 Asilomar-KI-Prinzipien zu Forschung, Werten (Sicherheit, Transparenz) und Langzeitrisiken — eine der ersten breiten Selbstverpflichtungen der Fachwelt.
    • Über tausend KI-Forscher und weitere Unterzeichner (u. a. Stephen Hawking, Elon Musk) — früher Konsens, dass KI dem Gemeinwohl dienen soll.
    • Anti-Hype: Die Prinzipien waren freiwillig und unverbindlich — wegweisend als Diskussionsrahmen, aber ohne Durchsetzung.
    Personen:
    Stephen Hawking, Elon Musk
    Organisationen:
    Future of Life Institute
  82. Jahr 2017Meilensteine

    Second Brain: Eine alte Idee bekommt einen Namen

    Im Januar 2017 lief zum ersten Mal ein Online-Kurs mit dem Titel "Building a Second Brain". Tiago Forte verkaufte darin keine Erfindung, sondern eine Verpackung: Notizen, Lesezeichen und Textschnipsel wandern in einen digitalen Speicher, der wie ein zweites Gedächtnis benutzt wird. Was der Kurs wirklich beisteuerte, war ein Name, der sich verbreitete, und ein Vier-Schritt-Verfahren namens CODE - Capture, Organize, Distill, Express. Belegt ist das Startdatum durch Fortes eigene Rückschau vom 31. Januar 2022, in der er schreibt, seit der allerersten Kohorte seien exakt fünf Jahre vergangen und rund 5.000 Menschen hätten den Kurs belegt. Geprägt hat er den Begriff dagegen nicht, und ein eigener Prägungsanspruch ist auch nicht dokumentiert: Niklas Luhmann nannte seinen Zettelkasten schon 1981 ein "Zweitgedächtnis, ein Alter ego", und "The Second Brain" war 1998 der Titel eines Sachbuchs über das Nervensystem im Darm. Für eine KI-Chronik gehört der Moment trotzdem hierher, denn er übt in aller Ruhe ein, was wenig später zur Pflichtübung wird: Wissen bewusst nach draußen legen, damit es später wiedergefunden werden kann. Sprachmodelle und Agenten brauchen genau diese Bauweise, weil sie sich zwischen zwei Sitzungen selbst nichts merken.

    • Die erste Kohorte des Kurses "Building a Second Brain" lief im Januar 2017. Beleg ist Fortes eigener Rückblick vom 31. Januar 2022: seither seien exakt fünf Jahre vergangen, rund 5.000 Menschen hätten teilgenommen.
    • CODE steht für Capture, Organize, Distill, Express - Sammeln, Ordnen, Eindampfen, Ausdrücken. Forte beschreibt es als Verfahren, aus Gelesenem eigene Ergebnisse zu machen. Die ersten beiden Schritte sind bequem, die letzten beiden sind die Arbeit.
    • Benannt und bekannt gemacht, nicht erfunden: Luhmann schrieb 1981 vom "Zweitgedächtnis", und "The Second Brain" hieß 1998 ein Buch über den Darm. Neu war 2017 das Etikett, nicht die Praxis.
    • 2026 formuliert Forte die Methode auf KI um: "Personal Context Management is replacing Personal Knowledge Management." Der Engpass sei nicht mehr die Fähigkeit der KI, sondern die Frage, welche Information ein Modell wann zu sehen bekommt.
    Personen:
    Tiago Forte
    Organisationen:
    Forte Labs
  83. Jahr 2017Publikationen

    MobileNet - KI für Smartphones

    Google Research verändert im April 2017 Mobile KI erheblich mit MobileNet, einem der frühen Deep-Learning-Modelle, das gezielt für Smartphones, IoT und eingebettete Systeme entworfen wurde (Vorläufer wie SqueezeNet gab es bereits). Durch die innovative Depthwise Separable Convolution-Architektur senkt MobileNet den Rechenaufwand bei gleicher Effektivität auf etwa ein Achtel herkömmlicher Convolutions. Diese bemerkenswerte Effizienz – rund neunmal weniger Rechenoperationen bei 3×3-Kerneln – ebnet den Weg für Echtzeit-Bildverarbeitung auf mobilen Geräten. MobileNet demokratisiert Computer Vision für Milliarden von Smartphones und etabliert Edge Computing als neues KI-Paradigma jenseits Cloud-basierter Lösungen.

    • Eines der frühen Deep-Learning-Modelle, gezielt für Smartphones und IoT-Geräte entworfen
    • Depthwise Separable Convolutions: rund neunmal weniger Rechenaufwand bei gleicher Effektivität
    • Ermöglicht KI-Verarbeitung direkt auf Geräten statt in der Cloud - Edge Computing
    • Senkt den Rechenaufwand auf etwa ein Achtel herkömmlicher Convolutions bei vergleichbarer Genauigkeit
    Personen:
    Andrew Howard, Menglong Zhu, Bo Chen, Google Research Team
    Organisationen:
    Google, Google Research
  84. Jahr 2017Publikationen

    RLHF-Forschungspapier veröffentlicht

    Die Technik, die ChatGPT möglich machte – Jahre vor dem Durchbruch. Im Juni 2017 veröffentlichten Forscher von OpenAI und DeepMind das Paper 'Deep Reinforcement Learning from Human Preferences'. Die Idee: Statt KI-Systeme mit perfekt definierten Belohnungsfunktionen zu trainieren, lernen sie direkt aus menschlichem Feedback. Menschen bewerten verschiedene KI-Ausgaben, und das System lernt, welches Verhalten bevorzugt wird. Diese Methode, später als RLHF (Reinforcement Learning from Human Feedback) bekannt, wurde zur Schlüsseltechnologie hinter ChatGPT und anderen modernen Sprachmodellen. RLHF ermöglichte es, KI-Systeme hilfreicher, ehrlicher und sicherer zu machen.

    • Paper 'Deep Reinforcement Learning from Human Preferences' veröffentlicht im Juni 2017
    • Kernidee: KI lernt aus menschlichen Präferenzen statt aus vordefinierten Belohnungen
    • Gemeinsame Forschung von OpenAI und DeepMind, u.a. Paul Christiano und Dario Amodei
    • RLHF wurde zur Schlüsseltechnologie für ChatGPT und moderne KI-Assistenten
    Personen:
    Paul Christiano, Jan Leike, Dario Amodei, Tom Brown
    Organisationen:
    OpenAI, DeepMind
  85. Jahr 2017Publikationen

    Transformer: 'Attention Is All You Need'

    Am 12. Juni 2017 veröffentlichten acht Forscher – überwiegend bei Google, darunter ein Praktikant der University of Toronto – auf arXiv das Paper ‚Attention Is All You Need‘ – die Grundlage moderner Large Language Models. Ashish Vaswani, Noam Shazeer und Kollegen schlugen eine neue Architektur vor: den Transformer. Anders als bisherige Sequenzmodelle verzichtet der Transformer auf rekurrente und faltende Schichten. Stattdessen nutzt er reine Attention-Mechanismen. Die Self-Attention erfasst Beziehungen zwischen allen Positionen einer Sequenz parallel – keine sequenzielle Verarbeitung mehr nötig. Multi-Head Attention verwendet mehrere parallele Attention-Köpfe, die unterschiedliche Aspekte von Wortbeziehungen lernen. Auf WMT 2014 erreichte das Modell 28,4 BLEU für Englisch-Deutsch und 41,8 BLEU für Englisch-Französisch – neue Bestwerte. Die Architektur erwies sich als weitreichend: GPT, BERT, ChatGPT und viele weitere Modelle basieren auf Transformer-Varianten. Mit weit über 100.000 Zitierungen – Tendenz stetig steigend – gehört das Paper zu den meistzitierten des 21. Jahrhunderts.

    • Self-Attention-Mechanismus erfasst Abhängigkeiten zwischen allen Sequenzpositionen gleichzeitig
    • Verzicht auf Rekurrenz ermöglicht parallele Verarbeitung – deutlich schneller als sequenzielle Modelle
    • 28,4 BLEU WMT Englisch-Deutsch, 41,8 BLEU Englisch-Französisch – neue Translation-Standards
    • Wurde zur Grundlage aller modernen LLMs: GPT, BERT, ChatGPT basieren auf Transformer-Architektur
    Personen:
    Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Łukasz Kaiser, Illia Polosukhin
    Organisationen:
    Google Brain, Google Research
  86. Jahr 2017Regulierung

    Chinas KI-Masterplan: Der Kampf um die Weltführerschaft

    Am 20. Juli 2017 verkündete Chinas Staatsrat den 'New Generation Artificial Intelligence Development Plan' - die erste umfassende nationale KI-Strategie dieser Größenordnung. Das Ziel: Bis 2030 zur weltweiten KI-Führungsmacht werden. Der Drei-Stufen-Plan war kristallklar: 2020 global konkurrenzfähig, 2025 weltführendes Niveau in einzelnen Teilbereichen und große Durchbrüche in der KI-Grundlagentheorie, 2030 dann die führende KI-Supermacht mit 1 Billion Yuan Industrie-Output. China erkannte KI explizit als 'Fokus internationaler Konkurrenz' und 'strategische Technologie für nationale Sicherheit.' Die Investitionen sind erheblich - Dutzende Milliarden Dollar fließen in Forschung, Infrastruktur und Talentförderung. Der Plan umfasst militärische und zivile Anwendungen: von autonomen Waffen bis Smart Cities. Open-Source-Prinzipien sollen internationale Zusammenarbeit fördern, während China gleichzeitig technologische Unabhängigkeit anstrebt. Diese Strategie veränderte die globale KI-Landschaft erheblich und löste eine Welle nationaler KI-Initiativen in USA und Europa aus.

    • Erste nationale KI-Strategie dieser Größenordnung: Koordinierte Regierungsplanung für globale Technologieführerschaft
    • Drei-Stufen-Timeline: 2020 konkurrenzfähig, 2025 weltführend in Teilbereichen, 2030 führende KI-Supermacht
    • Billionen-Yuan-Investment: Massive staatliche Finanzierung in KI-Forschung, Infrastruktur und Talente
    • Weltführerschafts-Ambition: Startschuss für globalen KI-Wettlauf zwischen China, USA und Europa
    Personen:
    State Council of China, Chinese AI Research Community
    Organisationen:
    State Council of China, Chinese Academy of Sciences
  87. Jahr 2017Regulierung

    Montreal-Deklaration für verantwortliche KI

    Die erste internationale Initiative, die ethische KI-Prinzipien durch demokratische Bürgerbeteiligung erarbeitete. Am 3. November 2017 startete die Université de Montréal den Mitgestaltungsprozess für die Montreal-Deklaration zur verantwortlichen KI-Entwicklung. Das Forum zur gesellschaftlich verantwortlichen KI-Entwicklung versammelte über 400 Teilnehmer verschiedener Sektoren und Disziplinen. In 15 Deliberations-Workshops über drei Monate diskutierten über 500 Bürger, Experten und Stakeholder gesellschaftliche Herausforderungen der KI. Die am 4. Dezember 2018 veröffentlichte Deklaration präsentiert 10 Prinzipien und 59 Empfehlungen basierend auf Werten wie Wohlbefinden, Autonomie, Gerechtigkeit, Privatsphäre und Demokratie. Mit über 500 Unterzeichnern etablierte die Montreal-Deklaration einen partizipativen Ansatz für KI-Governance und beeinflusste spätere internationale Bemühungen um verantwortliche KI-Entwicklung.

    • 10 ethische Prinzipien und 59 Empfehlungen für verantwortliche KI-Entwicklung mit demokratischer Legitimität
    • Fokus auf Wohlbefinden, Autonomie, Gerechtigkeit, Privatsphäre, Demokratie und ökologische Nachhaltigkeit
    • Von Université de Montréal initiiert mit über 400 Teilnehmern aus verschiedenen Sektoren
    • Über 500 Unterzeichner, beeinflusste internationale KI-Governance und spätere Regulierungsinitiativen
    Personen:
    Yoshua Bengio, Montreal AI Ethics Team
    Organisationen:
    Université de Montréal, Montreal Institute for Learning Algorithms
  88. Jahr 2017Durchbrüche

    AlphaZero beherrscht drei Spiele

    Die Geburt einer universellen Spiel-KI durch reines Selbstlernen. Im Dezember 2017 präsentierte DeepMind AlphaZero – ein System, das ohne jegliches Vorwissen drei völlig verschiedene Strategiespiele meisterte: Schach, Shogi und Go. Der Tabula-rasa-Ansatz bedeutete: Keine Eröffnungsdatenbanken, keine menschlichen Strategien, nur die Spielregeln als Ausgangspunkt. Innerhalb von 24 Stunden erreichte AlphaZero übermenschliche Leistung – in Schach nach nur 4 Stunden, in Shogi nach 2 Stunden. Im 100-Partien-Match gegen Stockfish gewann es 28 Partien, verlor keine einzige und erreichte 72 Unentschieden. Die Besonderheit lag im effizienten Suchverhalten: Während Stockfish 70 Millionen Positionen pro Sekunde evaluiert, analysiert AlphaZero nur 80.000 – aber wesentlich gezielter durch sein Deep Neural Network. Diese Leistung demonstrierte eindrucksvoll die Verallgemeinerbarkeit und Domänen-Unabhängigkeit des reinen Reinforcement Learning.

    • Lernte drei komplexe Spiele völlig von null – nur mit Spielregeln, ohne menschliches Vorwissen oder Datenbanken
    • Erreichte in Schach (4h), Shogi (2h) und Go (~8h) übermenschliche Leistung durch reines Selbstspiel
    • Lernte durch Millionen von Selbstspiel-Partien und Reinforcement Learning ohne externe Eingaben
    • Evaluierte nur 80.000 Positionen pro Sekunde vs. Stockfishs 70 Millionen – aber wesentlich gezielter
    Personen:
    David Silver, Thomas Hubert, Julian Schrittwieser, Ioannis Antonoglou
    Organisationen:
    DeepMind, Google, Science Magazine, ArXiv
  89. Jahr 2018Meilensteine

    Turing Award für Deep Learning

    2019 erhielt die KI ihre höchste Auszeichnung der Informatik: Der A.M. Turing Award 2018 — oft als Nobelpreis der Informatik bezeichnet — ging an Yoshua Bengio, Geoffrey Hinton und Yann LeCun, die drei Paten des Deep Learning. Die ACM würdigte ihre konzeptionellen und technischen Durchbrüche, die tiefe neuronale Netze zu einem zentralen Baustein der Informatik gemacht haben — von Backpropagation über Faltungsnetze bis zu den Ideen, die den Durchbruch von 2012 trugen. Die Auszeichnung war der späte, offizielle Ritterschlag einer Revolution, die jahrzehntelang belächelt worden war. Zur ehrlichen Einordnung: Deep Learning hat viele Väter und Mütter — Forscher wie Jürgen Schmidhuber kritisierten öffentlich, dass wichtige Beiträge zu wenig gewürdigt würden. Der Preis ehrt die zentrale Rolle des Trios, nicht eine alleinige Urheberschaft.

    • Yoshua Bengio, Geoffrey Hinton und Yann LeCun — die drei Paten des Deep Learning — für die Durchbrüche hinter den modernen neuronalen Netzen.
    • Der A.M. Turing Award (verkündet März 2019) ist die höchste Auszeichnung der Informatik; gewürdigt wurden tiefe neuronale Netze als zentraler Baustein des Rechnens.
    • Der offizielle Ritterschlag der Deep-Learning-Revolution von 2012 — und Vorbote des Physik-Nobelpreises 2024 für dieselbe Forschungslinie.
    • Anti-Hype: Deep Learning hat viele Beitragende (etwa Schmidhuber, der öffentlich kritisierte); der Preis ehrt die zentrale Rolle des Trios, keine alleinige Urheberschaft.
    Personen:
    Yoshua Bengio, Geoffrey Hinton, Yann LeCun
    Organisationen:
    ACM
  90. Jahr 2018Regulierung

    GDPR: Datenschutz-Wendepunkt mit KI-Impact

    Seit dem 25. Mai 2018 gilt die EU-Datenschutz-Grundverordnung (GDPR/DSGVO) - ein Wendepunkt für KI und Datenschutz weltweit. Als „Mutter aller Datenschutzgesetze“ ersetzte sie die veraltete Richtlinie 95/46/EG von 1995 aus dem Internet-Steinzeitalter. GDPR führte „Privacy by Design“ als Pflicht ein: Datenschutz muss von Anfang an in KI-Systeme eingebaut werden. Die globale Reichweite war enorm - auch US-Tech-Giganten müssen sich an EU-Standards halten, wenn sie europäische Daten verarbeiten. Für KI bedeutete das eine fundamentale Herausforderung: Wie erklärt man „Black-Box“-Algorithmen, wenn GDPR Transparenz verlangt? Beobachter sahen einen Anreiz, KI tendenziell datensparender zu entwickeln, und Methoden wie Transfer Learning gewannen an Bedeutung. GDPR inspirierte weltweite Datenschutzgesetze von Kalifornien bis Brasilien. Die Verordnung bereitete den Boden für den EU AI Act 2024 - von Datenschutz zu KI-Regulierung war es nur ein logischer Schritt.

    • Privacy by Design Pflicht: Datenschutz muss von Anfang an in KI-Systeme integriert werden
    • KI-Transparenz-Herausforderung: Black Box Algorithmen vs. GDPR Erklärbarkeits-Anforderungen
    • Globale Reichweite: Auch US-Tech-Konzerne müssen EU-Standards bei europäischen Daten befolgen
    • Regulierungs-Blaupause: Inspirierte weltweite Datenschutzgesetze und ebnete Weg zum EU AI Act
    Personen:
    EU Parliament, European Commission
    Organisationen:
    European Union, European Parliament
  91. Jahr 2018Publikationen

    GPT-1: Geburt des Generative Pre-Training

    Die Grundlage aller modernen Large Language Models durch unsupervised Pre-Training. Am 11. Juni 2018 veröffentlichte Alec Radford mit seinem OpenAI-Team das wegweisende Paper „Improving Language Understanding by Generative Pre-Training“. Diese Arbeit kombinierte erstmals Transformer-Architektur mit unsupervised Pre-Training und etablierte das zweistufige Paradigma: erst generatives Training auf großen Textkorpora, dann Fine-Tuning für spezifische Aufgaben. Mit 117 Millionen Parametern und Training auf dem BooksCorpus-Datensatz mit über 7.000 unveröffentlichten Büchern verschiedener Genres bewies GPT-1, dass Transfer Learning für Sprachverständnis funktioniert. Die zwölfschichtige Decoder-Only-Transformer-Architektur mit masked self-attention legte das Template für die gesamte GPT-Serie. Diese Innovation machte aus der Transformer-Architektur von 2017 ein praktikables Werkzeug für vielfältige NLP-Aufgaben und begründete die Ära der Large Language Models.

    • Etablierte unsupervised Pre-Training auf großen Textkorpora als Grundlage für Sprachmodelle
    • Bewies erfolgreiche Anwendung von Transfer Learning für vielfältige NLP-Aufgaben
    • Zwölfschichtige Decoder-Only-Transformer-Architektur wurde Template für gesamte GPT-Serie
    • Begründete die Ära der Large Language Models und das Pre-Training-Fine-Tuning-Paradigma
    Personen:
    Alec Radford, Karthik Narasimhan, Tim Salimans, Ilya Sutskever
    Organisationen:
    OpenAI
  92. Jahr 2018Publikationen

    BERT verbessert Sprachverständnis erheblich

    Ein wichtiger Fortschritt der bidirektionalen Sprachmodelle und die Geburt des modernen NLP. Im Oktober 2018 veröffentlichten Jacob Devlin und sein Team bei Google Research das Paper zu BERT – Bidirectional Encoder Representations from Transformers. Diese Innovation veränderte die Sprachverarbeitung erheblich, indem sie erstmals tiefe bidirektionale Repräsentationen aus unmarkierten Texten trainierte. Im Gegensatz zu vorherigen Modellen berücksichtigt BERT sowohl linken als auch rechten Kontext in allen Schichten gleichzeitig. Das Ergebnis war bemerkenswert: BERT erreichte neue Bestwerte in elf NLP-Aufgaben und verbesserte den GLUE-Score um beachtliche 7,7 Prozentpunkte auf 80,5%. Das eigentliche Pre-Training verschlang zwar mehrere Tage auf vielen TPUs — doch die Open-Source-Veröffentlichung demokratisierte Spitzentechnologie: Das fertig vortrainierte Modell ließ sich auf einer einzelnen Cloud-TPU in höchstens etwa einer Stunde an die eigene Aufgabe feinjustieren (Fine-Tuning). Kurz zuvor hatten ULMFiT und OpenAIs erstes GPT das Pre-Training-Fine-Tuning-Paradigma vorgemacht; BERT machte es zum Standard, und es bildet bis heute die Grundlage aller großen Sprachmodelle.

    • Erstes tiefes bidirektionales Sprachmodell das linken und rechten Kontext gleichzeitig in allen Schichten berücksichtigt
    • Erreichte neue Bestwerte in 11 NLP-Aufgaben und verbesserte den GLUE-Score um 7,7 Prozentpunkte auf 80,5%
    • Open-Source-Veröffentlichung ermöglichte das Fine-Tuning des vortrainierten Modells an eigene Aufgaben in höchstens etwa einer Stunde auf einer einzelnen Cloud-TPU
    • Etablierte das Pre-Training-Fine-Tuning-Paradigma für alle modernen Sprachmodelle
    Personen:
    Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova
    Organisationen:
    Google Research, Google AI Language
  93. Jahr 2019Publikationen

    GPT-2 - "Zu gefährlich zur Veröffentlichung"

    OpenAI veröffentlicht im Februar 2019 GPT-2, entscheidet aber überraschend, das vollständige 1,5-Milliarden-Parameter-Modell zurückzuhalten - angeblich "zu gefährlich" für eine vollständige Veröffentlichung. Diese beispiellose Entscheidung spaltet die KI-Community: Befürworter loben die verantwortungsvolle Haltung angesichts von Missbrauchsrisiken wie Fake News und automatisiertem Spam. Kritiker werfen OpenAI vor, die Forschung zu "verschließen" und unbegründete Ängste zu schüren. Nach neun Monaten ohne starke Missbrauchsbelege gibt OpenAI das vollständige Modell frei und markiert einen Wendepunkt in der Debatte um verantwortungsvolle KI-Entwicklung.

    • Beispiellose Entscheidung: OpenAI hält vollständiges 1,5B-Parameter-Modell zurück
    • Befürchtungen vor Fake News, Identitätsmissbrauch und automatisiertem Social Media-Spam
    • KI-Community gespalten: Ethik-Fortschritt vs. Vorwurf der Forschungsverschließung
    • Nach 9 Monaten vollständige Freigabe mangels Missbrauchsbelegen
    Personen:
    Alec Radford, Jeffrey Wu, Rewon Child, David Luan
    Organisationen:
    OpenAI
  94. Jahr 2019Wettbewerbe

    AlphaStar erreicht Grandmaster-Level

    Die Eroberung der komplexesten Echtzeit-Strategie durch künstliche Intelligenz. Im Juli und August 2019 trat DeepMinds AlphaStar anonym im Ranglisten-Modus auf Battle.net an; am 30. Oktober 2019 berichtete DeepMind in der Fachzeitschrift Nature, dass das System als erste KI das Grandmaster-Level in StarCraft II erreicht hatte – einem Spiel, das als zu komplex für Maschinen galt. AlphaStar rangierte über 99,8% aller aktiven Battle.net-Spieler und beherrschte alle drei Völker: Protoss, Terran und Zerg. Zuvor hatte AlphaStar bereits die Profispieler Grzegorz 'MaNa' Komincz und Dario 'TLO' Wünsch jeweils 5:0 besiegt. Die Besonderheit lag in der Multi-Agent Reinforcement Learning-Architektur, die verschiedene Strategien und Gegenstrategien in einer Liga trainierte. In den Partien gegen MaNa und TLO lag AlphaStar mit durchschnittlich rund 280 Aktionen pro Minute sogar unter menschlichen Profis, bewies aber präzisere Ausführung. Diese Leistung markierte einen Meilenstein für KI in Videospielen und Echtzeit-Entscheidungen.

    • AlphaStar erreichte Grandmaster-Level bei allen drei StarCraft II-Völkern und rangierte über 99,8% aller Battle.net-Spieler
    • Besiegte die Profispieler MaNa und TLO jeweils 5:0 vor dem öffentlichen Erfolg
    • Multi-Agent Reinforcement Learning mit Liga-basiertem Training verschiedener Strategien und Gegenstrategien
    • Erste KI die ein populäres Esports-Spiel ohne Einschränkungen auf höchstem Niveau beherrschte
    Personen:
    Oriol Vinyals, Igor Babuschkin, Wojciech Czarnecki, Grzegorz Komincz, Dario Wünsch
    Organisationen:
    DeepMind, Team Liquid, Blizzard Entertainment, Battle.net
  95. Jahr 2019Publikationen

    T5 - Text-to-Text Transfer Transformer

    Google AI verändert im Oktober 2019 NLP erheblich mit T5, dem Text-to-Text Transfer Transformer, der alle Sprachverarbeitungsaufgaben in ein einheitliches "Text-zu-Text"-Format verwandelt. Mit dem innovativen Ansatz "Everything is Text" können Übersetzung, Zusammenfassung, Fragebeantwortung und Klassifikation mit demselben Modell, derselben Loss-Funktion und denselben Hyperparametern bewältigt werden. T5 führt das umfassende C4-Dataset ein und erreicht nahezu menschliche Leistung auf SuperGLUE-Benchmarks. Als Foundation Model mit bis zu 11 Milliarden Parametern ebnet T5 den Weg für moderne Large Language Models und etabliert das einheitliche Text-zu-Text-Paradigma als Standard.

    • Innovativer einheitlicher Ansatz: Alle NLP-Aufgaben als Text-zu-Text-Problem
    • "Everything is Text" - Paradigma vereinheitlicht Übersetzung, Zusammenfassung, Q&A
    • Etabliert Foundation Model Paradigma für moderne Large Language Models
    • Führt umfangreiches C4-Dataset ein - Colossal Clean Crawled Corpus
    Personen:
    Colin Raffel, Noam Shazeer, Adam Roberts, Katherine Lee
    Organisationen:
    Google AI, Google Research
  96. Jahr 2020Publikationen

    RAG: Sprachmodelle schlagen erst nach

    Ein Sprachmodell weiß nur, was in seinem Training steckte — und erfindet im Zweifel selbstbewusst etwas dazu. 2020 zeigten Patrick Lewis und Kollegen bei Facebook AI einen Ausweg: Retrieval-Augmented Generation, kurz RAG. Die Idee ist bestechend einfach. Bevor das Modell antwortet, sucht es in einer externen Wissensquelle — etwa in Wikipedia — nach passenden Textstellen und stützt seine Antwort dann auf das Gefundene. So lässt sich Wissen aktualisieren, ohne das Modell neu zu trainieren, und die Antwort wird belegbar. Nach dem Erfolg von ChatGPT wurde RAG zur Standard-Methode, um Sprachmodelle an aktuelle, überprüfbare Quellen zu binden — die Grundlage fast aller Anwendungen, mit denen man mit seinen eigenen Dokumenten chattet. Zur ehrlichen Einordnung: RAG verringert Halluzinationen, beseitigt sie aber nicht. Ist das Gefundene falsch oder missversteht das Modell den Fund, irrt es weiter. Es liefert Belege, kein echtes Verstehen — und baut auf früherer Retrieval-Forschung auf.

    • 2020 stellten Patrick Lewis und Kollegen bei Facebook AI das Verfahren Retrieval-Augmented Generation (RAG) vor.
    • Statt nur aus dem Gedächtnis zu antworten, sucht das Sprachmodell zuerst passende Dokumente (etwa aus Wikipedia) und stützt seine Antwort darauf.
    • RAG wurde nach ChatGPT zur Standard-Methode, um Sprachmodelle an aktuelle, überprüfbare Quellen zu binden — Grundlage fast aller Anwendungen zum Chatten mit eigenen Dokumenten.
    • Anti-Hype: RAG verringert Halluzinationen, beseitigt sie aber nicht — ist das Gefundene falsch oder missverstanden, irrt auch das Modell. Es liefert Belege, kein echtes Verstehen, und baut auf früherer Retrieval-Forschung auf (z. B. DPR, REALM).
    Personen:
    Patrick Lewis
    Organisationen:
    Facebook AI Research, University College London, New York University
  97. Jahr 2020Publikationen

    Neural Scaling Laws

    Jared Kaplan, Sam McCandlish, Tom Brown und Dario Amodei entdecken im Januar 2020 die fundamentalen mathematischen Gesetze der neuronalen Skalierung und verändern damit die Entwicklung großer Sprachmodelle erheblich. Die wegweisende Arbeit von OpenAI und der Johns Hopkins University zeigt, dass sich Performance nach Potenzgesetzen mit Modellgröße, Datensatzumfang und Rechenleistung verhält - mit Trends über sieben Größenordnungen. Die eleganten Gleichungen ermöglichen erstmals systematische Vorhersagen der Ressourcenallokation und etablieren das „Bigger is Better“-Paradigma. Diese mathematischen Grundlagen leiten direkt zu GPT-3s Erfolg über und transformieren KI-Entwicklung von experimentellem Trial-and-Error zu wissenschaftlich fundierter, vorhersagbarer Skalierung. Die konkrete Allokationsregel von Kaplan – Modellgröße stark hochskalieren, Datenmenge nur schwach – wurde 2022 durch das Chinchilla-Paper von DeepMind korrigiert: compute-optimal erfordert deutlich mehr Trainingsdaten als zunächst empfohlen.

    • Entdeckung fundamentaler Potenzgesetze über sieben Größenordnungen
    • Elegante Gleichungen ermöglichen systematische Vorhersagen der Ressourcenallokation; 2022 von Chinchilla präzisiert
    • Etabliert "Bigger is Better"-Paradigma für systematische LLM-Entwicklung
    • Verwandelt KI-Entwicklung von Trial-and-Error zu wissenschaftlicher Methodik
    Personen:
    Jared Kaplan, Sam McCandlish, Tom Brown, Dario Amodei
    Organisationen:
    OpenAI, Johns Hopkins University
  98. Jahr 2020Publikationen

    GPT-3: Das 175-Milliarden-Parameter-Modell

    Der Durchbruch zu Few-Shot Learning und emergenten KI-Fähigkeiten. Am 28. Mai 2020 präsentierte OpenAIs Team um Tom Brown das bedeutende Paper „Language Models are Few-Shot Learners“ – GPT-3 mit 175 Milliarden Parametern, über 100-fach größer als GPT-2. Die Skalierung enthüllte emergente Fähigkeiten: Das Modell konnte neue Aufgaben mit nur wenigen Beispielen lösen, ohne Fine-Tuning. Von Übersetzungen über Wort-Rätsel bis zu 3-stelliger Arithmetik demonstrierte GPT-3 beeindruckende Vielseitigkeit. Menschliche Evaluatoren konnten von GPT-3 generierte Nachrichtenartikel kaum von echten unterscheiden. Allein durch In-Context Learning näherte sich GPT-3 bei einzelnen SuperGLUE-Teilaufgaben dem state of the art an – auf dem Gesamt-Benchmark blieb es mit rund 71,8 Punkten allerdings deutlich hinter den fine-getunten Spitzenmodellen (etwa 89) zurück. 31 OpenAI-Forscher (Tom Brown und 30 Ko-Autoren) bewiesen: Massive Parameterskalierung kann qualitativ neue Fähigkeiten hervorbringen. GPT-3 legte das Fundament für ChatGPT und die moderne LLM-Ära.

    • 175 Milliarden Parameter – über 100-fach größer als GPT-2 mit bedeutenden Skalierungseffekten
    • Emergente Few-Shot-Fähigkeiten ohne Fine-Tuning: neue Aufgaben mit nur wenigen Beispielen lösbar
    • Zeigte emergente Fähigkeiten: Übersetzung, Arithmetik, Textgenerierung auf menschlichem Niveau
    • Legte Grundstein für ChatGPT und kommerzialisierte Large Language Models durch API-Zugang
    Personen:
    Tom Brown, Benjamin Mann, Nick Ryder, Melanie Subbiah
    Organisationen:
    OpenAI
  99. Jahr 2020Publikationen

    DDPM: Diffusion-Modelle etabliert

    Die mathematische Grundlage der modernen Bildgenerierung durch Denoising-Prozesse. Im Juni 2020 veröffentlichten Jonathan Ho, Ajay Jain und Pieter Abbeel das einflussreiche Paper 'Denoising Diffusion Probabilistic Models' – eine Klasse latenter Variablenmodelle inspiriert von der Nichtgleichgewichts-Thermodynamik. Ihre Innovation lag in einer gewichteten Variationsbegrenzung und der Verbindung zwischen Diffusionsmodellen und Denoising Score Matching mit Langevin-Dynamik. Die Ergebnisse waren beeindruckend: FID-Score von 3,17 auf CIFAR-10 und Inception-Score von 9,46. DDPMs etablierten einen progressiven verlustbehafteten Dekompressionsansatz, der als Verallgemeinerung autoregressiver Dekodierung interpretiert werden kann. Diese Arbeit legte das mathematische Fundament für Stable Diffusion und die gesamte moderne Text-zu-Bild-Generation.

    • Neue Klasse generativer Modelle basierend auf Nichtgleichgewichts-Thermodynamik und Denoising-Prozessen
    • Progressiver verlustbehafteter Dekompressionsansatz als Verallgemeinerung autoregressiver Dekodierung
    • Legte mathematisches Fundament für Stable Diffusion und moderne Text-zu-Bild-Generierung
    • FID-Score 3,17 auf CIFAR-10 demonstrierte Bildqualität rivalisierend mit GANs und etablierte Diffusion als Standard
    Personen:
    Jonathan Ho, Ajay Jain, Pieter Abbeel
    Organisationen:
    UC Berkeley
  100. Jahr 2020Publikationen

    Vision Transformer: 'An Image is Worth 16x16 Words'

    Transformer-Architektur in der Computer Vision. Am 22. Oktober 2020 veröffentlichte Alexey Dosovitskiys Team bei Google Research das Paper „An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale“. Vision Transformer (ViT) zeigte, dass CNNs nicht notwendig sind – pure Transformer können direkt auf Bildpatch-Sequenzen angewendet werden. Der Kernbefund („at Scale“): Erst nach großskaligem Vortraining auf riesigen Datensätzen (ImageNet-21k bzw. JFT-300M) erreicht ViT vergleichbare oder bessere Ergebnisse als state-of-the-art CNNs; auf mittelgroßen Datensätzen ohne dieses Vortraining schneidet ViT dagegen schwächer ab. Das System zerlegt Bilder in Patches – typischerweise 16x16 Pixel, je nach Variante aber auch andere Größen – behandelt sie als Token-Sequenzen und wendet Standard-Transformer-Architektur an. Die Universalität der Transformer-Architektur wurde deutlich: Dieselbe Technologie, die NLP veränderte, funktioniert auch in Computer Vision. ViT inspirierte eine neue Generation Attention-basierter Vision-Modelle und zeigte die Kraft vereinheitlichter Architekturen.

    • Erste skalierbare, patch-basierte Anwendung reiner Transformer-Architektur auf Computer Vision ohne CNN-Komponenten
    • Bildpatches (typischerweise 16x16 Pixel) als Token-Sequenzen behandelt, veränderte die Bild-zu-Sequenz-Transformation
    • Self-Attention für Bildverarbeitung bewies Universalität der Transformer-Architektur
    • Erreichte nach großskaligem Vortraining das Niveau von state-of-the-art CNNs und inspirierte Attention-basierte Vision-Modelle
    Personen:
    Alexey Dosovitskiy, Lucas Beyer, Alexander Kolesnikov
    Organisationen:
    Google Research, Google Brain
  101. Jahr 2020Durchbrüche

    AlphaFold-Erfolg

    Die Lösung eines 50 Jahre alten biologischen Rätsels durch künstliche Intelligenz. Im November 2020 dominierte DeepMinds AlphaFold 2 die CASP14-Wettbewerb mit einer Genauigkeit, die Wissenschaftler als 'verblüffend' und 'transformativ' bezeichneten. Das System erreichte bei der Protein-Strukturvorhersage einen GDT-Score von 92,4 von 100 Punkten – eine Präzision, die experimentellen Methoden wie der Röntgenkristallographie entspricht. Dabei schlug AlphaFold rund 100 andere Teams deutlich und löste damit ein Problem, das die Biologie seit den 1970er Jahren beschäftigte. Die attention-basierte neuronale Netzwerk-Architektur kann in wenigen Tagen vorhersagen, wie sich Proteine falten – ein Vorgang, der für das Verständnis von Leben grundlegend ist. Für diese Leistung erhielten Demis Hassabis und John Jumper 2024 den Nobelpreis für Chemie.

    • AlphaFold 2 dominierte CASP14 mit 92,4 GDT-Score und schlug rund 100 andere Teams deutlich
    • Löste das 50 Jahre alte Protein-Faltungs-Problem und veränderte die Strukturbiologie grundlegend
    • Attention-basierte Architektur erreichte experimentelle Genauigkeit in der Protein-Strukturvorhersage
    • Demis Hassabis und John Jumper erhielten 2024 den Nobelpreis für Chemie für diese Leistung
    Personen:
    Demis Hassabis, John Jumper
    Organisationen:
    DeepMind, Google, CASP, University of Washington
  102. Jahr 2021Durchbrüche

    CLIP: Die Brücke zwischen Bild und Sprache

    Am selben Tag, an dem OpenAI DALL-E vorstellte — dem 5. Januar 2021 — erschien das vielleicht folgenreichere Modell: CLIP. Es lernte nicht, Bilder zu erzeugen, sondern Bild und Sprache im selben Raum zu verstehen. Aus rund 400 Millionen Bild-Text-Paaren aus dem Web trainierte das Team um Alec Radford zwei Encoder gegeneinander (kontrastiv), bis zusammengehörige Bilder und Bildunterschriften am selben Punkt eines gemeinsamen Vektorraums landeten. Der Effekt war verblüffend: CLIP konnte Bilder zero-shot klassifizieren — man beschrieb die Kategorien einfach in Worten, ganz ohne Training auf der Aufgabe. So erreichte es 76,2 % auf ImageNet, gleichauf mit einem ResNet-50, das mit 1,28 Millionen beschrifteten Beispielen trainiert worden war — CLIP hatte keines davon gesehen. Fürs große Bild entscheidend: CLIP wurde zum Fundament der Text-zu-Bild-Welle — DALL-E 2 baut auf CLIP-Einbettungen, und Stable Diffusion nutzt CLIPs Text-Encoder direkt. Die Einordnung: Kontrastive Bild-Text-Modelle waren nicht neu (ConVIRT kam Monate früher) — CLIPs Beitrag waren der Maßstab, die Zero-Shot-Breite und die offenen Gewichte, die ein ganzes Ökosystem auslösten.

    • Kontrastives Training: zwei Encoder (Bild + Text) lernen aus rund 400 Mio. Web-Paaren, zusammengehörige Bilder und Texte in denselben Vektorraum zu legen.
    • Zero-Shot: Kategorien werden in Worten beschrieben, kein Aufgaben-Training nötig — 76,2 % auf ImageNet, gleichauf mit einem ResNet-50, das 1,28 Mio. beschriftete Bilder brauchte.
    • Fundament der Text-zu-Bild-Welle: DALL-E 2 baut auf CLIP-Einbettungen, Stable Diffusion nutzt CLIPs Text-Encoder direkt.
    • Anti-Hype: kontrastive Bild-Text-Modelle gab es schon (ConVIRT, Okt 2020). CLIPs Beitrag: Maßstab, Zero-Shot-Breite, offene Gewichte — erbte aber auch den Bias der Web-Daten.
    Personen:
    Alec Radford, Jong Wook Kim, Ilya Sutskever
    Organisationen:
    OpenAI
  103. Jahr 2021Produkte

    DALL-E erschafft Bilder aus Text

    Ein wegweisender Durchbruch der Text-zu-Bild-Generierung und ein wichtiger Fortschritt der KI-Kreativität. Am 5. Januar 2021 enthüllte OpenAI DALL-E – ein System, das aus Textbeschreibungen kohärente und oft verblüffend kreative Bilder erzeugt. Text-zu-Bild-Modelle gab es zwar schon zuvor (etwa alignDRAW 2015 oder GAN-Ansätze wie StackGAN und AttnGAN), doch DALL-E hob Kohärenz und Vielseitigkeit auf ein neues Niveau. Basierend auf einer 12-Milliarden-Parameter-Version von GPT-3 bewies DALL-E, dass die Grenze zwischen Sprach- und Bildverständnis durchbrochen werden kann. Das System trainierte mit 250 Millionen Bild-Text-Paaren aus dem Internet und entwickelte dabei bemerkenswerte Fähigkeiten: Es kann Tiere vermenschlichen, unverwandte Konzepte plausibel kombinieren und sogar Text in Bilder rendern. Mark Riedl von Georgia Tech nannte die gezeigten Beispiele „beeindruckend“. DALL-E erweiterte GPTs Sprachverständnis erfolgreich ins Visuelle und eröffnete eine völlig neue Dimension der KI-Kreativität.

    • Hob die Text-zu-Bild-Generierung auf ein neues Niveau – kohärente, kreative Bilder aus natürlichsprachigen Beschreibungen (Vorläufer wie alignDRAW oder StackGAN gab es bereits)
    • Entwickelte verblüffende kreative Fähigkeiten: Anthropomorphisierung, Konzeptkombination, Textwiedergabe
    • 12-Milliarden-Parameter-Version von GPT-3, trainiert mit 250 Millionen Bild-Text-Paaren aus dem Internet
    • Eröffnete neue Dimension der KI-Kreativität und inspirierte die generative AI-Bewegung
    Personen:
    Aditya Ramesh, Mikhail Pavlov, Gabriel Goh, Scott Gray
    Organisationen:
    OpenAI, DALL-E Team
  104. Jahr 2021Meilensteine

    Anthropic wird gegründet

    Als ehemalige OpenAI-Führungskräfte ihre eigene Vision von sicherer KI verwirklichen wollten. Im Januar 2021 gründeten Dario und Daniela Amodei zusammen mit fünf weiteren ehemaligen OpenAI-Forschern – darunter Tom Brown, Jared Kaplan und Chris Olah – Anthropic; insgesamt sieben Mitgründerinnen und Mitgründer. Das Geschwisterpaar hatte zuvor Schlüsselpositionen bei OpenAI innegehabt – Dario als VP of Research. Ihre neue Firma sollte sich auf KI-Sicherheit und die Entwicklung zuverlässiger, interpretierbarer Systeme konzentrieren. Mit Constitutional AI entwickelte Anthropic einen innovativen Ansatz, KI-Systeme durch Prinzipien statt nur durch menschliches Feedback zu trainieren. Claude, ihr KI-Assistent, wurde zu einem der führenden Konkurrenten von ChatGPT.

    • Gegründet im Januar 2021 in San Francisco
    • Dario Amodei (CEO, ex-VP Research bei OpenAI) und Daniela Amodei (President) – Teil eines siebenköpfigen Gründungsteams
    • Fokus auf KI-Sicherheit, Interpretierbarkeit und Constitutional AI
    • Entwickelte Claude, einen der führenden KI-Assistenten
    Personen:
    Dario Amodei, Daniela Amodei, Tom Brown, Jared Kaplan, Sam McCandlish, Jack Clark, Chris Olah
    Organisationen:
    Anthropic, OpenAI
  105. Jahr 2021Produkte

    GitHub Copilot: Der KI-Pair-Programmer

    Die Demokratisierung der KI-gestützten Softwareentwicklung für Millionen von Entwicklern. Am 29. Juni 2021 kündigte GitHub die Technical Preview von Copilot an – einen KI-Pair-Programmer, powered by OpenAI Codex. Basierend auf einer GPT-3-Variante, trainiert mit Milliarden Zeilen öffentlichen Codes von GitHub-Repositories, konnte Copilot Code-Vervollständigungen und ganze Funktionen aus Kommentaren generieren. Das zugrundeliegende Codex-Modell erreichte 28,8 % Erfolgsquote beim ersten Versuch im HumanEval-Benchmark – deutlich besser als GPT-3 mit 0%. Besonders beeindruckend: Mit 100 Sampling-Versuchen stieg die Erfolgsrate auf 70,2 %. Copilot funktionierte besonders gut mit Python, JavaScript, TypeScript, Ruby und Go. Die limitierte Technical Preview erzeugte enormes Interesse und etablierte KI-assistierte Programmierung als praktikables Werkzeug. Copilot veränderte die Entwicklererfahrung grundlegend und ebnete den Weg für eine neue Generation KI-gestützter Coding-Tools.

    • Technical Preview am 29. Juni 2021 mit limitiertem Zugang über Warteliste für ausgewählte Entwickler
    • Powered by OpenAI Codex, trainiert mit Milliarden Zeilen Code von öffentlichen GitHub-Repositories
    • 28,8 % Erfolgsquote beim ersten Versuch (HumanEval), 70,2 % mit 100 Sampling-Versuchen
    • Etablierte KI-assistierte Programmierung als praktikables Werkzeug und inspirierte neue Coding-Tools
    Personen:
    Nat Friedman, GitHub Team, OpenAI Team
    Organisationen:
    GitHub, OpenAI, Microsoft
  106. Jahr 2021Produkte

    OpenAI Codex: KI programmiert für Menschen

    Am 10. August 2021 veröffentlichte OpenAI Codex über eine API und veränderte die Softwareentwicklung erheblich - eine großflächige KI für Code-Generierung. Basierend auf GPT-3, aber mit 159 Gigabyte Python-Code aus 54 Millionen GitHub-Repositories trainiert, verwandelte Codex natürliche Sprache in funktionsfähigen Code. „Erstelle eine Funktion für Primzahlen“ wurde zu echtem Python-Code in Sekunden. Schon zuvor, am 29. Juni 2021, war aus der Partnerschaft mit GitHub die Technical Preview von Copilot hervorgegangen - ein KI-Programmierassistent, der bereits auf einem frühen Codex lief. Über ein Dutzend Programmiersprachen beherrschte Codex: Python, JavaScript, Go, Ruby, Swift und mehr. Im HumanEval-Benchmark löste das auf Code feinjustierte Codex-S rund 37 % der Aufgaben beim ersten Versuch (pass@1) - das Basismodell kam auf knapp 29 %; beachtlich, aber kein Maß für beliebige Anfragen. GitHub Copilot erwies sich als bedeutender Produktivitätsgewinn für Entwickler. Codex bewies: KI kann kreative, komplexe kognitive Arbeit unterstützen. Von Code-Generierung zu Code-Verständnis öffnete Codex die Tür zur KI-unterstützten Softwareentwicklung.

    • Natürliche Sprache zu Code: 'Schreibe eine Sortier-Funktion' wird zu funktionsfähigem Python/JavaScript
    • GitHub Copilot (Technical Preview ab 29. Juni 2021): prominenter KI-Programmierassistent, trainiert auf 54 Millionen Code-Repositories
    • 12+ Programmiersprachen: Von Python bis Swift - KI versteht Entwickler-Intention in natürlicher Sprache
    • Deutlicher Produktivitätsgewinn: Codex bewies KI-Potential für kreative kognitive Arbeit
    Personen:
    OpenAI Team, GitHub Development Team
    Organisationen:
    OpenAI, GitHub, Microsoft
  107. Jahr 2022Publikationen

    InstructGPT: Die Brücke zu ChatGPT

    Zwischen der Methode und dem Welterfolg lag ein entscheidender Zwischenschritt — und der hieß InstructGPT. Anfang 2022 zeigte OpenAI im Paper Training language models to follow instructions with human feedback, wie man GPT-3 dazu bringt, tatsächlich das zu tun, was Nutzer wollen: durch Reinforcement Learning aus menschlichem Feedback (RLHF). Das verblüffende Ergebnis: Ein InstructGPT mit nur 1,3 Milliarden Parametern wurde von Menschen den Antworten des hundertmal größeren GPT-3 (175 Milliarden) vorgezogen. Nicht rohe Größe, sondern die Ausrichtung auf die Absicht machte den Unterschied. InstructGPT war die direkte technische Brücke zwischen der RLHF-Idee (2017) und ChatGPT, das Ende 2022 dieselbe Methode populär machte. Zur ehrlichen Einordnung: InstructGPT erfand RLHF nicht — das tat ein Paper von 2017 — aber es zeigte erstmals im großen Maßstab, wie sehr Ausrichtung ein Sprachmodell nützlicher macht.

    • OpenAI wandte RLHF (Reinforcement Learning aus menschlichem Feedback) auf GPT-3 an, damit es Anweisungen befolgt und der Absicht der Nutzer entspricht.
    • Verblüffend: Ein InstructGPT mit 1,3 Mrd. Parametern wurde dem 100× größeren GPT-3 (175 Mrd.) vorgezogen — Ausrichtung schlägt rohe Größe.
    • Die direkte Brücke zwischen der RLHF-Idee (2017) und ChatGPT (Ende 2022) — es erklärt, warum ChatGPT so gut funktionierte.
    • Anti-Hype: InstructGPT erfand RLHF nicht (das tat ein Paper 2017); es zeigte erstmals im großen Maßstab, wie stark Ausrichtung ein Modell nützlicher macht.
    Personen:
    Long Ouyang
    Organisationen:
    OpenAI
  108. Jahr 2022Publikationen

    Chinchilla: Skalierung neu gedacht

    2022 stellte DeepMind eine unbequeme Frage: Bauen wir unsere KI-Modelle eigentlich falsch? Im Paper Training Compute-Optimal Large Language Models zeigte das Team um Jordan Hoffmann, dass die größten Sprachmodelle der Zeit — GPT-3, Gopher — zwar viele Parameter, aber zu wenig Trainingsdaten hatten. Ihre Korrektur, heute Chinchilla-Skalierungsgesetze genannt: Für ein gegebenes Rechenbudget sollten Modellgröße und Datenmenge etwa im Gleichschritt wachsen. Zum Beweis trainierten sie Chinchilla mit 70 Milliarden Parametern auf 1,4 Billionen Token — und schlugen damit das viermal größere Gopher (280 Milliarden). Das verschob, wie praktisch jedes spätere Spitzenmodell trainiert wird. Zur ehrlichen Einordnung: Chinchilla erfand die Skalierungsgesetze nicht, sondern korrigierte die früheren von Kaplan (2020); spätere Modelle wie Llama gingen sogar bewusst über das compute-optimale Verhältnis hinaus, um bei der Nutzung effizienter zu sein.

    • Die Chinchilla-Skalierungsgesetze: Für ein festes Rechenbudget sollten Modellgröße und Trainingsdaten etwa im Gleichschritt wachsen.
    • Die größten Modelle (GPT-3, Gopher) waren überdimensioniert und unter-trainiert. Chinchilla (70 Mrd., 1,4 Bio. Token) schlug das 4× größere Gopher (280 Mrd.).
    • Verschob, wie praktisch jedes spätere Spitzenmodell trainiert wird (Daten/Parameter-Verhältnis); prägte unter anderem Llama.
    • Anti-Hype: Chinchilla erfand die Skalierungsgesetze nicht, sondern korrigierte Kaplan (2020); spätere Modelle übertrainieren bewusst für effizientere Nutzung.
    Personen:
    Jordan Hoffmann
    Organisationen:
    Google DeepMind
  109. Jahr 2022Produkte

    PaLM: Googles Riese mit 540 Milliarden Parametern

    2022 zeigte Google, wie weit sich Sprachmodelle nach oben skalieren lassen: PaLM, das Pathways Language Model, hatte 540 Milliarden Parameter und wurde mit Googles Pathways-System über Tausende TPU-Chips hinweg trainiert. Beeindruckend war weniger die schiere Größe als das, was PaLM damit konnte. Mit sogenannten Chain-of-Thought-Prompts, bei denen das Modell seinen Lösungsweg Schritt für Schritt aufschreibt, löste es mehrstufige Textaufgaben und erklärte sogar Pointen von Witzen. PaLM wurde so zum Aushängeschild der Idee emergenter Fähigkeiten — Fertigkeiten, die erst ab einer bestimmten Modellgröße sprunghaft auftauchen. Es war ein Höhepunkt von Googles Skalierungs-Ära und ein Vorläufer von PaLM 2 und Gemini. Zur ehrlichen Einordnung: 540 Milliarden Parameter waren extrem teuer, und PaLM wurde nie als offenes Modell veröffentlicht. Auch die These der emergenten Fähigkeiten ist umstritten — manche dieser Sprünge sind teils ein Artefakt der gewählten Messmethode.

    • 2022 stellte Google PaLM vor — ein Sprachmodell mit 540 Milliarden Parametern, trainiert auf Tausenden TPU-Chips.
    • PaLM glänzte beim mehrstufigen Schlussfolgern: Mit Chain-of-Thought-Prompts löste es Textaufgaben und erklärte sogar Witze.
    • Es nährte die Idee emergenter Fähigkeiten — Fertigkeiten, die erst ab einer bestimmten Modellgröße sprunghaft auftauchen.
    • Anti-Hype: 540 Milliarden Parameter waren enorm teuer, und PaLM wurde nie offen veröffentlicht. Die These emergenter Fähigkeiten ist zudem umstritten — manche Sprünge sind teils ein Artefakt der Messmethode (Schaeffer u. a. 2023).
    Organisationen:
    Google
  110. Jahr 2022Produkte

    Stable Diffusion: Bildgenerierung mit offenen Gewichten

    Die Demokratisierung der KI-Bildgenerierung durch ein leistungsstarkes Modell mit frei herunterladbaren Gewichten. Am 22. August 2022 veröffentlichte Stability AI Stable Diffusion und veränderte den Zugang zu fortgeschrittener Text-zu-Bild-Technologie erheblich. Als frei herunterladbares Modell (Open Weights unter der Lizenz CreativeML OpenRAIL-M, die bestimmte Nutzungen verbietet) konnte Stable Diffusion fotorealistische 512x512-Pixel-Bilder auf Consumer-GPUs generieren – ein wichtiger Fortschritt für Geschwindigkeit und Zugänglichkeit. Basierend auf Latent Diffusion Models (LDMs) iteriert das System durch 'De-noising' in latenten Räumen statt direkter Pixelmanipulation. Mit 860 Millionen Parametern im U-Net und 123 Millionen im Text-Encoder blieb es trotz hoher Leistung relativ leichtgewichtig. Der GitHub-verfügbare Quellcode ermöglichte einer explosionsartig wachsenden Community die Entwicklung unzähliger Varianten und Tools. Stable Diffusion durchbrach das Monopol proprietärer Systeme und machte hochwertige KI-Bildgenerierung für jeden zugänglich.

    • Leistungsstarkes Text-zu-Bild-Modell mit frei herunterladbaren Gewichten und Code auf GitHub
    • Latent Diffusion Models mit iterativem De-noising in latenten Räumen statt direkter Pixelmanipulation
    • Explosionsartiges Community-Wachstum mit unzähligen Varianten, Tools und Anwendungen
    • Durchbrach Monopol proprietärer Systeme und demokratisierte hochwertige KI-Bildgenerierung
    Personen:
    Emad Mostaque, Robin Rombach, Andreas Blattmann
    Organisationen:
    Stability AI, CompVis, Runway
  111. Jahr 2022Durchbrüche

    OpenAI veröffentlicht Whisper

    Als Spracherkennung endlich zuverlässig wurde – und für alle verfügbar. Am 21. September 2022 veröffentlichte OpenAI Whisper, ein Spracherkennungssystem, das trainiert wurde, um robust in verschiedenen Sprachen, Akzenten und Umgebungsgeräuschen zu funktionieren. Im Gegensatz zu früheren Systemen, die auf sauberen Audiodaten trainiert wurden, nutzte Whisper 680.000 Stunden mehrsprachige Daten aus dem Internet. Das Ergebnis: ein System, das in 99 Sprachen transkribieren kann und dabei mit kommerziellen Lösungen konkurriert. OpenAI stellte Whisper als Open-Source zur Verfügung – ein Geschenk an Entwickler weltweit, das unzählige Anwendungen ermöglichte.

    • Veröffentlicht am 21. September 2022 als Open-Source
    • Deckt 99 Sprachen ab und transkribiert robust auch bei Akzenten und Hintergrundgeräuschen – am stärksten im Englischen, da der Großteil der Trainingsdaten englisch ist
    • Trainiert auf 680.000 Stunden mehrsprachiger Audiodaten aus dem Internet
    • Demokratisierte hochwertige Spracherkennung durch Open-Source-Verfügbarkeit
    Personen:
    Alec Radford, Jong Wook Kim, Tao Xu
    Organisationen:
    OpenAI
  112. Jahr 2022Produkte

    ChatGPT markiert eine Wende in der KI-Nutzung

    Der Moment, als KI für alle zugänglich wurde und eine neue Ära begann. Am 30. November 2022 veröffentlichte OpenAI ChatGPT als kostenlosen Research Preview – ohne großes Marketing, mit wenigen Erwartungen. Was folgte, übertraf alle Prognosen: Nach 5 Tagen erreichte ChatGPT eine Million Nutzer, nach zwei Monaten 100 Millionen – damals der schnellste Nutzeranstieg, den eine Consumer-Anwendung je hingelegt hatte (im Juli 2023 von Metas Threads übertroffen). Basierend auf GPT-3.5 bot ChatGPT erstmals einem breiten Publikum direkten Zugang zu einer mächtigen KI ohne technische Barrieren. Kevin Roose von der New York Times nannte es den 'besten KI-Chatbot, der je für die Öffentlichkeit freigegeben wurde'. ChatGPT demokratisierte künstliche Intelligenz und machte aus einem Forschungsgebiet ein alltägliches Werkzeug. Diese Veröffentlichung markierte den Beginn der aktuellen Generative AI-Welle.

    • Am 30. November 2022 als kostenloses Research Preview für die Allgemeinheit zugänglich gemacht
    • Erreichte in 5 Tagen 1 Million Nutzer, in 2 Monaten 100 Millionen – damals der schnellste Anstieg einer Consumer-App (später von Threads übertroffen)
    • Erste mächtige KI ohne technische Barrieren – direkter Web-Zugang für jeden Internetnutzer
    • Demokratisierte KI und löste die aktuelle Generative AI-Welle in Gesellschaft und Wirtschaft aus
    Personen:
    Sam Altman, Greg Brockman, Ilya Sutskever, John Schulman
    Organisationen:
    OpenAI, Microsoft, ChatGPT
  113. Jahr 2022Publikationen

    Constitutional AI - KI-Sicherheit durch Verfassung

    Anthropic stellt im Dezember 2022 Constitutional AI (CAI) vor, eine neue Methode zur Entwicklung harmloser, hilfreicher und ehrlicher KI-Systeme. Eine „Verfassung“ aus ethischen Prinzipien erlaubt es der KI, sich bei schädlichen Inhalten selbst zu kritisieren und zu verbessern – ohne menschliche Labels für genau diese Schaden-Bewertung. (Die explizite Verankerung dieser Prinzipien in der UN-Menschenrechtserklärung und anderen Grundrechtsdokumenten beschrieb Anthropic erst im Mai 2023 in „Claude’s Constitution“; das ursprüngliche Paper nutzte einen pragmatisch zusammengestellten Prinzipiensatz.) Das innovative RLAIF-Verfahren (Reinforcement Learning from AI Feedback) ersetzt das menschliche Feedback allerdings nur für die Harmlosigkeit durch KI-Selbstkritik – die Hilfsbereitschaft wurde weiterhin über menschliche Präferenzdaten (RLHF) trainiert. So etabliert CAI einen Safety-First-Ansatz als Alternative zu ChatGPTs reinem Leistungsansatz und ebnet den Weg für verantwortungsvolle KI-Entwicklung.

    • KI kritisiert und verbessert sich bei schädlichen Inhalten selbst – ohne menschliche Schaden-Labels für diese Bewertung
    • Safety-First Alternative zu reinen Leistungsansätzen wie ChatGPT
    • Dreifach-Ziel: Hilfreich, ehrlich und harmlos durch ethische Prinzipien
    • RLAIF: Reinforcement Learning from AI Feedback ersetzt menschliche Bewertungen bei der Harmlosigkeit (Hilfsbereitschaft weiter via RLHF)
    Personen:
    Yuntao Bai, Andy Jones, Kamal Ndousse, Dario Amodei, Anthropic Team
    Organisationen:
    Anthropic
  114. Jahr 2023Regulierung

    NIST AI Framework: USA definiert vertrauenswürdige KI

    Am 26. Januar 2023 veröffentlichte das US National Institute of Standards and Technology das erste umfassende AI Risk Management Framework (AI RMF 1.0) - Amerikas Antwort auf globale KI-Regulierung. Nach 18 Monaten Entwicklung mit 240+ Organisationen aus Industrie, Wissenschaft und Zivilgesellschaft definierte NIST erstmals bundesweit Standards für vertrauenswürdige KI. Das Framework etabliert vier Kernfunktionen: Govern, Map, Measure, Manage - und sieben Charakteristika vertrauenswürdiger KI: sicher, resilient, erklärbar, datenschutzfreundlich, fair, transparent und zuverlässig. Als freiwilliger Standard soll es KI-Risiken für Individuen, Organisationen und Gesellschaft minimieren. Die Veröffentlichung folgte Bidens AI Bill of Rights (2022) und wurde später durch seine AI Executive Order (Oktober 2023) ergänzt. Das AI RMF entstand im gesetzlichen Auftrag des National AI Initiative Act of 2020 - NIST setzte hier seine etablierte Rolle als Standards-Behörde des Bundes fort. Das Framework wurde zur Grundlage für Industriestandards und internationale Koordination - ein Gegengewicht zu Chinas staatlicher KI-Kontrolle und Europas regulatorischem Ansatz.

    • Vier Kernfunktionen: Govern, Map, Measure, Manage für systematisches KI-Risikomanagement
    • Sieben Charakteristika vertrauenswürdiger KI: sicher, resilient, erklärbar, datenschutzfreundlich, fair, transparent und zuverlässig
    • Freiwilliger Multi-Stakeholder-Ansatz: 240+ Organisationen entwickelten gemeinsam Standards
    • Standards-Behörde des Bundes: NIST entwickelte das AI RMF im Auftrag des National AI Initiative Act of 2020
    Personen:
    NIST AI Team, 240+ Contributing Organizations
    Organisationen:
    NIST, US Department of Commerce, Biden Administration
  115. Jahr 2023Produkte

    LLaMA: Foundation Model mit Forschungslizenz

    Die Demokratisierung von Large Language Models durch offene Forschungsmodelle. Am 24. Februar 2023 veröffentlichte Meta AI LLaMA (Large Language Model Meta AI) – eine Sammlung von Foundation Models von 7B bis 65B Parametern, ausschließlich mit öffentlich verfügbaren Daten trainiert. Das wegweisende Paper 'LLaMA: Open and Efficient Foundation Language Models' bewies, dass state-of-the-art Leistung ohne proprietäre Datensätze erreichbar ist. LLaMA ermöglichte Forschern ohne Zugang zu großer Infrastruktur das Studium fortgeschrittener Sprachmodelle. Der Inference-Code wurde unter GPLv3-Lizenz veröffentlicht, während Modell-Zugang fallweise für akademische Forschung gewährt wurde. Mit Training auf Billionen von Tokens und verschiedenen Modellgrößen adressierte LLaMA unterschiedliche Hardware-Anforderungen. Diese Arbeit katalysierte eine Welle offener LLM-Forschung und inspirierte zahlreiche Folgemodelle in der Open-Source-Community.

    • Inference-Code unter GPLv3-Lizenz; die Modell-Gewichte wurden fallweise und ausschließlich für nicht-kommerzielle Forschung freigegeben
    • 7B bis 65B Parameter-Modelle ausschließlich mit öffentlich verfügbaren Datensätzen trainiert
    • Ermöglichte Forschern ohne große Infrastruktur das Studium fortgeschrittener Sprachmodelle
    • Verschiedene Modellgrößen für unterschiedliche Hardware-Anforderungen und Forschungszwecke
    Personen:
    Hugo Touvron, Thibaut Lavril, Gautier Izacard, Xavier Martinet
    Organisationen:
    Meta AI, FAIR
  116. Jahr 2023Produkte

    Claude und Constitutional AI

    Die Einführung einer KI mit eingebautem Wertesystem und ethischen Prinzipien. Im März 2023 stellte Anthropic Claude vor – einen KI-Assistenten, der auf Constitutional AI basiert und einen neuartigen Ansatz für KI-Sicherheit etablierte. Im Gegensatz zu herkömmlichen Systemen lernt Claude durch eine zweiphasige Methode: Erst kritisiert und verbessert das Modell seine eigenen Antworten anhand einer Verfassung aus ethischen Prinzipien, dann wird es durch KI-generiertes Feedback verfeinert – ohne menschliche Bewertungen für Schadensvermeidung. Das Ergebnis ist ein System, das sowohl hilfreich als auch harmlos agiert. Anthropic veröffentlichte Claude und Claude Instant gleichzeitig, wobei letzteres eine schnellere, kostengünstigere Variante darstellt. Diese Constitutional AI-Methode erwies sich als Pareto-Verbesserung gegenüber menschlichem Feedback und eröffnete neue Wege für skalierbare KI-Aufsicht.

    • Constitutional AI-Framework mit zweiphasigem Training: Selbstkritik anhand ethischer Prinzipien, dann KI-Feedback-basierte Verfeinerung
    • Neuartiger Sicherheitsansatz ohne menschliche Schadensbewertungen – rein durch KI-supervision
    • Gleichzeitige Veröffentlichung von Claude und Claude Instant für verschiedene Anwendungsanforderungen
    • Etablierte 'helpful, harmless, honest' als zentrale Werte für verantwortungsvolle KI-Entwicklung
    Personen:
    Dario Amodei, Daniela Amodei, Tom Brown, Chris Olah
    Organisationen:
    Anthropic, Constitutional AI, AI Safety
  117. Jahr 2023Produkte

    GPT-4: Multimodales KI-Modell

    Der Durchbruch zu menschlicher Leistung in professionellen und akademischen Benchmarks. Am 14. März 2023 enthüllte OpenAI GPT-4 – ein Large Multimodal Model, das Text- und Bildeingaben verarbeitet und menschliches Niveau in verschiedenen Disziplinen erreicht. Die Verbesserungen waren erheblich: Während GPT-3.5 das Bar Exam in den unteren 10% bestand, erreichte GPT-4 die oberen 10%. Beim SAT-Mathematik-Test steigerte sich die Leistung vom 70. auf das 89. Perzentil. OpenAI hatte in den zwei Jahren davor seinen gesamten Deep-Learning-Stack neu aufgebaut und GPT-4 sechs Monate lang iterativ ausgerichtet, mit Erkenntnissen aus dem Adversarial-Testing-Programm und aus ChatGPT. Die multimodalen Fähigkeiten ermöglichen die Verarbeitung von Dokumenten, Diagrammen und Screenshots ähnlich gut wie reine Texteingaben. GPT-4 etablierte neue Standards für KI-Sicherheit und Leistung.

    • Large Multimodal Model mit Text- und Bildeingaben, Vision-Fähigkeiten für Dokumente und Diagramme
    • Bar Exam obere 10% vs. GPT-3.5 untere 10%, SAT-Mathematik-Verbesserung vom 70. auf 89. Perzentil
    • 6 Monate iteratives Alignment mit adversarial testing und ChatGPT-Feedback für verbesserte Sicherheit
    • Integration in ChatGPT Plus machte fortgeschrittene multimodale KI für Verbraucher zugänglich
    Personen:
    Sam Altman, OpenAI Team
    Organisationen:
    OpenAI
  118. Jahr 2023Produkte

    Midjourney V5: Fotorealistische KI-Kunst

    Fotorealistische KI-Bildgenerierung erreicht neue Qualitätsstufe und verändert die kreative Industrie erheblich. Am 15. März 2023 veröffentlichte Midjourney Version 5 und erreichte einen Qualitätssprung, den Nutzer als „gruselig“ und „zu perfekt“ beschrieben. Die Alpha-Version konnte erstmals fotorealistische Bilder erzeugen, die von echten Fotografien kaum zu unterscheiden waren. Besonders bemerkenswert: Das chronische Problem fehlerhafter Hände wurde erheblich verbessert – V5 konnte in den meisten Fällen korrekt fünf Finger darstellen. Julie Wieland, Grafikdesignerin, verglich das Erlebnis mit „endlich eine Brille zu bekommen nach zu langem Ignorieren schlechter Sicht“ – plötzlich sehe man alles in 4K-Qualität [Quelle: Ars Technica, März 2023]. Die verbesserte Prompt-Sensitivität ermöglichte präzisere kreative Kontrolle, während automatisches Upscaling die 1024x1024-Pixel-Basisbilder ohne GPU-Zusatzkosten hochskalierte. V5 löste intensive Debatten über die Zukunft menschlicher Kreativität aus.

    • Fotorealistische Bildqualität die von echten Fotografien kaum zu unterscheiden ist
    • Löste intensive Reaktionen in der Kreativ-Community aus – von Begeisterung bis zu existenziellen Sorgen
    • Verbesserte KI-Kunst erheblich durch präzise Hand-Darstellung und verbesserte Prompt-Sensitivität
    • Setzte neue Standards für kommerzielle KI-Bildgenerierung mit erheblichen Auswirkungen auf die Creative-Industry
    Personen:
    David Holz, Midjourney Team
    Organisationen:
    Midjourney Inc
  119. Jahr 2023Regulierung

    Biden KI-Dekret - Erste umfassende US-Regulierung

    Präsident Biden unterzeichnet am 30. Oktober 2023 die Executive Order 14110 zur „sicheren, abgesicherten und vertrauenswürdigen Entwicklung und Nutzung künstlicher Intelligenz“ - die erste umfassende KI-Regulierung der USA und mit 110 Seiten die längste Executive Order der Geschichte. Das weitreichende Dekret verpflichtet Entwickler mächtiger KI-Systeme zur Offenlegung von Sicherheitstests und etabliert strenge Red-Team-Standards durch NIST. Es schützt vor KI-basiertem Betrug durch Content-Authentifizierung und Watermarking, adressiert Risiken in kritischer Infrastruktur und biologische Bedrohungen. Für den Moment ihrer Unterzeichnung setzte diese Order globale Standards für verantwortungsvolle KI-Entwicklung und positionierte die USA als Vorreiter in der KI-Governance. Ihre Wirkung blieb allerdings nicht von Dauer: Am 20. Januar 2025 hob Präsident Trump die EO 14110 per Executive Order 14148 wieder auf - das Dokument markiert damit den regulatorischen Stand von 2023.

    • Umfassendste KI-Governance aller Zeiten - 110 Seiten, längste Executive Order der Geschichte
    • Verpflichtende Sicherheitstests und Red-Team-Ergebnisse für mächtige KI-Systeme
    • Defense Production Act: Meldepflicht für KI-Systeme mit nationalen Sicherheitsrisiken
    • Positionierte die USA 2023 als Vorreiter in verantwortungsvoller KI-Governance - 2025 jedoch wieder aufgehoben
    Personen:
    Joe Biden, Kamala Harris
    Organisationen:
    White House, NIST, Department of Homeland Security
  120. Jahr 2023Regulierung

    Pause-Brief & Bletchley: KI-Sicherheit wird global

    2023, im ersten Schock nach ChatGPT, rang die Welt um Regeln für eine plötzlich mächtige Technologie. Im März forderten tausende Unterzeichner — darunter Yoshua Bengio und Elon Musk — in einem offenen Brief des Future of Life Institute eine sechsmonatige Pause beim Training von KI-Systemen, die stärker als GPT-4 sind. Pausiert wurde nicht, doch der Brief setzte das Thema auf die Weltagenda. Im November folgte der erste globale KI-Sicherheitsgipfel im britischen Bletchley Park — bewusst am Ort, an dem Turing einst Codes knackte. 28 Staaten und die EU, darunter die USA und China, unterzeichneten die Bletchley-Erklärung über die Risiken hochentwickelter KI. Es war das erste Mal, dass rivalisierende Mächte gemeinsam über KI-Sicherheit sprachen — der Auftakt einer Gipfel-Reihe (Seoul 2024, Paris 2025). Zur ehrlichen Einordnung: Die Pause kam nie, und die Bletchley-Erklärung war unverbindlich — beide setzten Themen auf die Agenda, schufen aber keine durchsetzbaren Regeln.

    • März 2023: Ein offener Brief des Future of Life Institute (tausende Unterzeichner, u. a. Bengio, Musk) forderte eine 6-monatige Pause beim Training von KI stärker als GPT-4.
    • November 2023: erster globaler KI-Sicherheitsgipfel im britischen Bletchley Park — dort, wo Turing im Krieg Codes knackte.
    • 28 Staaten und die EU — darunter USA und China — unterzeichneten die Bletchley-Erklärung zu Risiken hochentwickelter KI; Auftakt der Gipfel-Reihe (Seoul 2024, Paris 2025).
    • Anti-Hype: Die Pause kam nie; die Erklärung war unverbindlich. Beide setzten Themen auf die Agenda, schufen aber keine durchsetzbaren Regeln.
    Organisationen:
    Future of Life Institute, UK Government
  121. Jahr 2023Produkte

    Mistral & Mixtral: Europas offene Modelle

    Während 2023 vor allem US-Konzerne die Schlagzeilen bestimmten, trat aus Paris ein Herausforderer an: Mistral AI, im Frühjahr 2023 von Arthur Mensch (zuvor bei Google DeepMind) sowie Guillaume Lample und Timothée Lacroix (zuvor bei Meta) gegründet. Schon im September überraschte das kleine Modell Mistral 7B die Fachwelt — frei verfügbar unter Apache-2.0-Lizenz und stärker als das deutlich größere Llama 2 13B. Im Dezember folgte Mixtral 8x7B: ein offenes Mixture-of-Experts-Modell, das auf vielen Aufgaben das Niveau von GPT-3.5 erreichte, dabei aber nur einen Bruchteil seiner Parameter pro Anfrage aktiviert (rund 13 von 47 Milliarden). Mistral wurde zum europäischen Aushängeschild offener Modelle und sammelte Milliarden ein. Zur ehrlichen Einordnung: Offene Gewichte sind nicht dasselbe wie Open Source — Trainingsdaten und -code bleiben unter Verschluss. Und Mixtral erreichte GPT-3.5, nicht das damalige Spitzenmodell GPT-4; Mixture-of-Experts selbst ist zudem deutlich älter.

    • Frühjahr 2023: In Paris gründeten Arthur Mensch (Ex-Google-DeepMind) sowie Guillaume Lample und Timothée Lacroix (Ex-Meta) Mistral AI — Europas Antwort auf die US-Labore.
    • September 2023: Mistral 7B — ein kleines, frei gewichtetes Modell (Apache 2.0), das das größere Llama 2 13B schlug.
    • Dezember 2023: Mixtral 8x7B, ein offenes Mixture-of-Experts-Modell — auf vielen Benchmarks auf GPT-3.5-Niveau, aber effizient (nur ~13 Mrd. aktive von ~47 Mrd. Parametern).
    • Anti-Hype: Offene Gewichte heißt nicht Open Source (Trainingsdaten/-code bleiben zu); Mixtral erreichte GPT-3.5, nicht GPT-4. Mixture-of-Experts ist zudem älter (u. a. Shazeer 2017).
    Personen:
    Arthur Mensch, Guillaume Lample, Timothée Lacroix
    Organisationen:
    Mistral AI
  122. Jahr 2023Produkte

    Google Gemini: Multimodale KI-Familie

    Googles Antwort auf ChatGPT und der Durchbruch zur nativen Multimodalität. Am 6. Dezember 2023 kündigte Google Gemini 1.0 an – eine von Grund auf für Multimodalität entwickelte KI-Familie. Die Zusammenarbeit zwischen DeepMind und Google Brain resultierte in drei Modellgrößen: Gemini Ultra für hochkomplexe Aufgaben, Gemini Pro als ausgewogene Lösung und Gemini Nano für Geräte-interne Anwendungen. Im Gegensatz zu nachträglich erweiterten Systemen wurde Gemini nativ mit Sprach-, Audio-, Code- und Video-Verständnis konzipiert. Bei sechs von acht Benchmarks übertraf Gemini Pro den GPT-3.5 Standard, einschließlich MMLU-Tests. Am Ankündigungstag erhielt das reguläre Bard mit Gemini Pro neue Fähigkeiten; das leistungsstärkere Bard Advanced mit Gemini Ultra kündigte Google für Anfang 2024 an. Gemini markierte Googles strategische Antwort auf OpenAIs Dominanz und etablierte multimodale KI als neuen Standard für Large Language Models.

    • Von Grund auf für Multimodalität entwickelt: Sprache, Audio, Code und Video-Verständnis nativ integriert
    • Übertraf GPT-3.5 in 6 von 8 Standard-Benchmarks und etablierte Google als ernsthafte ChatGPT-Alternative
    • Drei Modellgrößen: Ultra (komplex), Pro (ausgewogen), Nano (Geräte-intern) für verschiedene Anwendungen
    • Reguläres Bard erhielt am Ankündigungstag Gemini Pro; Bard Advanced mit Gemini Ultra wurde für Anfang 2024 angekündigt
    Personen:
    Sundar Pichai, Demis Hassabis, Gemini Team
    Organisationen:
    Google, DeepMind, Google AI
  123. Jahr 2024Produkte

    Verkörperte KI: Die Modelle bekommen einen Körper

    Jahrelang lebten die großen KI-Modelle nur auf Bildschirmen — sie schrieben Texte, malten Bilder, führten Gespräche. 2024 begann sich das zu ändern: Es wurde zum Jahr der verkörperten KI. Die Idee ist, dieselben Grundmodelle, die Sprache und Bilder verstehen, in echte Körper zu setzen — vor allem in humanoide Roboter. Das Unternehmen Figure tat sich mit OpenAI zusammen und zeigte einen Roboter, der spricht, sieht und Gegenstände hantiert. NVIDIA stellte mit Project GR00T ein Grundmodell eigens für Humanoide vor, und junge Firmen wie Physical Intelligence wurden mit Milliarden bewertet. Viele sprachen schon vom ChatGPT-Moment der Robotik. Zur ehrlichen Einordnung: Das meiste davon waren bisher Demonstrationen und Ankündigungen, keine zuverlässig im Alltag arbeitenden Maschinen. Die physische Welt ist für einen Roboter ungleich schwerer zu meistern als der Bildschirm — Geschicklichkeit, Sicherheit und Verlässlichkeit sind weiterhin ungelöste Probleme.

    • 2024 wurde zum Jahr der verkörperten KI: Sprachmodelle, die bisher nur im Chat lebten, zogen in Roboter ein — besonders in humanoide.
    • Figure tat sich mit OpenAI zusammen und zeigte einen sprechenden, handelnden Humanoiden; NVIDIA stellte mit Project GR00T ein Grundmodell für Humanoide vor; Start-ups wie Physical Intelligence wurden mit Milliarden bewertet.
    • Die Hoffnung: Ein Roboter, der Sprache, Sehen und Handeln in einem Grundmodell vereint, könnte allgemeine Aufgaben in der echten Welt lernen — ein ChatGPT-Moment für die Robotik.
    • Anti-Hype: Vieles davon waren bislang Demos und Ankündigungen, keine zuverlässig arbeitenden Produkte. Die echte Welt ist für Roboter ungleich schwerer als der Bildschirm — Geschick, Sicherheit und Verlässlichkeit bleiben ungelöst.
    Organisationen:
    Figure AI, NVIDIA, Physical Intelligence
  124. Jahr 2024Produkte

    Waymo: Das fahrerlose Taxi wird Alltag

    Über ein Jahrzehnt lang war autonomes Fahren das Paradebeispiel für KI-Versprechen, die sich ständig verzögerten. 2024 wurde es greifbar: Waymo, die Roboterauto-Tochter von Google, machte fahrerlose Taxis erstmals im großen Stil für die Öffentlichkeit verfügbar — in San Francisco, Los Angeles und Phoenix. Im Sommer 2024 meldete das Unternehmen über 100.000 bezahlte Fahrten pro Woche, vollständig ohne Sicherheitsfahrer am Steuer. Nach Jahren voller Ankündigungen war das der erste handfeste Beweis, dass autonomes Fahren als echter, alltäglicher Dienst funktionieren kann. Zur ehrlichen Einordnung: Waymo fährt nur in eng begrenzten, aufwendig kartierten Stadtgebieten — nicht überall und nicht bei jedem Wetter. Es gibt weiterhin Pannen und liegengebliebene Fahrzeuge, und der Betrieb ist teuer. Das vollständige autonome Fahren überall bleibt ungelöst; der Rückzug des Konkurrenten Cruise nach einem schweren Unfall 2023 zeigte, wie fragil die Technik noch ist.

    • 2024 wurde Waymo, die Roboterauto-Tochter von Google, zum ersten Anbieter fahrerloser Taxis im großen Stil — offen für die Öffentlichkeit in mehreren US-Städten.
    • Im Sommer 2024 meldete Waymo über 100.000 bezahlte Fahrten pro Woche, ganz ohne Sicherheitsfahrer am Steuer.
    • Nach über einem Jahrzehnt voller Versprechen war es der erste handfeste Beweis, dass autonomes Fahren als echter Dienst funktionieren kann.
    • Anti-Hype: Waymo fährt nur in eng begrenzten, kartierten Stadtgebieten — nicht überall. Es gibt weiterhin Pannen, und der Betrieb ist teuer. Voll-autonomes Fahren überall bleibt ungelöst (der Rückzug des Konkurrenten Cruise zeigte die Fragilität).
    Organisationen:
    Waymo, Alphabet
  125. Jahr 2024Produkte

    Sora: KI-generierte Videos aus Text

    Der Fortschritt zu fotorealistischen KI-generierten Videos und die Auswirkungen auf die Filmindustrie. Am 15. Februar 2024 enthüllte OpenAI Sora – ein Text-zu-Video-Modell, das aus kurzen Beschreibungen detaillierte HD-Videos bis zu einer Minute Länge generiert. Benannt nach dem japanischen Wort für „Himmel“ symbolisiert Sora „grenzenloses kreatives Potenzial“. Als Diffusion Transformer adaptiert Sora DALL-E 3-Technologie für temporale Konsistenz und simuliert oft – wenn auch nicht zuverlässig – physikalisch plausible Bewegung. Die Demonstrations-Videos übertrafen alle existierenden Text-zu-Video-Systeme und setzten neue Standards für KI-Kreativität. Regisseur Tyler Perry stoppte eine 800-Millionen-Dollar Studio-Expansion aus Sorge über Soras Branchenauswirkungen. OpenAI verfolgte einen vorsichtigen Ansatz mit Red Team-Testing für Fehlinformationen und Bias, bevor eine breitere Veröffentlichung erfolgt.

    • Fotorealistische Text-zu-Video-Generierung mit minutenlangen HD-Videos, die bestehende Systeme übertraf
    • Diffusion Transformer basierend auf DALL-E 3-Technologie für temporale Konsistenz
    • Simuliert oft physikalisch plausible Bewegung und erhält Konsistenz über die gesamte Videolänge
    • Potenzielle Disruption der Filmindustrie, Tyler Perry stoppte 800-Millionen-Studio-Expansion
    Personen:
    Tim Brooks, Bill Peebles, Connor Holmes, Will DePue
    Organisationen:
    OpenAI
  126. Jahr 2024Produkte

    Claude 3 Familie mit multimodalen Fähigkeiten

    Die Einführung einer KI-Familie mit Vision und drei spezialisierten Modellen. Am 4. März 2024 stellte Anthropic die Claude 3-Familie vor: Opus, Sonnet und Haiku – drei Modelle mit unterschiedlichen Stärken für verschiedene Anwendungsfälle. Das zentrale Feature war die sophisticated Vision-Verarbeitung, die Fotos, Charts, Diagramme und technische Zeichnungen analysieren kann. Claude 3 Opus erreichte neue Bestwerte bei kognitiven Aufgaben und übertraf Konkurrenten in Benchmarks wie MMLU und GPQA. Sonnet bot die ideale Balance zwischen Intelligenz und Geschwindigkeit für Unternehmen, während Haiku mit nahezu sofortiger Reaktionszeit bestach. Mit einem Context-Fenster von 200.000 Tokens (erweiterbar auf 1 Million) und Verfügbarkeit in 159 Ländern setzte Claude 3 neue Benchmark-Maßstäbe für multimodale KI-Systeme.

    • Sophisticated Vision-Verarbeitung für Fotos, Charts, Diagramme und technische Zeichnungen
    • Opus (höchste Intelligenz), Sonnet (Balance), Haiku (Geschwindigkeit) für verschiedene Anwendungsfälle
    • Multimodale Fähigkeiten ermöglichen Verarbeitung visueller Formate parallel zur Textverarbeitung
    • Claude 3 Opus erreichte neue Bestwerte bei MMLU, GPQA und anderen kognitiven Benchmarks
    Personen:
    Dario Amodei, Daniela Amodei, Tom Brown, Claude 3 Team
    Organisationen:
    Anthropic, Claude API, Amazon Bedrock
  127. Jahr 2024Produkte

    Devin: Der erste autonome KI-Software-Ingenieur

    Der Anspruch: Softwareentwicklung vollständig einer KI zu übergeben. Am 12. März 2024 stellte Cognition Labs Devin vor – von der Firma vermarktet als „der erste KI-Software-Ingenieur“. Das System kann eigenständig planen, Repositories klonen, Code schreiben, debuggen, testen und sogar deployen. Auf dem anspruchsvollen SWE-Bench erreichte Devin 13,86% Erfolgsquote bei realen GitHub-Issues (gemessen auf einer Zufallsstichprobe von 570 der 2.294 Aufgaben) – ein gewaltiger Sprung gegenüber dem vorherigen Bestwert ohne Hilfestellung von 1,96%. Das Startup wurde in einer frühen Finanzierungsrunde mit rund 350 Millionen Dollar bewertet; im April 2024 folgte eine Runde über 175 Millionen Dollar bei rund 2 Milliarden Dollar Bewertung. Ein einmonatiger Praxistest von Answer.AI (veröffentlicht im Januar 2025) zeigte die Grenzen: Nur 3 von 20 Aufgaben wurden erfolgreich gelöst, oft mit unvorhersagbaren Ausfällen.

    • Vollautonome Softwareentwicklung: Planung, Coding, Debugging, Testing und Deployment – so das Versprechen
    • Bewältigt komplexe Engineering-Tasks von Code-Migration bis hin zur vollständigen App-Entwicklung
    • 13,86% Erfolgsquote auf SWE-Bench – 7x besser als der vorherige Bestwert ohne Hilfestellung von 1,96%
    • Löste Debatte über Zukunft der Softwareentwicklung aus und inspirierte Open-Source-Alternativen wie OpenHands
    Personen:
    Scott Wu, Steven Hao, Walden Yan
    Organisationen:
    Cognition Labs, SWE-Bench
  128. Jahr 2024Durchbrüche

    AlphaFold 3: KI sagt das Zusammenspiel der Moleküle voraus

    Vier Jahre nach dem Durchbruch von AlphaFold 2 legte Google DeepMind im Mai 2024 nach — gemeinsam mit der Schwesterfirma Isomorphic Labs. AlphaFold 2 hatte vorhergesagt, wie sich ein einzelnes Protein in seine dreidimensionale Form faltet. AlphaFold 3 geht einen entscheidenden Schritt weiter: Es modelliert, wie Proteine mit anderen Molekülen zusammenspielen — mit DNA, RNA, mit Ionen und mit kleinen Wirkstoff-Molekülen. Genau dieses Zusammenspiel ist für die Medikamentenforschung entscheidend, denn so lässt sich am Computer abschätzen, wie ein Wirkstoff an sein Zielprotein bindet. Zur ehrlichen Einordnung: Die Vorhersagen sind beeindruckend, aber nicht fehlerfrei — ihre Genauigkeit schwankt je nach Molekül-Typ, und im Labor müssen sie weiterhin überprüft werden. Zudem erschien AlphaFold 3 zunächst ohne offenen Quellcode, nur als begrenzter Web-Dienst, was in der Forschung Kritik an der Nachvollziehbarkeit auslöste.

    • Im Mai 2024 stellten Google DeepMind und Isomorphic Labs AlphaFold 3 vor.
    • Während AlphaFold 2 die Faltung einzelner Proteine vorhersagte, modelliert AlphaFold 3 ihr Zusammenspiel — mit DNA, RNA, Wirkstoff-Molekülen und Ionen.
    • Besonders wertvoll für die Medikamentenforschung: Man kann am Computer abschätzen, wie ein Wirkstoff an sein Zielprotein bindet.
    • Anti-Hype: Die Vorhersagen sind nicht fehlerfrei und müssen im Labor überprüft werden. Zudem erschien AlphaFold 3 zunächst ohne offenen Code — nur als begrenzter Web-Dienst, was Kritik an der Nachvollziehbarkeit auslöste.
    Organisationen:
    Google DeepMind, Isomorphic Labs
  129. Jahr 2024Wettbewerbe

    AlphaProof: KI gewinnt Silber bei der Mathe-Olympiade

    Mathematik galt lange als die Königsdisziplin, an der KI scheitert — zu kreativ, zu sehr auf echtes Verständnis angewiesen. Im Juli 2024 setzte Google DeepMind ein Ausrufezeichen: Das System AlphaProof löste, zusammen mit AlphaGeometry 2, vier der sechs Aufgaben der Internationalen Mathematik-Olympiade. Das entsprach dem Niveau einer Silbermedaille, nur einen einzigen Punkt unter Gold. Das Besondere ist die Arbeitsweise: AlphaProof formuliert seine Beweise in der formalen Sprache Lean, die jeden Schritt maschinell überprüfbar macht — die KI kann also nicht schummeln. Gelernt hat es per Reinforcement Learning. Erstmals erreichte damit eine KI bei diesem hoch angesehenen Wettbewerb Medaillen-Niveau. Zur ehrlichen Einordnung: Es waren keine echten Wettbewerbsbedingungen. Wo Menschen nur viereinhalb Stunden Zeit haben, rechnete die KI teils tagelang, und Fachleute mussten die Aufgaben erst von Hand in die formale Sprache übersetzen. Die beiden Kombinatorik-Aufgaben blieben ungelöst.

    • Im Juli 2024 löste Google DeepMinds AlphaProof zusammen mit AlphaGeometry 2 vier der sechs Aufgaben der Internationalen Mathematik-Olympiade — auf Silbermedaillen-Niveau.
    • AlphaProof formuliert Beweise in der formalen Sprache Lean und prüft sie selbst; gelernt hat es per Reinforcement Learning. AlphaGeometry 2 übernahm die Geometrie-Aufgabe.
    • Erstmals erreichte eine KI bei diesem prestigeträchtigen Wettbewerb Medaillen-Niveau — ein Meilenstein für maschinelles Schließen mit überprüfbaren Beweisen.
    • Anti-Hype: Keine Wettbewerbsbedingungen — die KI brauchte teils Tage statt 4,5 Stunden, und Menschen übersetzten die Aufgaben erst in formale Sprache. Die zwei Kombinatorik-Aufgaben blieben ungelöst.
    Organisationen:
    Google DeepMind
  130. Jahr 2024Regulierung

    EU AI Act: Erstes umfassendes KI-Gesetz

    Die weltweit erste umfassende Regulierung künstlicher Intelligenz tritt in Kraft. Am 1. August 2024 wurde der EU AI Act geltendes Recht — ein risikobasiertes Regelwerk mit 180 Erwägungsgründen und 113 Artikeln für den gesamten KI-Lebenszyklus. Das Gesetz kategorisiert KI-Systeme nach vier Risikostufen: unzulässige Anwendungen werden verboten, Hochrisiko-Systeme in Bildung, Beschäftigung und Justiz unterliegen detaillierten Compliance-Pflichten, Systeme mit begrenztem Risiko müssen Transparenzpflichten erfüllen, und der große Rest mit minimalem Risiko bleibt weitgehend frei. Parallel dazu gelten eigene Regeln für GPAI-Basismodelle wie GPT, die etwa ChatGPT antreiben. Die extraterritoriale Wirkung erfasst auch Anbieter außerhalb der EU mit europäischen Nutzern. Bei Verstößen drohen Strafen von bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes. Wie die DSGVO 2018 könnte der AI Act globale Standards setzen und bestimmen, wie KI unser Leben beeinflusst. Die Regeln gelten schrittweise ab 2025; seit der Änderung durch den KI-Omnibus von 2026 greifen die Hochrisiko-Regeln für KI in Produkten erst im August 2028.

    • Weltweit erstes umfassendes KI-Gesetz mit 180 Erwägungsgründen und 113 Artikeln für den gesamten KI-Lebenszyklus
    • Vier Risikostufen: verbotene, Hochrisiko-, begrenzte und minimale Risiken — plus eigene Regeln für GPAI-Basismodelle
    • Extraterritoriale Wirkung wie DSGVO könnte globale KI-Standards setzen und weltweite Compliance beeinflussen
    • Strafen bis 35 Mio. Euro oder 7% Jahresumsatz, gestaffelte Umsetzung 2025–2028
    Personen:
    Ursula von der Leyen, Thierry Breton
    Organisationen:
    European Union, European Parliament, European Commission
  131. Jahr 2024Produkte

    OpenAI O1 - Fortschritt im Reasoning

    OpenAI veröffentlicht am 12. September 2024 zunächst o1-preview (und o1-mini) und erweitert KI-Reasoning erheblich durch Chain-of-Thought, dessen Gedankenkette per Reinforcement Learning trainiert wird. O1 ist das erste weitreichend verfügbare Sprachmodell, das systematisch „nachdenkt“ bevor es antwortet - mit einer privaten Gedankenkette analysiert es Probleme Schritt für Schritt. Dieser neue Ansatz eröffnet eine weitere Skalierungs-Dimension: Test-Time-Scaling, wo längeres „Nachdenken“ zu besseren Ergebnissen führt. Das volle o1-Modell erreicht in Benchmark-Tests Leistungen auf PhD-Niveau in Physik, Chemie und Biologie und löst 83% der Aufgaben in der American Invitational Mathematics Examination (GPT-4o: 13%). Die Technologie zeigt, dass KI durch strukturiertes Reasoning deutlich verbesserte Problemlösungsfähigkeiten entwickeln kann.

    • Erstes Modell, dessen Chain-of-Thought via Reinforcement Learning trainiert und skaliert wird - für strukturiertes Reasoning
    • Neue Skalierungs-Dimension: Je länger es denkt, desto bessere Ergebnisse
    • Neuer Ansatz: Von Muster-Reproduktion zu verbesserter Problemlösung
    • Wichtiger Fortschritt in komplexem Reasoning - verbesserte Problemlösungsfähigkeiten
    Personen:
    Sam Altman, Noam Brown, OpenAI Team
    Organisationen:
    OpenAI
  132. Jahr 2024Meilensteine

    Die KI-Nobelpreise 2024

    Im Oktober 2024 geschah etwas Beispielloses: Gleich zwei Naturwissenschafts-Nobelpreise würdigten die Grundlagen der modernen KI. Am 8. Oktober ging der Physik-Nobelpreis an John Hopfield und Geoffrey Hinton — für grundlegende Entdeckungen, die maschinelles Lernen mit künstlichen neuronalen Netzen ermöglichen. Dass ausgerechnet die Physik neuronale Netze auszeichnete, sorgte für Debatten — doch Hopfields physik-inspirierte Netze (1982) und Hintons Lernverfahren legten tatsächlich das Fundament. Einen Tag später teilten sich den Chemie-Nobelpreis David Baker (für computergestütztes Protein-Design) sowie Demis Hassabis und John Jumper von DeepMind — für AlphaFold, das das 50 Jahre alte Problem der Proteinfaltung löste. Zum ersten Mal wurde KI-Grundlagenforschung auf höchster Ebene der Wissenschaft geadelt. Bemerkenswert: Hinton, frisch gekürter Preisträger, nutzte die Bühne, um zugleich vor den Risiken der Technik zu warnen, die er mitbegründet hatte.

    • 8. Oktober 2024: Physik-Nobelpreis an John Hopfield und Geoffrey Hinton für die Grundlagen des maschinellen Lernens mit neuronalen Netzen — ein Physikpreis für KI.
    • 9. Oktober 2024: Chemie-Nobelpreis an David Baker (Protein-Design) sowie Demis Hassabis und John Jumper von DeepMind (AlphaFold, Proteinfaltung).
    • Erstmals würdigten zwei Naturwissenschafts-Nobelpreise im selben Jahr die Grundlagen der KI — ein Wendepunkt im Status des Feldes.
    • Debattiert: Sind neuronale Netze überhaupt Physik? Die Preise ehren jahrzehntealte Grundlagen (Hopfield-Netze 1982, Hintons Boltzmann-Maschine). Hinton warnte zugleich vor KI-Risiken.
    Personen:
    John Hopfield, Geoffrey Hinton, Demis Hassabis, John Jumper, David Baker
    Organisationen:
    Royal Swedish Academy of Sciences
  133. Jahr 2024Durchbrüche

    OpenAI o3: Durchbruch auf ARC-AGI

    Kurz vor Jahresende 2024, am 20. Dezember, kündigte OpenAI o3 an — den Nachfolger von o1 und den Beweis, dass sich das Nachdenken zur Laufzeit (Test-Time-Scaling) weiter skalieren lässt. Aufsehen erregte vor allem ein Wert: o3 erreichte 87,5 % auf ARC-AGI, einem Test, der bewusst so gebaut ist, dass man ihn nicht durch Auswendiglernen besteht — Vorgängermodelle waren hier nahe null geblieben. Damit rückte o3 erstmals in menschennahe Regionen dieses Benchmarks und glänzte zugleich in Mathematik und beim Programmieren. Gemeinsam mit o1 und DeepSeeks R1 markierte o3 die Ära der Reasoning-Modelle (o3-mini folgte Ende Januar 2025, das volle o3 im April). Zur ehrlichen Einordnung: Die 87,5 % entstanden im Hochleistungs-Modus mit enormem — und sehr teurem — Rechenaufwand pro Aufgabe; die ARC-Prize-Organisatoren betonten ausdrücklich, dass o3 keine AGI ist und auf dem schwereren Nachfolgetest ARC-AGI-2 deutlich abfällt.

    • o3 (angekündigt 20.12.2024) führt o1s Test-Time-Scaling weiter: mehr Nachdenken zur Laufzeit → bessere Ergebnisse, Spitzenwerte in Mathematik und Code.
    • 87,5 % auf ARC-AGI — einem gegen Auswendiglernen gebauten Test, auf dem Vorgänger nahe null lagen: ein viel beachteter Sprung Richtung menschennaher Adaptivität.
    • Mit o1 und DeepSeek-R1 die Ära der Reasoning-Modelle; o3-mini Ende Jan. 2025, das volle o3 im April 2025.
    • Anti-Hype: Die 87,5 % entstanden im teuren Hochleistungs-Modus der Dezember-Preview (das später veröffentlichte o3 lag niedriger); die ARC-Organisatoren betonen: o3 ist KEINE AGI und fällt auf dem härteren ARC-AGI-2 auf ~3 % ab.
    Organisationen:
    OpenAI
  134. Jahr 2025Produkte

    Agentische KI wird Mainstream

    2024 und 2025 verschob sich, was KI überhaupt tut: vom Antworten zum Handeln. Den Auftakt machte Anthropic im Oktober 2024 mit Computer Use — als erstes der großen KI-Labore brachte es in einer öffentlichen Beta ein Modell, das einen Computer selbst bedient: den Bildschirm ansehen, die Maus bewegen, klicken, tippen. Im Januar 2025 folgte OpenAIs Operator, ein Agent, der eigenständig im Web surft und Aufgaben erledigt, kurz darauf Deep Research, das mehrstufig recherchiert und belegte Berichte schreibt. Aus dem Chatbot, der Text ausgibt, wurde ein System, das im Namen des Nutzers agiert — die qualitative Wende, die schon Devin (2024) angedeutet hatte. Zur ehrlichen Einordnung: Die ersten Versionen waren langsam, fehleranfällig und oft auf eng umrissene Aufgaben beschränkt; die als Agenten vermarkteten Systeme wurden 2025 stark beworben, ihre Zuverlässigkeit hielt mit dem Marketing noch nicht Schritt.

    • Anthropic, Computer Use (Okt. 2024): erstes Frontier-Modell mit Computernutzung in öffentlicher Beta — Bildschirm, Maus, Tastatur.
    • OpenAI: Operator (Jan. 2025) surft eigenständig im Web; Deep Research (Feb. 2025) recherchiert mehrstufig und schreibt belegte Berichte.
    • Die Wende vom Chatbot (Text ausgeben) zum Agenten (handeln) — angedeutet von Devin (2024), 2025 Produkt-Mainstream.
    • Anti-Hype: frühe Versionen langsam, fehleranfällig, eng begrenzt; die Systeme wurden stärker beworben, als sie 2025 zuverlässig waren.
    Organisationen:
    Anthropic, OpenAI
  135. Jahr 2025Produkte

    DeepSeek-R1: Der KI-Schock aus China

    Ende Januar 2025 bewegte ein KI-Modell zum ersten Mal sichtbar die Weltbörsen. Das chinesische Labor DeepSeek veröffentlichte am 20. Januar 2025 R1 — ein Reasoning-Modell auf Augenhöhe mit OpenAIs o1, aber mit offenen Gewichten (MIT-Lizenz) und zu einem Bruchteil der erwarteten Kosten trainiert. Möglich machte das großangelegtes Reinforcement Learning auf dem Basismodell DeepSeek-V3. Als die DeepSeek-App eine Woche später die US-Charts anführte, kippte die Stimmung: Am 27. Januar verlor Nvidia rund 17 % seines Werts — etwa 600 Milliarden Dollar an einem einzigen Tag, der größte Einzelverlust der US-Börsengeschichte —, weil Anleger fürchteten, Spitzen-KI brauche vielleicht doch nicht endlos teure Chips. R1 erschütterte mehrere Gewissheiten gleichzeitig: dass nur US-Hyperscaler an der Spitze mitspielen, dass Reasoning-Modelle geschlossen bleiben, und dass mehr Rechenleistung der einzige Weg nach vorn ist. Zur ehrlichen Einordnung: Die kursierende Zahl von wenigen Millionen Dollar bezieht sich nur auf den finalen Trainingslauf des Basismodells V3 (nicht auf R1 selbst, nicht auf Forschung und Hardware insgesamt) — und R1 war nicht in jeder Disziplin besser als o1.

    • R1 (20. Jan. 2025): ein Reasoning-Modell auf o1-Niveau mit offenen Gewichten (MIT-Lizenz), trainiert per großangelegtem Reinforcement Learning auf DeepSeek-V3.
    • Trainiert zu einem Bruchteil der erwarteten Kosten — das stellte die Annahme infrage, Spitzen-KI brauche zwingend riesige Compute-Budgets.
    • 27. Jan. 2025: Nvidia −rund 17 % (etwa 600 Mrd. $ an einem Tag, US-Rekord); China an der KI-Spitze — KI wurde sichtbar zur Markt- und Geopolitik-Frage.
    • Anti-Hype: Die wenigen Millionen Dollar meinen nur den finalen Trainingslauf des Basismodells V3 — nicht R1 selbst und nicht Forschung/Hardware insgesamt; R1 war nicht durchweg besser als o1.
    Personen:
    Liang Wenfeng
    Organisationen:
    DeepSeek
  136. Jahr 2025Meilensteine

    Stargate: KI als Infrastruktur in Staatsgröße

    Am 21. Januar 2025 stand Künstliche Intelligenz im Weißen Haus auf der Bühne — als Infrastrukturprojekt in Staatsgröße. OpenAI, SoftBank, Oracle und der Investor MGX kündigten das Projekt Stargate an: bis zu 500 Milliarden Dollar über vier Jahre für KI-Rechenzentren in den USA, wovon der Einsatz von 100 Milliarden sofort beginnen sollte. Damit wurde sichtbar, dass die nächste KI-Phase weniger eine Algorithmen- als eine Energie- und Bau-Frage ist: Rechenleistung im Maßstab von Kraftwerken und Industrieparks. Für ein Feld, dessen roter Faden seit AlexNet die Rechenleistung ist (siehe CUDA 2007), war das die logische, aber gewaltige nächste Stufe — und ein Signal, dass KI zur nationalen, geopolitischen Priorität geworden ist. Zur ehrlichen Einordnung: Eine Ankündigung ist kein fertiges Rechenzentrum. Ob die 500 Milliarden vollständig zusammenkommen, war von Anfang an umstritten — selbst Beteiligte und Beobachter zweifelten öffentlich an der Finanzierung.

    • Bis zu 500 Mrd. $ über vier Jahre für KI-Rechenzentren in den USA (OpenAI, SoftBank, Oracle, MGX); der Einsatz von 100 Mrd. sollte sofort beginnen.
    • Vorgestellt im Weißen Haus: KI wurde sichtbar zur nationalen Infrastruktur- und Geopolitik-Frage.
    • Die nächste KI-Phase ist eine Energie- und Bau-Frage — Rechenleistung im Maßstab von Kraftwerken (roter Faden seit CUDA/AlexNet).
    • Anti-Hype: Eine Ankündigung ist kein fertiges Rechenzentrum; ob die 500 Mrd. vollständig zusammenkommen, war von Anfang an umstritten.
    Personen:
    Sam Altman, Masayoshi Son, Larry Ellison
    Organisationen:
    OpenAI, SoftBank, Oracle
  137. Jahr 2025Regulierung

    Paris AI Action Summit

    Am 10. und 11. Februar 2025 trafen sich im Pariser Grand Palais Staats- und Regierungschefs, Tech-Konzerne und Forscher zum AI Action Summit — dem dritten großen KI-Gipfel nach Bletchley (2023) und Seoul (2024), gemeinsam geleitet von Frankreichs Präsident Macron und Indiens Premier Modi. Bemerkenswert war der Tonwechsel: Hatte der erste Gipfel noch die KI-Sicherheit ins Zentrum gestellt, ging es in Paris vor allem um Chancen, Investitionen und Wettbewerbsfähigkeit — der US-Vizepräsident warb offen gegen zu viel Regulierung. Am Ende unterzeichneten 58 Staaten sowie die EU und die Afrikanische Union eine Erklärung für inklusive und nachhaltige KI — die USA und das Vereinigte Königreich aber verweigerten die Unterschrift. Damit zeigte der Gipfel offen den transatlantischen Bruch in der KI-Governance. Zur ehrlichen Einordnung: Die Erklärung war unverbindlich, und Kritiker nannten den Gipfel eine verpasste Chance für das Thema Sicherheit.

    • Dritter globaler KI-Gipfel (nach Bletchley 2023, Seoul 2024): 10.–11. Februar 2025, Grand Palais, geleitet von Macron und Modi.
    • Tonwechsel von Sicherheit zu Chancen und Wettbewerb: Paris betonte Investitionen statt Risiken; der US-Vizepräsident warb gegen zu viel Regulierung.
    • 58 Staaten plus EU und Afrikanische Union unterzeichneten die Schlusserklärung — USA und UK verweigerten die Unterschrift (offener transatlantischer Bruch).
    • Anti-Hype: Die Erklärung war unverbindlich; Kritiker nannten den Gipfel eine verpasste Chance für KI-Sicherheit.
    Personen:
    Emmanuel Macron, Narendra Modi
  138. Jahr 2025Produkte

    Die Frontier-Modelle 2025

    2025 wurde die Reasoning-Fähigkeit, die o1 und R1 angestoßen hatten, zum Standard der Spitzenmodelle — in einem Tempo, das schwer zu verfolgen war. Im März stellte Google Gemini 2.5 Pro vor, im Mai folgte Anthropic mit Claude 4 (Opus 4 und Sonnet 4), im August OpenAI mit GPT-5; dazwischen kamen Claude 3.7 (das erste Hybrid-Modell, das wahlweise schnell antwortet oder länger nachdenkt), GPT-4.5, Metas Llama 4 und xAIs Grok. Die neue Generation verband zwei Linien: das schrittweise Nachdenken der Reasoning-Modelle und die Fähigkeit, eigenständig zu handeln (Agentik). Besonders das autonome Programmieren über lange Strecken rückte ins Zentrum. Zur ehrlichen Einordnung: Die Labore überboten sich im Wochentakt mit Benchmark-Rekorden, und jedes beanspruchte die Spitze für sich — echte Fortschritte, aber das oft bemühte Wort AGI blieb mehr Marketing als Realität.

    • 2025 wurden Reasoning (schrittweises Nachdenken) und Agentik (eigenständiges Handeln) zum Standard der Spitzenmodelle; Claude 3.7 führte das wahlweise schnelle oder nachdenkende Hybrid-Modell ein.
    • Dichtes Rennen: Gemini 2.5 Pro (März), Claude 4 / Opus 4 (Mai), GPT-5 (August) — dazu Llama 4, Grok, DeepSeek. Mehrere Labore an der Spitze.
    • Im Zentrum: autonomes Programmieren über lange Strecken (z. B. Claude Code) — Modelle, die ganze Aufgaben selbstständig durcharbeiten.
    • Anti-Hype: Benchmark-Rekorde im Wochentakt, jedes Labor beansprucht die Spitze; echte Fortschritte, aber AGI blieb mehr Marketing als Realität.
    Organisationen:
    Anthropic, OpenAI, Google DeepMind

Einfache Sprache

Diese Vorschau ist in Einfacher Sprache. Das ganze Portal gibt es auch in Einfacher Sprache. Du kannst oben die Sprache wechseln. Oder nutze den Knopf unten. Unsere Texte in Einfacher Sprache entstehen KI-gestützt und werden redaktionell begleitet. Sie orientieren sich an den Grundprinzipien der Leichten Sprache, sind aber keine geprüfte Leichte Sprache: Eine Prüfgruppe von Menschen mit Lernschwierigkeiten prüft sie nicht.

Vorschau: Die Geschichte der KI

Was ist der Zeitstrahl?

Hier siehst du den Zeitstrahl der KI. KI bedeutet Künstliche Intelligenz. Ein Zeitstrahl ordnet Ereignisse nach Datum. Die Geschichte der KI beginnt im Jahr 1950.

Was du hier findest

Es gibt 96 Ereignisse auf diesem Zeitstrahl. Sie beginnen im Jahr 1950. Sie gehen bis heute. Wichtige Personen wie Alan Turing prägten die KI-Geschichte.

So kannst du suchen

Du kannst einen Zeitraum wählen. Du kannst nach Kategorien filtern. Du kannst auch Suchbegriffe eingeben. So findest du schnell ein bestimmtes Thema.

Speichereinstellungen

Wähle, welche Daten lokal gespeichert werden sollen

  • Technisch notwendige FunktionenGrundlegende Funktionen wie Spracheinstellung und Theme-Auswahl. Diese werden immer lokal gespeichert.
  • LernfortschrittSpeichert deinen Lernfortschritt lokal in deinem Browser: Achievements und Punkte, Quiz-Ergebnisse, abgehakte Checkpoints, Lernpfade und Zertifikate sowie deinen Fortschritt und deine Bestwerte in den Demos. Aus, bis du es einschaltest; schaltest du es wieder aus, wird der gespeicherte Fortschritt gelöscht.
  • NutzungsstatistikenHilft mir, das Portal zu verbessern. Mit deiner Zustimmung erfasse ich Seitenaufrufe, Verweildauer, Scroll-Tiefe und Geräteinformationen (Browser, Bildschirmgröße). Diese Daten werden ausschließlich an meinen eigenen Server gesendet — nicht an Dritte. Die Zuordnung erfolgt über einen täglich wechselnden Hash; deine IP-Adresse wird nicht gespeichert (TDDDG § 25). Was genau ich erhebe und was ich daraus ablese, zeige ich transparent auf der Statistik-Seite.Live-Statistiken ansehen

Feedback geben