Deep Learning
Deep LearningDeep Learning ist eine zentrale Methode des maschinellen Lernens – eine KI-Technologie, die neuronale Strukturen in mehreren Schichten organisiert. Das 'Deep' bezieht sich auf die vielen Schichten (Layers) künstlicher Neuronen, die wie ein vielstöckiges Gebäude der Erkenntnis funktionieren: Jede Ebene extrahiert abstraktere Merkmale als die darunter liegende. Während die erste Schicht simple Kanten in Bildern erkennt, identifiziert die letzte Schicht komplette Gesichter oder medizinische Anomalien. Das Training läuft in zwei Schritten: Die Backpropagation propagiert den Fehler rückwärts durch alle Schichten und berechnet dabei per Kettenregel die Gradienten, also wie stark jede Gewichtung zum Fehler beiträgt. Die eigentliche Anpassung der Gewichtungen übernimmt dann ein Optimierungsverfahren wie Gradientenabstieg (etwa SGD oder Adam), das diese Gradienten nutzt. Deep Learning hat Computer Vision, Spracherkennung und Textgenerierung erheblich verändert. Von CNNs für Bildanalyse über RNNs für sequenzielle Daten bis zu Transformers für Sprachmodelle – diese Architektur-Familie bildet das Rückgrat moderner KI-Systeme.
Beispiel
ChatGPT nutzt Deep Learning mit Transformer-Architektur, um menschenähnliche Texte zu generieren. Oder: Ein autonomes Fahrzeug verwendet Deep Learning, um in Echtzeit Fußgänger, Verkehrsschilder und Hindernisse zu erkennen.
Auch bekannt als
Tiefes Lernen, Deep Neural Networks
Verwendet in
- Externe Code-Bibliotheken (Packages)
- Die Isolations-Blase
- Tensoren: Die Sprache der GPUs
- Lineare & Logistische Regression
- Das künstliche Neuron
- Die KI-Winter
- Das Netzwerk
- Der Zündfunke: Aktivierungsfunktionen
- Programmieren vs. Trainieren
- Wahrheit im Netz
- Der Weg ins Tal: Gradientenabstieg
- Das Herzstück des Lernens
Quellen
- Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press
- LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature, 521(7553), 436-444