Warum man in der KI ständig mit Pfeilen im n-dimensionalen Raum hantiert.
Grundlagen 11 min Einsteiger 11. Mai 2026
Was haben ein Foto, ein Satz und ein Song gemeinsam? Bevor ein KI-Modell sie verarbeiten kann, werden sie alle dasselbe: eine Liste von Zahlen. Diese Liste heißt Vektor. Vektoren sind das universelle Datenformat der künstlichen Intelligenz.
In diesem Artikel lernst du, was Vektoren sind, wie du mit ihnen rechnest (addieren, skalieren, Länge messen) und warum das Skalarprodukt — eine einfache Summe aus multiplizierten Komponenten — die Operation ist, die Suchmaschinen relevante Ergebnisse finden und neuronale Netze Muster erkennen lässt.
Skalar vs. Vektor — Einzelwert gegen Liste
Skalar und Vektor
AnalogieDefinition
GPS-Koordinaten: Ein einzelner Breitengrad (52,52) ist ein Skalar — er fixiert dich nur auf einer Nord-Süd-Linie. Erst die Kombination [52,52; 13,41] ergibt einen 2D-Vektor, der Berlin eindeutig verortet. Füge die Höhe hinzu: [52,52; 13,41; 34] — ein 3D-Vektor. KI-Embeddings funktionieren genauso, nur mit 768 oder mehr Dimensionen.
Beispiel
Die GPS-Analogie hat 2-3 Dimensionen mit klarer physischer Bedeutung. KI-Embedding-Dimensionen sind emergent — vom Optimierungsalgorithmus gelernt — und nicht direkt interpretierbar.
Analogie:
GPS-Koordinaten: Ein einzelner Breitengrad (52,52) ist ein Skalar — er fixiert dich nur auf einer Nord-Süd-Linie. Erst die Kombination [52,52; 13,41] ergibt einen 2D-Vektor, der Berlin eindeutig verortet. Füge die Höhe hinzu: [52,52; 13,41; 34] — ein 3D-Vektor. KI-Embeddings funktionieren genauso, nur mit 768 oder mehr Dimensionen.
Beispiel
Die GPS-Analogie hat 2-3 Dimensionen mit klarer physischer Bedeutung. KI-Embedding-Dimensionen sind emergent — vom Optimierungsalgorithmus gelernt — und nicht direkt interpretierbar.
Definition:
Ein Skalar ist ein einzelner Zahlenwert (z.B. Temperatur: 23°C). Ein Vektor ist eine geordnete Liste von n Zahlen — den Komponenten. Die Anzahl der Komponenten heißt Dimensionalität. Ein Vektor v = [3, 5] lebt im 2D-Raum, v = [3, 5, 2] im 3D-Raum. In Python: v = np.array([3, 5]).
1
Breitengrad: 52,52 — ein Skalar (1D). Fixiert nur eine Linie.
2
+ Längengrad: [52,52; 13,41] — ein 2D-Vektor. Verortet Berlin.
3
+ Höhe: [52,52; 13,41; 34] — ein 3D-Vektor.
4
Embedding: 768 Dimensionen — die Mathematik bleibt identisch.
Konkret wird jeder Datenpunkt zum Vektor: Ein Haus mit Fläche=120, Zimmer=4, Baujahr=1990, Preis=350.000 wird zu [120, 4, 1990, 350000] — einem 4D-Feature-Vektor. 1000 Häuser = 1000 Vektoren = ein ML-Datensatz.
import numpy as np
# Ein Haus als 4D-Feature-Vektor
haus = np.array([120, 4, 1990, 350000])
print(haus.shape) # (4,) — 4 Dimensionen
Irrtum: Ein Vektor ist ein Pfeil
In 2D/3D kann man einen Vektor als Pfeil zeichnen — das ist hilfreich zum Einstieg. Aber in höheren Dimensionen (z.B. 768D für ein Satz-Embedding) gibt es keine Pfeile mehr. Ein Vektor ist eine abstrakte geordnete Liste von Zahlen. Die Pfeil-Intuition ist ein Startpunkt, nicht das ganze Bild.
JEDE Eingabe in ein neuronales Netz — Text, Bild, Audio — wird zuerst in einen numerischen Vektor umgewandelt. Ohne Vektoren keine KI.
Vektoroperationen — Addieren, Skalieren, Messen
Drei grundlegende Operationen machen Vektoren zum Werkzeug für KI: Addition, Skalarmultiplikation und die Norm (Länge).
Vektoraddition
Vektoraddition
[a₁, a₂] + [b₁, b₂] = [a₁+b₁, a₂+b₂]
Komponentenweise: Jede Position wird einzeln addiert. Geometrisch bedeutet das: Vektoren werden "hintereinander gehängt" (Parallelogrammregel).
Skalarmultiplikation
Skalarmultiplikation
c · [a₁, a₂] = [c·a₁, c·a₂]
Jede Komponente wird mit demselben Skalar multipliziert. Das streckt (c > 1), staucht (0 < c < 1) oder dreht um (c < 0) den Vektor.
Norm (Länge)
Euklidische Norm
‖v‖ = √(v₁² + v₂² + … + vₙ²)
Die Norm verallgemeinert den Satz des Pythagoras auf beliebig viele Dimensionen. Für [3, 4]: √(9 + 16) = √25 = 5.
Teilst du einen Vektor durch seine Norm, erhältst du einen Einheitsvektor (Länge 1). Dabei bleibt die Richtung erhalten, die Skalierung verschwindet. In Embedding-Pipelines ist das essenziell: Zwei Dokumente zum selben Thema sollen ähnlich sein — unabhängig von ihrer Länge.
Das Skalarprodukt — Ähnlichkeit messen
Skalarprodukt (Dot Product)
a · b = a₁b₁ + a₂b₂ + … + aₙbₙ
Die Summe der komponentenweisen Produkte. Das Ergebnis ist ein Skalar — eine einzelne Zahl.
Misst Richtungsähnlichkeit, wird aber auch von der Vektorlänge beeinflusst.
Euklidische Distanz
Misst, wie weit zwei Punkte im Raum voneinander entfernt sind (Abstand).
Kosinus-Ähnlichkeit
Kosinus-Ähnlichkeit
cos(θ) = (a · b) / (‖a‖ · ‖b‖)
Das normalisierte Skalarprodukt ergibt einen Wert zwischen −1 und +1, unabhängig von der Vektorlänge. In Word-Embeddings ist die Kosinus-Ähnlichkeit das Standardmaß für semantische Verwandtschaft.
Das reine Skalarprodukt wird von der Länge der Vektoren beeinflusst — verdopple einen Vektor, verdoppelt sich auch das Produkt. Es misst also eine Kombination aus Richtung und Länge. Die Kosinus-Ähnlichkeit rechnet die Länge heraus und vergleicht nur die reine Richtung. Abstand misst die euklidische Distanz ‖a − b‖.
Deep Dive: Das Skalarprodukt im Neuron
Neuron-Berechnung
z = w · x + b
Jedes Neuron in einem neuronalen Netz berechnet genau ein Skalarprodukt: Gewichtsvektor w mal Eingabevektor x plus Bias b. Die Perceptron-Demo auf diesem Portal zeigt genau diese Operation in Aktion.
Interaktiv: Wie Operationen mit der Dimension skalieren
Bewege den Slider, um die Anzahl der Dimensionen d zu verändern — von einer einfachen 2D-Koordinate bis hin zu einem 1000-dimensionalen Embedding. Beobachte, wie unterschiedlich schnell die Kosten verschiedener Operationen wachsen: Vektoraddition und Skalarprodukt skalieren linear mit d, aber die Anzahl benötigter Datenpunkte explodiert exponentiell.
21000
O(log d)6.6
O(d)100
O(d²)10.000
O(2ᵈ)1.073.741.824
Moderater Input
Bei n=100 wird der Unterschied sichtbar: O(n²) braucht 10.000 Operationen, während O(n) nur 100 braucht. O(log n) braucht nur 6.6 — das ist 15x weniger als O(n).
Verhältnis zu O(n)
Komplexität
Operationen
Faktor vs. O(n)
O(log d)
6.6
15x schneller
O(d)
100
1x (Referenz)
O(d²)
10.000
100x langsamer
O(2ᵈ)
1.073.741.824
10737418x langsamer
Deep Dive: Fluch der Dimensionalität
"Mehr Dimensionen = besser" ist ein verbreiteter Irrtum. In sehr hohen Dimensionen konvergieren alle paarweisen Abstände — alles wird gleich weit von allem entfernt.
Distanzbasierte Algorithmen (k-NN, Clustering) verlieren ihre Aussagekraft. Deshalb existieren Techniken zur Dimensionsreduktion wie PCA und t-SNE: Sie projizieren hochdimensionale Daten in einen niedrigdimensionalen Raum, der die wichtigsten Strukturen erhält.
Das Wichtigste
Ein Skalar ist eine Zahl; ein Vektor ist eine geordnete Liste von Zahlen. Jede KI-Eingabe — Text, Bild, Audio — wird in einen Vektor umgewandelt.
Vektoren kann man addieren, skalieren und messen. Die Norm gibt die Länge; Normalisierung erhält nur die Richtung.
Das Skalarprodukt misst, wie parallel zwei Vektoren sind. Die Kosinus-Ähnlichkeit normalisiert das auf [−1, +1] und ist das Standardmaß für Embeddings. Jedes Neuron berechnet ein Skalarprodukt.
Quiz: Vektoren
Frage 1 / 4
Noch offen
Was ist der Unterschied zwischen einem Skalar und einem Vektor?
1. Was ist der Unterschied zwischen einem Skalar und einem Vektor?
☐ A) Ein Skalar hat mehr Dimensionen als ein Vektor
☐ B) Ein Skalar ist eine einzelne Zahl, ein Vektor ist eine geordnete Liste von Zahlen
☐ C) Vektoren können nur ganze Zahlen enthalten
☐ D) Skalare gibt es nur in der Physik
2. v = [3, 4]. Wie lang ist der Vektor (Norm)?
☐ A) 7
☐ B) 12
☐ C) 5
☐ D) 25
3. Zwei Vektoren haben eine Kosinus-Ähnlichkeit von 0,95. Was bedeutet das?
☐ A) Sie sind fast gleich lang
☐ B) Sie zeigen fast in die gleiche Richtung
☐ C) Sie sind weit voneinander entfernt
☐ D) Sie haben jeweils 95 Dimensionen
4. Warum normalisiert man Vektoren vor dem Vergleich mit Kosinus-Ähnlichkeit?
☐ A) Damit die Berechnung schneller läuft
☐ B) Damit nur die Richtung verglichen wird, nicht die Länge
☐ C) Weil normalisierte Vektoren weniger Speicher brauchen
☐ D) Weil die Norm immer 0 sein muss
Auflösung: 1) B · 2) C · 3) B · 4) B
Lernziele
Erkläre, was ein 768-dimensionaler Vektor in einem Sprachmodell beschreibt und warum man sich diesen Raum nicht bildlich vorstellen kann.
Beschreibe, was geometrisch passiert, wenn man einen Vektor mit dem Skalar −1 multipliziert.
Warum ist die Kosinus-Ähnlichkeit für den Vergleich von Wort-Embeddings besser geeignet als das reine Skalarprodukt?