Räume und Richtungen (Vektoren)

Warum man in der KI ständig mit Pfeilen im n-dimensionalen Raum hantiert.

Grundlagen 11 min Einsteiger 11. Mai 2026

Was haben ein Foto, ein Satz und ein Song gemeinsam? Bevor ein KI-Modell sie verarbeiten kann, werden sie alle dasselbe: eine Liste von Zahlen. Diese Liste heißt Vektor. Vektoren sind das universelle Datenformat der künstlichen Intelligenz.

In diesem Artikel lernst du, was Vektoren sind, wie du mit ihnen rechnest (addieren, skalieren, Länge messen) und warum das Skalarprodukt — eine einfache Summe aus multiplizierten Komponenten — die Operation ist, die Suchmaschinen relevante Ergebnisse finden und neuronale Netze Muster erkennen lässt.

Skalar vs. Vektor — Einzelwert gegen Liste

Skalar und Vektor

AnalogieDefinition
GPS-Koordinaten: Ein einzelner Breitengrad (52,52) ist ein Skalar — er fixiert dich nur auf einer Nord-Süd-Linie. Erst die Kombination [52,52; 13,41] ergibt einen 2D-Vektor, der Berlin eindeutig verortet. Füge die Höhe hinzu: [52,52; 13,41; 34] — ein 3D-Vektor. KI-Embeddings funktionieren genauso, nur mit 768 oder mehr Dimensionen.

Beispiel

Die GPS-Analogie hat 2-3 Dimensionen mit klarer physischer Bedeutung. KI-Embedding-Dimensionen sind emergent — vom Optimierungsalgorithmus gelernt — und nicht direkt interpretierbar.
1
Breitengrad: 52,52 — ein Skalar (1D). Fixiert nur eine Linie.
2
+ Längengrad: [52,52; 13,41] — ein 2D-Vektor. Verortet Berlin.
3
+ Höhe: [52,52; 13,41; 34] — ein 3D-Vektor.
4
Embedding: 768 Dimensionen — die Mathematik bleibt identisch.

Konkret wird jeder Datenpunkt zum Vektor: Ein Haus mit Fläche=120, Zimmer=4, Baujahr=1990, Preis=350.000 wird zu [120, 4, 1990, 350000] — einem 4D-Feature-Vektor. 1000 Häuser = 1000 Vektoren = ein ML-Datensatz.

import numpy as np

# Ein Haus als 4D-Feature-Vektor
haus = np.array([120, 4, 1990, 350000])
print(haus.shape)  # (4,) — 4 Dimensionen

Irrtum: Ein Vektor ist ein Pfeil

In 2D/3D kann man einen Vektor als Pfeil zeichnen — das ist hilfreich zum Einstieg. Aber in höheren Dimensionen (z.B. 768D für ein Satz-Embedding) gibt es keine Pfeile mehr. Ein Vektor ist eine abstrakte geordnete Liste von Zahlen. Die Pfeil-Intuition ist ein Startpunkt, nicht das ganze Bild.

JEDE Eingabe in ein neuronales Netz — Text, Bild, Audio — wird zuerst in einen numerischen Vektor umgewandelt. Ohne Vektoren keine KI.

Vektoroperationen — Addieren, Skalieren, Messen

Drei grundlegende Operationen machen Vektoren zum Werkzeug für KI: Addition, Skalarmultiplikation und die Norm (Länge).

Vektoraddition

Vektoraddition
[a₁, a₂] + [b₁, b₂] = [a₁+b₁, a₂+b₂]

Komponentenweise: Jede Position wird einzeln addiert. Geometrisch bedeutet das: Vektoren werden "hintereinander gehängt" (Parallelogrammregel).

Skalarmultiplikation

Skalarmultiplikation
c · [a₁, a₂] = [c·a₁, c·a₂]

Jede Komponente wird mit demselben Skalar multipliziert. Das streckt (c > 1), staucht (0 < c < 1) oder dreht um (c < 0) den Vektor.

Norm (Länge)

Euklidische Norm
‖v‖ = √(v₁² + v₂² + … + vₙ²)

Die Norm verallgemeinert den Satz des Pythagoras auf beliebig viele Dimensionen. Für [3, 4]: √(9 + 16) = √25 = 5.

import numpy as np
v1 = np.array([3, 4])
v2 = np.array([1, 2])

print(v1 + v2)              # [4, 6]  — Addition
print(2 * v1)               # [6, 8]  — Skalarmultiplikation
print(np.linalg.norm(v1))   # 5.0    — Norm
print(v1 / np.linalg.norm(v1))  # [0.6, 0.8] — Normalisierung

Normalisierung: Nur die Richtung zählt

Teilst du einen Vektor durch seine Norm, erhältst du einen Einheitsvektor (Länge 1). Dabei bleibt die Richtung erhalten, die Skalierung verschwindet. In Embedding-Pipelines ist das essenziell: Zwei Dokumente zum selben Thema sollen ähnlich sein — unabhängig von ihrer Länge.

Das Skalarprodukt — Ähnlichkeit messen

Skalarprodukt (Dot Product)
a · b = a₁b₁ + a₂b₂ + … + aₙbₙ

Die Summe der komponentenweisen Produkte. Das Ergebnis ist ein Skalar — eine einzelne Zahl.

Geometrische Interpretation
a · b = ‖a‖ · ‖b‖ · cos(θ)

Gleiche Richtung → cos(0°) = 1 → maximales Skalarprodukt. Senkrecht → cos(90°) = 0. Entgegengesetzt → cos(180°) = −1.

Skalarprodukt

Misst Richtungsähnlichkeit, wird aber auch von der Vektorlänge beeinflusst.

Euklidische Distanz

Misst, wie weit zwei Punkte im Raum voneinander entfernt sind (Abstand).

Kosinus-Ähnlichkeit

Kosinus-Ähnlichkeit
cos(θ) = (a · b) / (‖a‖ · ‖b‖)

Das normalisierte Skalarprodukt ergibt einen Wert zwischen −1 und +1, unabhängig von der Vektorlänge. In Word-Embeddings ist die Kosinus-Ähnlichkeit das Standardmaß für semantische Verwandtschaft.

0.66
König / Königin
0.41
König / Apfel
768
Embedding-Dimensionen
import numpy as np

koenig   = np.array([0.9, 0.1, 0.8])
koenigin = np.array([0.9, 0.8, 0.1])
apfel    = np.array([0.1, 0.3, 0.05])

def cosine_sim(a, b):
    return np.dot(a, b) / (np.linalg.norm(a) * np.linalg.norm(b))

print(cosine_sim(koenig, koenigin))  # ~0.66
print(cosine_sim(koenig, apfel))     # ~0.41

Irrtum: Das Skalarprodukt misst Abstand

Das reine Skalarprodukt wird von der Länge der Vektoren beeinflusst — verdopple einen Vektor, verdoppelt sich auch das Produkt. Es misst also eine Kombination aus Richtung und Länge. Die Kosinus-Ähnlichkeit rechnet die Länge heraus und vergleicht nur die reine Richtung. Abstand misst die euklidische Distanz ‖a − b‖.

Neuron-Berechnung
z = w · x + b

Jedes Neuron in einem neuronalen Netz berechnet genau ein Skalarprodukt: Gewichtsvektor w mal Eingabevektor x plus Bias b. Die Perceptron-Demo auf diesem Portal zeigt genau diese Operation in Aktion.

Interaktiv: Wie Operationen mit der Dimension skalieren

Bewege den Slider, um die Anzahl der Dimensionen d zu verändern — von einer einfachen 2D-Koordinate bis hin zu einem 1000-dimensionalen Embedding. Beobachte, wie unterschiedlich schnell die Kosten verschiedener Operationen wachsen: Vektoraddition und Skalarprodukt skalieren linear mit d, aber die Anzahl benötigter Datenpunkte explodiert exponentiell.

21000
O(log d)6.6
O(d)100
O(d²)10.000
O(2ᵈ)1.073.741.824
Moderater Input

Bei n=100 wird der Unterschied sichtbar: O(n²) braucht 10.000 Operationen, während O(n) nur 100 braucht. O(log n) braucht nur 6.6 — das ist 15x weniger als O(n).

Verhältnis zu O(n)

KomplexitätOperationenFaktor vs. O(n)
O(log d)6.615x schneller
O(d)1001x (Referenz)
O(d²)10.000100x langsamer
O(2ᵈ)1.073.741.82410737418x langsamer

"Mehr Dimensionen = besser" ist ein verbreiteter Irrtum. In sehr hohen Dimensionen konvergieren alle paarweisen Abstände — alles wird gleich weit von allem entfernt.

Distanzbasierte Algorithmen (k-NN, Clustering) verlieren ihre Aussagekraft. Deshalb existieren Techniken zur Dimensionsreduktion wie PCA und t-SNE: Sie projizieren hochdimensionale Daten in einen niedrigdimensionalen Raum, der die wichtigsten Strukturen erhält.

Das Wichtigste

  • Ein Skalar ist eine Zahl; ein Vektor ist eine geordnete Liste von Zahlen. Jede KI-Eingabe — Text, Bild, Audio — wird in einen Vektor umgewandelt.
  • Vektoren kann man addieren, skalieren und messen. Die Norm gibt die Länge; Normalisierung erhält nur die Richtung.
  • Das Skalarprodukt misst, wie parallel zwei Vektoren sind. Die Kosinus-Ähnlichkeit normalisiert das auf [−1, +1] und ist das Standardmaß für Embeddings. Jedes Neuron berechnet ein Skalarprodukt.

Quiz: Vektoren

Frage 1 / 4
Noch offen

Was ist der Unterschied zwischen einem Skalar und einem Vektor?

Wählen Sie eine Antwort
Auflösung: 1) B · 2) C · 3) B · 4) B

Lernziele

  • Erkläre, was ein 768-dimensionaler Vektor in einem Sprachmodell beschreibt und warum man sich diesen Raum nicht bildlich vorstellen kann.
  • Beschreibe, was geometrisch passiert, wenn man einen Vektor mit dem Skalar −1 multipliziert.
  • Warum ist die Kosinus-Ähnlichkeit für den Vergleich von Wort-Embeddings besser geeignet als das reine Skalarprodukt?