Räume und Richtungen (Vektoren)
Warum man in der KI ständig mit Pfeilen im n-dimensionalen Raum hantiert.
Was haben ein Foto, ein Satz und ein Song gemeinsam? Bevor ein KI-Modell sie verarbeiten kann, werden sie alle dasselbe: eine Liste von Zahlen. Diese Liste heißt Vektor. Vektoren sind das universelle Datenformat der künstlichen Intelligenz.
In diesem Artikel lernst du, was Vektoren sind, wie du mit ihnen rechnest (addieren, skalieren, Länge messen) und warum das Skalarprodukt — eine einfache Summe aus multiplizierten Komponenten — die Operation ist, die Suchmaschinen relevante Ergebnisse finden und neuronale Netze Muster erkennen lässt.
Skalar vs. Vektor — Einzelwert gegen Liste
Definition
Skalar und Vektor
Analogie
Beispiel
Definition
- 1. Breitengrad: 52,52 — ein Skalar. Fixiert nur eine Linie.
- 2. + Längengrad: [52,52; 13,41] — ein 2D-Vektor. Verortet Berlin.
- 3. + Höhe: [52,52; 13,41; 34] — ein 3D-Vektor.
- 4. Embedding: 768 Dimensionen — die Mathematik bleibt identisch.
Konkret wird jeder Datenpunkt zum Vektor: Ein Haus mit Fläche=120, Zimmer=4, Baujahr=1990, Preis=350.000 wird zu [120, 4, 1990, 350000] — einem 4D-Vektor (soll ein Modell den Preis vorhersagen, sind die ersten drei Zahlen die Features und der Preis das Ziel). 1000 Häuser = 1000 Vektoren = ein ML-Datensatz.
import numpy as np
# Ein Haus als 4D-Vektor
haus = np.array([120, 4, 1990, 350000])
print(haus.shape) # (4,) — 4 Komponenten: ein 4D-Vektor, für NumPy ein 1D-ArrayAchtung
Irrtum: Ein Vektor ist ein Pfeil
In 2D/3D kann man einen Vektor als Pfeil zeichnen — das ist hilfreich zum Einstieg. Aber in höheren Dimensionen (z.B. 768D für ein Satz-Embedding) kann man keine Pfeile mehr zeichnen. Ein Vektor ist eine abstrakte geordnete Liste von Zahlen. Die Pfeil-Intuition ist ein Startpunkt, nicht das ganze Bild.
JEDE Eingabe in ein neuronales Netz — Text, Bild, Audio — wird zuerst in einen numerischen Vektor umgewandelt. Ohne Vektoren keine KI.
Vektoroperationen — Addieren, Skalieren, Messen
Drei grundlegende Operationen machen Vektoren zum Werkzeug für KI: Addition, Skalarmultiplikation und die Norm (Länge).
Vektoraddition
Komponentenweise: Jede Position wird einzeln addiert. Geometrisch bedeutet das: Vektoren werden "hintereinander gehängt" (Parallelogrammregel).
Skalarmultiplikation
Jede Komponente wird mit demselben Skalar multipliziert. Das streckt (c > 1), staucht (0 < c < 1) oder dreht um (c < 0) den Vektor.
Norm (Länge)
Die Norm verallgemeinert den Satz des Pythagoras auf beliebig viele Dimensionen. Für [3, 4]: √(9 + 16) = √25 = 5.
import numpy as np
v1 = np.array([3, 4])
v2 = np.array([1, 2])
print(v1 + v2) # [4 6] — Addition
print(2 * v1) # [6 8] — Skalarmultiplikation
print(np.linalg.norm(v1)) # 5.0 — Norm
print(v1 / np.linalg.norm(v1)) # [0.6 0.8] — NormalisierungMerke
Normalisierung: Nur die Richtung zählt
Teilst du einen Vektor durch seine Norm, erhältst du einen Einheitsvektor (Länge 1). Dabei bleibt die Richtung erhalten, die Skalierung verschwindet. In Embedding-Pipelines ist das essenziell: Zwei Dokumente zum selben Thema sollen ähnlich sein — unabhängig von ihrer Länge. Nicht verwechseln: Im Glossar meint Normalisierung das Angleichen von Merkmals-Skalen (z. B. Min-Max); hier geht es um die Länge eines einzelnen Vektors.
Das Skalarprodukt — Ähnlichkeit messen
Die Summe der komponentenweisen Produkte. Das Ergebnis ist ein Skalar — eine einzelne Zahl.
Gleiche Richtung → cos(0°) = 1 → bei gegebenen Längen das größte Skalarprodukt. Senkrecht → cos(90°) = 0. Entgegengesetzt → cos(180°) = −1.
Misst Richtungsähnlichkeit, wird aber auch von der Vektorlänge beeinflusst.
Misst, wie weit zwei Punkte im Raum voneinander entfernt sind (Abstand).
Kosinus-Ähnlichkeit
Das normalisierte Skalarprodukt ergibt einen Wert zwischen −1 und +1, unabhängig von der Vektorlänge. In Word-Embeddings ist die Kosinus-Ähnlichkeit das Standardmaß für semantische Verwandtschaft. Ein Embedding des Sprachmodells BERT-base (Devlin u. a. 2018) hat zum Beispiel 768 Dimensionen.
König / Königin
0,66
König / Apfel
0,41
Dimensionen (BERT-base)
768
import numpy as np
koenig = np.array([0.9, 0.1, 0.8])
koenigin = np.array([0.9, 0.8, 0.1])
apfel = np.array([0.1, 0.3, 0.05])
def cosine_sim(a, b):
return np.dot(a, b) / (np.linalg.norm(a) * np.linalg.norm(b))
print(cosine_sim(koenig, koenigin)) # ~0.66
print(cosine_sim(koenig, apfel)) # ~0.41Achtung
Irrtum: Das Skalarprodukt misst Abstand
Das reine Skalarprodukt wird von der Länge der Vektoren beeinflusst — verdopple einen Vektor, verdoppelt sich auch das Produkt. Es misst also eine Kombination aus Richtung und Länge. Die Kosinus-Ähnlichkeit rechnet die Länge heraus und vergleicht nur die reine Richtung. Abstand misst die euklidische Distanz ‖a − b‖.
Jedes Neuron in einem neuronalen Netz berechnet genau ein Skalarprodukt: Gewichtsvektor w mal Eingabevektor x plus Bias b. Die Perceptron-Demo auf diesem Portal zeigt genau diese Operation in Aktion.
Interaktiv: Vektoren addieren, skalieren, vergleichen
Die beiden Pfeile starten bei v1 und v2 aus dem Codebeispiel oben, hier a und b genannt. Stell ihre Komponenten mit den Reglern ein und wähle eine Operation: Die Addition hängt b an a, der Skalar c streckt, staucht oder dreht a um, und das Skalarprodukt zeigt mit dem Winkel θ, wie ähnlich die beiden Richtungen sind.
"Mehr Dimensionen = besser" ist ein verbreiteter Irrtum. In sehr hohen Dimensionen gleichen sich bei vielen Datenverteilungen (etwa zufällig gestreuten Punkten) die paarweisen Abstände an — alles wird fast gleich weit von allem entfernt.
Distanzbasierte Algorithmen (k-NN, Clustering) verlieren dann ihre Aussagekraft. Deshalb existieren Techniken zur Dimensionsreduktion wie PCA und, vor allem für Visualisierungen, t-SNE: Sie projizieren hochdimensionale Daten in einen niedrigdimensionalen Raum, der die wichtigsten Strukturen erhält. Das gilt aber nicht für alle Daten: Echte Embeddings sind nicht zufällig verteilt, sondern nach Bedeutung gebündelt. In solchen Daten bleiben die Abstände aussagekräftig, deshalb funktioniert die Ähnlichkeitssuche mit 768 Dimensionen trotzdem.
Merke
Das Wichtigste
- Ein Skalar ist eine Zahl; ein Vektor ist eine geordnete Liste von Zahlen. Jede KI-Eingabe — Text, Bild, Audio — wird in einen Vektor umgewandelt.
- Vektoren kann man addieren, skalieren und messen. Die Norm gibt die Länge; Normalisierung erhält nur die Richtung.
- Das Skalarprodukt misst, wie parallel zwei Vektoren sind, gewichtet mit ihrer Länge. Die Kosinus-Ähnlichkeit normalisiert das auf [−1, +1] und ist das Standardmaß für Embeddings. Jedes Neuron berechnet ein Skalarprodukt.
Prüfen
Quiz: Vektoren
Was ist der Unterschied zwischen einem Skalar und einem Vektor?
Wähle eine Antwort
1. Was ist der Unterschied zwischen einem Skalar und einem Vektor?
2. v = [3, 4]. Wie lang ist der Vektor (Norm)?
3. Zwei Vektoren haben eine Kosinus-Ähnlichkeit von 0,95. Was bedeutet das?
4. Warum normalisiert man Vektoren vor dem Vergleich per Skalarprodukt?
Prüfen
Lernziele
Kannst du das in eigenen Worten erklären? Hake ab, was sitzt.
0 von 3 sitzen