Zurück zum Lernbereich

Räume und Richtungen (Vektoren)

Warum man in der KI ständig mit Pfeilen im n-dimensionalen Raum hantiert.

  • Grundlagen
  • 11 min
  • Einsteiger

Einfache Sprache

Diese Vorschau ist in Einfacher Sprache. Das ganze Portal gibt es auch in Einfacher Sprache. Du kannst oben die Sprache wechseln. Oder nutze den Knopf unten. Unsere Texte in Einfacher Sprache entstehen KI-gestützt und werden redaktionell begleitet. Sie orientieren sich an den Grundprinzipien der Leichten Sprache, sind aber keine geprüfte Leichte Sprache: Eine Prüfgruppe von Menschen mit Lernschwierigkeiten prüft sie nicht.

Vorschau: Vektoren: Listen aus Zahlen

Was ist ein Vektor?

Ein Vektor ist eine geordnete Liste von Zahlen. Jede KI-Eingabe wird zu einem Vektor. Zum Beispiel wird ein Haus zu Zahlen: Fläche, Zimmer, Baujahr. So kann der Computer damit rechnen.

Mit Vektoren rechnen

Mit Vektoren kann man rechnen. Man kann sie addieren. Man kann sie strecken oder stauchen. Die Länge eines Vektors nennt man Norm. Die Norm misst den Abstand vom Nullpunkt.

Ähnlichkeit messen

Vektoren kann man miteinander vergleichen. Das nennt man Skalarprodukt. Skalarprodukt heißt: Zwei Listen multiplizieren und die Ergebnisse addieren. So findet eine Suche ähnliche Texte.

Was haben ein Foto, ein Satz und ein Song gemeinsam? Bevor ein KI-Modell sie verarbeiten kann, werden sie alle dasselbe: eine Liste von Zahlen. Diese Liste heißt Vektor. Vektoren sind das universelle Datenformat der künstlichen Intelligenz.

In diesem Artikel lernst du, was Vektoren sind, wie du mit ihnen rechnest (addieren, skalieren, Länge messen) und warum das Skalarprodukt — eine einfache Summe aus multiplizierten Komponenten — die Operation ist, die Suchmaschinen relevante Ergebnisse finden und neuronale Netze Muster erkennen lässt.

Skalar vs. Vektor — Einzelwert gegen Liste

Definition

Skalar und Vektor

Analogie

GPS-Koordinaten: Ein einzelner Breitengrad (52,52) ist ein Skalar — er fixiert dich nur auf einer Ost-West-Linie (dem Breitenkreis). Erst die Kombination [52,52; 13,41] ergibt einen 2D-Vektor, der Berlin eindeutig verortet. Füge die Höhe hinzu: [52,52; 13,41; 34] — ein 3D-Vektor. KI-Embeddings funktionieren genauso, nur mit Hunderten oder Tausenden Dimensionen.

Beispiel

Die GPS-Analogie hat 2-3 Dimensionen mit klarer physischer Bedeutung. KI-Embedding-Dimensionen sind emergent — vom Optimierungsalgorithmus gelernt — und nicht direkt interpretierbar.
  1. 1. Breitengrad: 52,52 — ein Skalar. Fixiert nur eine Linie.
  2. 2. + Längengrad: [52,52; 13,41] — ein 2D-Vektor. Verortet Berlin.
  3. 3. + Höhe: [52,52; 13,41; 34] — ein 3D-Vektor.
  4. 4. Embedding: 768 Dimensionen — die Mathematik bleibt identisch.

Konkret wird jeder Datenpunkt zum Vektor: Ein Haus mit Fläche=120, Zimmer=4, Baujahr=1990, Preis=350.000 wird zu [120, 4, 1990, 350000] — einem 4D-Vektor (soll ein Modell den Preis vorhersagen, sind die ersten drei Zahlen die Features und der Preis das Ziel). 1000 Häuser = 1000 Vektoren = ein ML-Datensatz.

import numpy as np

# Ein Haus als 4D-Vektor
haus = np.array([120, 4, 1990, 350000])
print(haus.shape)  # (4,) — 4 Komponenten: ein 4D-Vektor, für NumPy ein 1D-Array

Achtung

Irrtum: Ein Vektor ist ein Pfeil

In 2D/3D kann man einen Vektor als Pfeil zeichnen — das ist hilfreich zum Einstieg. Aber in höheren Dimensionen (z.B. 768D für ein Satz-Embedding) kann man keine Pfeile mehr zeichnen. Ein Vektor ist eine abstrakte geordnete Liste von Zahlen. Die Pfeil-Intuition ist ein Startpunkt, nicht das ganze Bild.

JEDE Eingabe in ein neuronales Netz — Text, Bild, Audio — wird zuerst in einen numerischen Vektor umgewandelt. Ohne Vektoren keine KI.

Vektoroperationen — Addieren, Skalieren, Messen

Drei grundlegende Operationen machen Vektoren zum Werkzeug für KI: Addition, Skalarmultiplikation und die Norm (Länge).

Vektoraddition

[a₁, a₂] + [b₁, b₂] = [a₁+b₁, a₂+b₂]
Vektoraddition

Komponentenweise: Jede Position wird einzeln addiert. Geometrisch bedeutet das: Vektoren werden "hintereinander gehängt" (Parallelogrammregel).

Skalarmultiplikation

c · [a₁, a₂] = [c·a₁, c·a₂]
Skalarmultiplikation

Jede Komponente wird mit demselben Skalar multipliziert. Das streckt (c > 1), staucht (0 < c < 1) oder dreht um (c < 0) den Vektor.

Norm (Länge)

‖v‖ = √(v₁² + v₂² + … + vₙ²)
Euklidische Norm

Die Norm verallgemeinert den Satz des Pythagoras auf beliebig viele Dimensionen. Für [3, 4]: √(9 + 16) = √25 = 5.

import numpy as np
v1 = np.array([3, 4])
v2 = np.array([1, 2])

print(v1 + v2)              # [4 6]  — Addition
print(2 * v1)               # [6 8]  — Skalarmultiplikation
print(np.linalg.norm(v1))   # 5.0    — Norm
print(v1 / np.linalg.norm(v1))  # [0.6 0.8] — Normalisierung

Merke

Normalisierung: Nur die Richtung zählt

Teilst du einen Vektor durch seine Norm, erhältst du einen Einheitsvektor (Länge 1). Dabei bleibt die Richtung erhalten, die Skalierung verschwindet. In Embedding-Pipelines ist das essenziell: Zwei Dokumente zum selben Thema sollen ähnlich sein — unabhängig von ihrer Länge. Nicht verwechseln: Im Glossar meint Normalisierung das Angleichen von Merkmals-Skalen (z. B. Min-Max); hier geht es um die Länge eines einzelnen Vektors.

Das Skalarprodukt — Ähnlichkeit messen

a · b = a₁b₁ + a₂b₂ + … + aₙbₙ
Skalarprodukt (Dot Product)

Die Summe der komponentenweisen Produkte. Das Ergebnis ist ein Skalar — eine einzelne Zahl.

a · b = ‖a‖ · ‖b‖ · cos(θ)
Geometrische Interpretation

Gleiche Richtung → cos(0°) = 1 → bei gegebenen Längen das größte Skalarprodukt. Senkrecht → cos(90°) = 0. Entgegengesetzt → cos(180°) = −1.

Skalarprodukt

Misst Richtungsähnlichkeit, wird aber auch von der Vektorlänge beeinflusst.

Euklidische Distanz

Misst, wie weit zwei Punkte im Raum voneinander entfernt sind (Abstand).

Kosinus-Ähnlichkeit

cos(θ) = (a · b) / (‖a‖ · ‖b‖)
Kosinus-Ähnlichkeit

Das normalisierte Skalarprodukt ergibt einen Wert zwischen −1 und +1, unabhängig von der Vektorlänge. In Word-Embeddings ist die Kosinus-Ähnlichkeit das Standardmaß für semantische Verwandtschaft. Ein Embedding des Sprachmodells BERT-base (Devlin u. a. 2018) hat zum Beispiel 768 Dimensionen.

König / Königin

0,66

König / Apfel

0,41

Dimensionen (BERT-base)

768

import numpy as np

koenig   = np.array([0.9, 0.1, 0.8])
koenigin = np.array([0.9, 0.8, 0.1])
apfel    = np.array([0.1, 0.3, 0.05])

def cosine_sim(a, b):
    return np.dot(a, b) / (np.linalg.norm(a) * np.linalg.norm(b))

print(cosine_sim(koenig, koenigin))  # ~0.66
print(cosine_sim(koenig, apfel))     # ~0.41

Achtung

Irrtum: Das Skalarprodukt misst Abstand

Das reine Skalarprodukt wird von der Länge der Vektoren beeinflusst — verdopple einen Vektor, verdoppelt sich auch das Produkt. Es misst also eine Kombination aus Richtung und Länge. Die Kosinus-Ähnlichkeit rechnet die Länge heraus und vergleicht nur die reine Richtung. Abstand misst die euklidische Distanz ‖a − b‖.

z = w · x + b
Neuron-Berechnung

Jedes Neuron in einem neuronalen Netz berechnet genau ein Skalarprodukt: Gewichtsvektor w mal Eingabevektor x plus Bias b. Die Perceptron-Demo auf diesem Portal zeigt genau diese Operation in Aktion.

Interaktiv: Vektoren addieren, skalieren, vergleichen

Die beiden Pfeile starten bei v1 und v2 aus dem Codebeispiel oben, hier a und b genannt. Stell ihre Komponenten mit den Reglern ein und wähle eine Operation: Die Addition hängt b an a, der Skalar c streckt, staucht oder dreht a um, und das Skalarprodukt zeigt mit dem Winkel θ, wie ähnlich die beiden Richtungen sind.

"Mehr Dimensionen = besser" ist ein verbreiteter Irrtum. In sehr hohen Dimensionen gleichen sich bei vielen Datenverteilungen (etwa zufällig gestreuten Punkten) die paarweisen Abstände an — alles wird fast gleich weit von allem entfernt.

Distanzbasierte Algorithmen (k-NN, Clustering) verlieren dann ihre Aussagekraft. Deshalb existieren Techniken zur Dimensionsreduktion wie PCA und, vor allem für Visualisierungen, t-SNE: Sie projizieren hochdimensionale Daten in einen niedrigdimensionalen Raum, der die wichtigsten Strukturen erhält. Das gilt aber nicht für alle Daten: Echte Embeddings sind nicht zufällig verteilt, sondern nach Bedeutung gebündelt. In solchen Daten bleiben die Abstände aussagekräftig, deshalb funktioniert die Ähnlichkeitssuche mit 768 Dimensionen trotzdem.

Merke

Das Wichtigste

  • Ein Skalar ist eine Zahl; ein Vektor ist eine geordnete Liste von Zahlen. Jede KI-Eingabe — Text, Bild, Audio — wird in einen Vektor umgewandelt.
  • Vektoren kann man addieren, skalieren und messen. Die Norm gibt die Länge; Normalisierung erhält nur die Richtung.
  • Das Skalarprodukt misst, wie parallel zwei Vektoren sind, gewichtet mit ihrer Länge. Die Kosinus-Ähnlichkeit normalisiert das auf [−1, +1] und ist das Standardmaß für Embeddings. Jedes Neuron berechnet ein Skalarprodukt.

Prüfen

Quiz: Vektoren

Noch offen

Was ist der Unterschied zwischen einem Skalar und einem Vektor?

Wähle eine Antwort

Auflösung: 1) B · 2) C · 3) B · 4) B

Prüfen

Lernziele

Kannst du das in eigenen Worten erklären? Hake ab, was sitzt.

0 von 3 sitzen