Bias

Bias bezeichnet im maschinellen Lernen eine systematische Abweichung: ein Muster, mit dem ein KI-System bestimmte Ergebnisse regelmäßig in eine Richtung verschiebt. Der Begriff ist zunächst neutral – er beschreibt eine Tendenz, keine Wertung; ein Bias ist nicht per se schlecht. Im engeren statistischen Sinn meint Bias den systematischen Anteil des Modellfehlers (Bias-Varianz-Dilemma) oder den Bias-Term eines Neurons. Im weiteren Sinn entsteht er auf mehreren Wegen: durch (Vor-)urteile von Menschen, die in die Trainingsdaten einfließen; durch Daten, die die Realität nur unvollständig abbilden (etwa wenn bestimmte Gruppen unterrepräsentiert sind); oder durch Entscheidungen beim Entwurf des Algorithmus. Ob ein Bias ein Mangel ist, hängt davon ab, ob die Abweichung sachlich gerechtfertigt ist – ein Unterschied ist nicht automatisch ein Fehler. Beruht er auf einem real relevanten Faktor, bildet das Modell die Welt korrekt ab. Beruht er dagegen auf für die Aufgabe irrelevanten Merkmalen, auf bloßen Stellvertretern dafür oder auf Mess- und Stichprobenfehlern, dann verzerrt das Modell – es misst etwas anderes als das, was es messen soll. Die nützliche Frage ist deshalb nicht, ob ein Unterschied besteht, sondern ob er für die jeweilige Aufgabe relevant und begründet ist. Das Tückische: Anders als ein einzelnes menschliches Urteil wird ein Bias im automatisierten System zu einem reproduzierbaren, skalierbaren Muster – im Guten wie im Schlechten.