Kapitel 03: Wie maschinelles Lernen Vorurteile verstärkt und beheben kann

Autoren: Angel Zhang & Charlie Cao

Sie fragten: “Ist das Modell der Vermittler?” Die Antwort ist Ja — und es gibt mehr als ein Modell. Ein typisches Inhaltssystem enthält mindestens ein Repräsentationsmodell, ein Ranking-Modell und ein Feedback-Modell.

3.1 Wie Modelle Vorurteile verstärken

3.1.1 Repräsentationsverzerrung

Trainingsdaten tragen historische Verzerrungen. Was das Modell als “korrekt” lernt, ist nur “was historisch am häufigsten gemessen wurde.”

Zum Beispiel: Suchen Sie nach Bildern von “CEO” und Sie sehen überwiegend westliche Männer — nicht weil das Modell voreingenommen ist, sondern weil das die Trainingsdaten widerspiegelten.

3.1.2 Rückkopplungsschleifenverstärkung

Nutzerkicks → Modell lernt → System liefert mehr davon → Mehr Klicks → Stärkere Verzerrung

Dies ist ein positives Rückkopplungssystem. Einmal gestartet, beschleunigt sich die Verzerrung von selbst.

3.2 Wie Modelle Vorurteile beheben können

3.2.1 Eingeschränkte Optimierung

Fügen Sie Fairness-Einschränkungen zur Zielfunktion hinzu:
“Während die Nutzerzufriedenheit maximiert wird, stellen Sie sicher, dass keine demografische Gruppe oder Sichtweise weniger als X% der Gesamtexposition erhält.”

3.2.2 Erkundungsmechanismen

Empfehlungssysteme können absichtlich Inhalte mit “hoher Unsicherheit und geringer Vorexposition” anzeigen, um Blasengrenzen zu durchbrechen.
Dies ist die Anwendung von ε-greedy-Strategien oder Thompson Sampling in der Praxis.

3.3 Das Modell ist die Zwischenschicht — das Ziel ist die Seele

$$\text{Matrix (Zustandsraum)} \times \text{Zielfunktion} = \text{Modellverhalten}$$

Ändern Sie das Ziel, und das Modell trainiert zu einem völlig anderen Verhalten.
Deshalb muss Regulierung auf der Ebene der Zielfunktion wirken, nicht nur auf der Modellebene.

3.4 Kapitelzusammenfassung

Maschinelles Lernen ist kein neutrales Werkzeug. Es ist ein Verstärker menschlicher Ziele.

Führen Sie ein Ziel ein, und es verstärkt dieses Ergebnis in großem Maßstab.

Dies ist die grundlegende kognitive Kompetenz, die wir alle brauchen — jetzt.