Kapitel 02: Filterblasen sind keine Unfälle — sie sind Zielfunktionen

Autoren: Angel Zhang & Charlie Cao

Viele Menschen verstehen Filterblasen als “Benutzer, die natürlich zu ähnlichen Inhalten gravitieren.” Das ist nur die halbe Wahrheit. Die andere Hälfte: Das System verstärkt diese Präferenz aktiv, weil es ein spezifisches Ziel optimieren muss.

2.1 Filterblasen durch Produktmetriken lesen

Wenn ein System hauptsächlich optimiert für:

• Verweildauer → süchtig machende Inhalte gewinnen
• Klickrate → emotional aufgeladene Überschriften gewinnen
• Rückkehrrate → Inhalte, die Sie fühlen lassen “dieser Ort versteht mich”, gewinnen

Wenn alle drei zusammenkommen, wird die Filterblase fast unvermeidlich.

2.2 Die Nebenwirkungen von Zielfunktionen

Jedes Optimierungsziel hat Nebenwirkungen — dies ist bekannt als Goodharts Gesetz:
“Wenn eine Kennzahl zum Ziel wird, hört sie auf, eine gute Kennzahl zu sein.”

Empfehlungssysteme verfolgen quantifizierbare Ziele. Aber “echtes Nutzerwachstum,” “kognitive Vielfalt” und “langfristiges Wohlbefinden” können nicht leicht gemessen werden — sie werden daher systematisch ignoriert.

2.3 Personalisierte Bildung vs. Filterblasen: eine dünne Linie

Die gleiche Technologie kann völlig gegensätzliche Ergebnisse produzieren:

Designziel	Ergebnis
Engagement maximieren	Filterblase
Lerngewinn maximieren	Personalisierte Bildung
Ausgewogene Ziele + Diversitätsbeschränkungen	Offenes kognitives System

Die Zielfunktion bestimmt die Seele des Systems.

2.4 Kapitelzusammenfassung

Die Filterblase ist nicht die Schuld des Nutzers, noch ist sie die Böswilligkeit der Plattform — sie ist eine strukturelle Fehlausrichtung zwischen Optimierungszielen und echten menschlichen kognitiven Bedürfnissen.

Sie zu beheben erfordert die Änderung der Zielfunktion, nicht nur die Änderung des Inhalts.