제02장 필터 버블은 우연이 아니라 목적 함수다

저자: Angel Zhang & Charlie Cao

많은 사람들이 필터 버블을 "사용자가 자연스럽게 비슷한 콘텐츠에 끌린다"고 이해합니다. 그것은 이야기의 절반에 불과합니다. 나머지 절반: 시스템은 특정 목표를 최적화하도록 요구받기 때문에 이 선호도를 능동적으로 강화합니다.

2.1 제품 지표를 통해 버블 읽기

시스템이 주로 최적화하는 것이:

• 체류 시간 → 중독성 있는 콘텐츠가 승리
• 클릭률 → 감정적으로 충전된 제목이 승리
• 재방문율 → "이 곳이 나를 이해한다"는 느낌을 주는 콘텐츠가 승리

세 가지가 결합되면, 필터 버블은 거의 불가피해집니다.

2.2 목적 함수의 부작용

모든 최적화 목표에는 부작용이 있습니다——이것은 굿하트의 법칙으로 알려져 있습니다:
“측정 지표가 목표가 되면, 더 이상 좋은 측정 지표가 아니다.”

추천 시스템은 정량화 가능한 목표를 추구합니다. 하지만 “진정한 사용자 성장,” “인지적 다양성,” "장기적 웰빙"은 쉽게 측정할 수 없기 때문에——체계적으로 무시됩니다.

2.3 맞춤형 교육 vs. 필터 버블: 얇은 선 하나

같은 기술이 완전히 반대되는 결과를 낼 수 있습니다:

설계 목표	결과
참여도 최대화	필터 버블
학습 효과 최대화	맞춤형 교육
균형 잡힌 목표 + 다양성 제약	열린 인지 시스템

목적 함수가 시스템의 영혼을 결정한다.

2.4 장 요약

필터 버블은 사용자의 잘못도, 플랫폼의 악의도 아닙니다——최적화 목표와 진정한 인간의 인지적 필요 사이의 구조적 불일치입니다.

이를 수정하려면 콘텐츠를 변경하는 것이 아니라 목적 함수를 변경해야 합니다.