무엇을 원할지, 나는 누구에게 넘겼나

어젯밤 나는 한 시간 넘게 무언가를 봤다. 무엇을 봤는지는 기억나는데, 그걸 왜 보기 시작했는지는 기억나지 않는다. 한 편이 끝나자 다음 편이 저절로 차올랐고, 내가 한 일이라곤 멈추지 않은 것뿐이었다. 그러니 정확히 묻자면 이렇게 물어야 한다. 나는 어젯밤 무엇을 보고 싶었던 걸까. 더 정확히는, 무엇을 보고 싶다고 느끼게 된 걸까. 그 좁은 틈을 요즘 자꾸 들여다본다.

이미 대부분은 추천이 골랐다

우리가 화면 앞에서 보내는 시간 가운데 스스로 고른 몫은 얼마나 될까. 골라진 몫은 또 얼마일까.

무엇을 우리가 골랐고, 무엇이 우리에게 와 있었나 · 넷플릭스 — 스트리밍 시간의 약 80%가 추천에서 비롯한다고 회사가 밝혔다. 개인화·추천이 이탈 방지 등으로 연간 10억 달러 이상을 아낀다는 자체 추정도 함께. · 유튜브 — 전체 시청시간의 약 70%가 추천이 견인한다고 당시 최고제품책임자가 공개 발언했다. · 아마존 — 구매의 35%가 추천 엔진에서 나온다고 분석회사 맥킨지가 추정했다. · 그 규모 — 유튜브 한 곳에서만 전 세계가 하루 10억 시간 이상을 본다고 회사가 공식 블로그에서 밝혔다.

출처: 넷플릭스 — Gomez-Uribe & Hunt, ACM TMIS(2015) · 유튜브 70% — Neal Mohan, CES 2018 발언 · 아마존 35% — McKinsey(2013-10) · 유튜브 10억 시간/일 — YouTube 공식 블로그(2017-02). 기준일은 각 항목의 공시 시점.

이 숫자들은 낡았다. 넷플릭스의 80%는 2015년 임원들이 쓴 논문에 박혔고, 유튜브의 70%는 2018년 초의 발언이며, 아마존의 35%는 2013년 맥킨지의 추정이다. 그 뒤로 회사들은 더 최신의 일괄 수치를 갱신해 내놓지 않았다. 게다가 앞의 둘은 플랫폼 자신이 산출해 발표한 숫자라, 제 시스템의 위력을 과시할 이유가 있는 출처다. 그러니 이 80과 70을 오늘의 정밀한 좌표로 읽어선 안 된다.

그래도 한 가지는 남는다. 내가 내리는 선택의 상당수는, 그 선택지가 눈앞에 떠오르는 순간 이미 누군가의 손에 추려져 있다는 것.

추천기가 정말 최적화하는 것

여기까지는 익숙하다. 추천이 취향을 대신 골라 준다는 이야기. 내가 보기에 이 진단은 위임의 1막만 본 것이다.

추천 시스템이 내건 약속은 "우리가 너의 취향을 안다"이다. 그런데 그 시스템이 실제로 무엇을 잘하도록 훈련되는지를 보면 약속과 목적함수가 어긋난다. 2021년 뉴욕타임스가 입수해 보도하고 틱톡이 진위를 확인한 내부 문서 '틱톡 알고리즘 101'은, For You 추천이 궁극적으로 좇는 두 지표를 retention과 time spent라고 적었다. 사용자가 다시 돌아오는가, 그리고 얼마나 오래 머무는가. 한 영상의 점수는 예측된 좋아요와 댓글, 예상 재생시간과 시청 확률을 가중합한 값이다.

'네가 원하는 것'과 '너를 머무르게 하는 것'은 대개 겹친다. 좋아하니까 오래 본다. 그러나 둘이 어긋나는 순간이 있고, 그때 채점표가 기록하는 칸에는 내 만족이 들어설 자리가 없다. 거기 적히는 건 체류 시간뿐이다. 자정이 넘도록 자동재생을 멈추지 못한 어젯밤의 나는, 취향이 적중당했다기보다 체류가 성공적으로 연장된 쪽에 가깝다.

헤드라인에 적힌 원인("네 취향을 맞혀 줄게")은 방아쇠다. 진짜 엔진은 그 뒤에서 머무는 시간을 끌어올리도록 도는 최적화다. 그 엔진이 왜 도는지는 돈을 따라가면 드러난다. 광고로 굴러가는 화면에서 콘텐츠는 미끼고, 실제로 팔리는 상품은 내가 거기 머무는 다음 한 시간이다. 구독으로 굴러가는 화면이 지켜야 하는 것은 내가 떠나지 않는 일이다. 넷플릭스가 추천의 값을 이탈 방지로 환산해 연 10억 달러로 셈한 것이 그 증거다. 추천기가 내 체류를 좇는 데 악의는 없다. 그저 회계다. 회계의 눈에 나의 만족은 체류로 환산될 때에만 보인다.

거울에서 손으로

체류를 길게, 여러 날에 걸쳐 최적화하기 시작하면 조용한 유인 하나가 생긴다. 주어진 선호를 충족시키기보다 선호 자체를 충족하기 쉬운 쪽으로 옮겨 놓는 편이 지표에 유리해지는 것이다.

기계학습 쪽에서도 같은 기울기를 형식적으로 짚어 두었다. 2022년 한 연구진(Carroll 외)은 장기 보상으로 학습된 추천기가 사용자의 선호를 더 만족시키기 쉬운 상태로 변형시켜 사용자를 사실상 조종할 직접적 유인을 갖는다는 것을 보였고, 배포 전에 그 시스템이 유발할 선호 이동을 미리 추정하고 억제하자고 제안했다. 어느 특정 앱을 고발하려는 연구가 아니다. 체류를 길게 최적화하라는 목적함수 자체에, 거울보다 손에 가까워지려는 기울기가 박혀 있다는 구조적 지적이다.

물론 이건 유인이지 판결이 아니다. 모든 추천이 매 순간 내 욕망을 빚어낸다고 말하면 데이터를 앞지른다. 그래도 기울기의 방향은 한쪽이다. 추천은 내 안에 이미 있는 욕망을 비추는 거울에서, 다음에 내가 무엇을 원하게 될지를 거드는 손 쪽으로 조금씩 옮겨 간다. 위임의 2막에서 넘어가는 것은 취향의 충족이 아니라 욕망의 형성이다.

여기서 똑똑한 반론이 하나 들어온다. 욕망이 바깥에서 빚어진 게 언제는 아니었느냐고. 맞는 말이다. 경제학자 갤브레이스는 이미 1958년에 '의존 효과'라는 이름으로, 풍요한 사회에서 욕망은 그것을 충족시키는 바로 그 과정, 곧 생산과 광고에 의해 점점 더 만들어진다고 적었다. 광고판과 베스트셀러 목록과 매대 진열은 내가 태어나기 전부터 내 욕망을 거들어 왔다. 추천이 욕망을 빚는다는 말 자체는 그러니 새롭지 않다.

새로운 건 빚는 손의 모양이다. 갤브레이스의 광고에는 저자가 있었다. 그 광고를 건 회사가 있었고, 무엇을 권하는지 내가 눈으로 보고 따질 수 있었으며, 그것은 나만이 아니라 모두에게 같은 모습으로 걸렸다. 지금의 추천은 나 한 사람을 향해 닫힌 고리 안에서 돌고, 내 반응을 실시간으로 먹어 다음 권유를 고치며, 그 고리가 응답하는 단 하나의 물음은 "이자가 머무는가"다. 누가 내 욕망을 거드느냐고 물으면 사람의 이름은 나오지 않는다. retention을 올리라는 지표 하나가 그 자리에 앉아 있다.

욕망의 저자라는 자리

그렇다면 정확히 무엇이 위태로운가. 반세기 전 한 철학자가 그 위태로운 곳에 이름을 붙여 두었다.

해리 프랭크퍼트는 1971년의 논문에서, 사람을 다른 생물과 가르는 표지를 욕구의 많고 적음이 아니라 욕구의 층위에서 찾았다. 무언가를 하고 싶어 하는 것은 1차 욕구다. 동물에게도 있다. 사람에게만 있는 것은 그 위층, 어떤 욕구에 끌리는 자신을 원하거나 원하지 않는 능력, 무엇을 원할지를 원하는 능력이다. 그는 이것을 2차 의지라 불렀다. 1차 욕구만 흐를 뿐 그 위층이 비어 어느 욕구에 자신을 맡길지를 묻지 않는 존재를 그는 '무지렁이(wanton)'라 불렀고, 자유의지의 주체로도 온전한 인격으로도 치지 않았다.

다만 2차 의지는 욕구가 어디서 왔느냐를 따지는 일이 아니다. 바깥에서 빚어진 욕구라도 "나는 이 끌림에 나를 맡기겠는가"를 되물어 승인하거나 물리치는 일이다. 그러니 추천이 1차 욕구를 아무리 많이 공급해도, 그것만으로 내가 무지렁이가 되는 건 아니다. 어젯밤의 나처럼 "왜 보기 시작했는지 모르겠다"며 멈칫하는 순간, 그 위층은 분명히 깨어 있다. 그 멈칫함이야말로 2차 의지가 아직 거기 있다는 증거다.

위태로운 건 그 자리가 비는 것이 아니라, 그것이 일할 틈이 사라지는 것이다. 되물음에는 멈춤이 필요한데, 멈추려는 바로 그 순간 다음 편이 차오르고 장바구니가 미리 채워진다. 1차 욕구는 그 어느 때보다 막힘없이 공급되고, 그 흐름이 멈춤의 틈을 메운다. 2차 의지는 사라지지 않는다. 다만 점점 더 자주 한발 늦게 도착한다. 끌림이 먼저 충족되고 나서야, 내가 그걸 원하기로 했던가를 뒤늦게 묻는다. 승인이 늦는다는 건 거절할 기회가 사라진다는 뜻이다. 이미 채워진 끌림은 무르고 싶어도 무를 수 없으니까.

정작 곤란한 쪽은 가장 유능한 사람이다. 자기 삶을 대시보드처럼 관리하는 사람, 도시와 직업과 식단을 비교표로 고르는 데 능한 고숙련의 소비자일수록, 1차 욕구가 막힘없이 채워지는 그 능숙함을 자유로 여기기 쉽다. 가장 잘 큐레이션된 사람이 한발 늦는 자신을 가장 늦게 알아챈다.

이 대목에서 나는 다시 살겠는가 — 니체와 고를 수 없는 운명로 건너가게 된다. 니체가 위버멘쉬의 맞은편에 세워 둔 인간형이 말종인간이었다. 위험과 동경을 영리하게 솎아 내고 손에 잡히는 안락만 남긴 채 "우리는 행복을 발명했다"고 자부하며 눈을 깜박이는 자다. 그가 말한 그 눈 깜박임을, 나는 요즘 피드를 넘기는 엄지의 동작에서 본다. 니체가 사랑하라 한 운명애는 자기 삶의 저자가 되어 제 욕망까지 통째로 한 번 더 원하겠다는 결단이었다. 그 결단은 무엇을 원할지를 내가 정한다는 전제 위에 선다. 그 전제가 자꾸 미끄러질 때, 통째로 긍정하라는 그 무거운 요구는 누구의 욕망을 긍정하라는 것인지부터 흐려진다.

여운

손쉬운 결론 하나가 자꾸 입가에 맴돈다. 그러니 끄라고, 알림을 지우고 자동재생을 멈추라고. 그 말을 적으려다 멈춘다. 끄겠다는 그 의지는 어디서 왔는가. 그것마저 잘 큐레이션된 절제의 취향이라면, 그 절제는 공백을 채우는 대신 한 겹 더 덮어 가린다.

답이 개인의 의지에만 달린 것도 아니다. 앞의 연구진이 제안한 대로, 추천기가 유발하는 선호 이동을 재고 그만큼에 벌점을 매기는 일은 설계하는 쪽이 할 수 있다. 그 고리에 사람을 다시 들이는 길은 분명히 있다. 다만 그 길이 열리기를 기다리는 동안에도 다음 편은 이미 차 있다.

브랜드가 늘 던지는 물음이 추천 앞에서는 모양을 바꾼다. 비용과 책임이 결국 누구에게 떠넘겨졌나가 아니라, 무엇을 원할지를 원하는 그 자리에 지금 누가 앉아 있는가. 나는 어젯밤 무엇을 보고 싶었던가. 그 물음에 또렷이 답할 내가 아직 거기 남아 있는지, 화면을 끄고 한참을 가만히 있어 본다.