토리노, 1889년 1월의 어느 아침. 한 사내가 거리에서 무너졌다. 마흔넷의 철학자였고, 그날 이후로 그는 다시 또렷한 정신으로 돌아오지 못했다. 전해지는 이야기로는, 광장에서 채찍질당하는 말의 목을 끌어안고 울다 쓰러졌다고 한다 — 다만 이 장면은 자주 옮겨지는 만큼 확증된 적은 없는, 차라리 후대가 그에게 바치고 싶어 한 한 장의 그림에 가깝다.

내가 그 장면을 자꾸 떠올리는 건, 거기 묘한 균열이 있기 때문이다. 거리에서 무너진 그 사람은, 살아 있는 동안 누구보다 강하게 자신의 운명을 사랑하라고 가르친 사람이었다. 그런 사람이 정작 어떤 운명을 맞았는지를 알고 나면 질문 하나가 가시처럼 남는다. 운명을 사랑하라는 그 말은, 정작 사랑하기 가장 어려운 운명 앞에서도 버티는 말인가. 그런데 더 묻고 싶은 건 이쪽이다. 그 요구는 정말로 그것이 필요한 사람을 찾아가는가, 아니면 가장 많이 가진 사람, 제 삶을 가장 능숙하게 주무르는 사람의 귀를 비껴가도록 만들어진 것인가. 손에 쥔 게 많아 사랑할 운명이랄 게 거의 남지 않은 사람에게, 운명을 사랑하라는 말이 무슨 수로 가닿겠는가.

신을 잃은 다음에 남는 일

운명애(amor fati)를 자기계발의 표어처럼 떼어내 읽으면 그 말의 무게가 거의 다 빠져나간다. 그 말은 원래 훨씬 큰 기계의 마지막 부품으로 깎인 것이었다.

니체가 "신은 죽었다"고 적었을 때, 그건 신앙의 유무를 따지는 문장이 아니었다. 한 문화가 옳고 그름을, 살 만한 삶과 그렇지 못한 삶을 재던 바깥의 자[尺]가 부러졌다는 진단에 가까웠다. 그가 광인의 입을 빌려 한 말은 차라리 비명이었다. 우리가 그를 죽였는데, 우리는 그 피를 닦을 물을 어디서 길어 오느냐고. 신이 쥐고 있던 건 천국의 열쇠가 아니었다. 가치의 근거였다. 그게 빠지면 남는 건 모든 게 똑같이 무의미해지는 허무다.

니체가 무서워한 건 무신론자가 아니었다. 이 허무를 알아채지 못한 채 옛 가치의 관성만으로 사는 사람이었다. 그래서 그는 가치 자체를 다시 저울에 올린다. 누가 어떤 자리에서 '선'이라는 말을 만들어 냈는지를 캐묻고, 강한 자의 자기긍정에서 자라난 도덕과 약한 자의 원한에서 자라난 도덕을 갈라 본다. 목적은 어느 편을 응원하려는 게 아니라, 우리가 자명하게 여기는 '선'조차 누군가의 발명품임을 드러내는 것이다. 바깥의 자가 부러졌다면, 이제 자를 깎는 일까지 사람의 몫으로 떨어진다.

그 떨어진 몫을 기어이 짊어지는 자에게 니체가 붙인 이름이 위버멘쉬다. 흔히 '초인'으로 옮기지만 하늘을 나는 영웅과는 상관이 없다. 주어진 가치를 받아쓰는 대신 자기 가치를 스스로 세우고 그 무게를 견디는 자, 신이 비운 입법자의 자리에 끝내 앉는 자를 가리킨다. 운명애는 내가 보기에 바로 이 줄의 끝에 매달려 있다. 스스로 가치를 세우겠다고 나선 자에게, 그 입법이 진심인지 허세인지를 묻는 마지막 시험으로.

가장 무거운 무게

그 시험을 니체는 하나의 가상 장면으로 깎아 놓았다. 어느 깊은 밤 악령이 찾아와 속삭인다고 해보자. 네가 지금 살고 있는 이 삶을, 한 톨의 고통도 한 순간의 권태도 빼지 않고 똑같은 순서로 영원히 다시 살아야 한다면. 그는 이것을 "가장 무거운 무게"라 부르며, 우주의 실제 구조에 관한 주장이 아닌 하나의 사고실험으로 내놓았다. 답을 채점하려는 물음이 아니다. 그 말을 들은 네 얼굴이 어떤 표정으로 일그러지는지를 보려는 물음이다.

이 물음과 운명애를 하나의 시험으로 포개어 읽는 건 흔한 독법이고, 솔직히 나도 그렇게 읽는다. 다만 둘이 같은 것이라고 단정하지는 않으려 한다. 니체 자신은 영원회귀에만 사고실험이라는 이름을 붙였을 뿐 운명애를 시험이라 부른 적은 없으니, 그 사이를 잇는 건 어디까지나 내가 놓는 다리다. 그럼에도 다리를 놓고 싶은 이유는 분명하다. 운명애는 일이 다 끝난 뒤 어깨를 으쓱하며 받아들이는 체념과는 멀기 때문이다. 그것은 아직 닥치지 않은 영원 전체를, 이미 지나간 가장 후회스러운 하루까지 빠짐없이 포함해서, 통째로 한 번 더 원하겠다는 결단이다. 스스로 가치를 세우겠다던 자가 정말로 제 삶 전체의 저자인지를, 이 물음이 단번에 시험한다.

긍정할 사람이 남지 않은 자리

그리고 바로 그 사람이 무너졌다. 붕괴 이후 그는 죽을 때까지 십일 년을, 처음에는 어머니의 곁에서 나중에는 누이의 곁에서, 정신을 거의 잃은 채로 살았다. 나는 이 십일 년을 두고 "그가 끝내 자신의 시험을 통과하지 못했다"고 말하고 싶은 유혹을 느낀다. 그러나 가만히 들여다보면 그건 틀린 문장이다. 시험에 실패하려면 적어도 답할 수 있는 누군가가 거기 있어야 하는데, 그 시간의 그에게는 영원회귀에 예라고 답하든 아니라고 답하든, 답을 내놓을 주체 자체가 남아 있지 않았다. 이것은 운명애가 무너진 사건이 아니라, 운명애가 말을 걸 상대가 사라진 사건이다. 그 둘은 닮은 듯해도 전혀 다른 일이다.

공정하게 덧붙이자면, 무너지기 전의 그는 평생을 앓던 사람이었다. 젊은 시절부터 그를 따라다닌 편두통 발작, 갈수록 나빠지는 눈, 자주 그를 책상에서 일으켜 세운 위장의 탈은 1879년 끝내 그를 바젤의 교수직에서 끌어내렸다. 무엇이 그를 그토록 아프게 했는지는 지금도 정설이 없다. 매독설부터 유전성 혈관질환설까지 진단은 갈리고, 나는 그 어느 쪽도 단정하지 않으련다. 다만 분명한 건, 그가 그 고통을 끌어안고도 쉬지 않고 썼다는 것, 그리고 그 통증마저 자기 사유의 숫돌로 삼았다고 읽을 여지가 충분하다는 것이다. 그러니 그의 삶을 통째로 "사랑할 수 없었던 운명"이라 봉인해 버리는 건 오히려 게으른 독해다. 다만 마지막 십일 년만큼은, 사랑도 거부도 더는 그의 몫이 아니었다.

한 가지는 분명히 해 두고 싶다. 나는 그의 붕괴를 그의 사상이 불러왔다고 말하는 게 아니다. 너무 멀리 본 자가 그 대가로 벌을 받았다는 이야기, 위험한 사상이 끝내 제 주인을 삼켰다는 이야기는, 듣기에는 그럴듯해도 받쳐 줄 근거가 없다. 그가 무너진 자리는 의학의 영역이지 철학의 영역이 아니다. 내가 두 장면을 나란히 놓는 건 인과가 아니라 아이러니 때문이다. 가장 강한 긍정을 적어 내려간 손과, 끝내 아무것도 긍정할 수 없게 된 바로 그 손.

운명은 그의 죽음에서 멈추지도 않았다. 오늘날 그의 이름과 가장 자주 묶이는 책 가운데 하나인 『권력에의 의지』는, 정작 그가 펴낸 책이 아니다. 그가 남긴 노트 더미에서 누이 엘리자베트가 골라 엮어 1901년에 세상에 내놓은 사후의 편찬물이다. 누이는 그 뒤로 아카이브를 운영하며 오빠를 민족주의의 깃발 아래 세웠고, 1932년에는 히틀러와 마주 앉았으며, 그의 정권으로부터 후원을 받았다. 그 편집이 의도된 위조였는지, 아니면 오빠를 지키고 자신을 그 곁에 세우려던 손길이 빚어낸 왜곡이었는지는 지금도 학자들 사이에서 가려지지 않은 채 논쟁이 이어지고 있다. 다만 어느 쪽이든 한동안의 결과는 같았다. 평생 무리 짓는 도덕과 반유대주의를 경멸했던 사람이, 한때 그 정반대의 상징으로 읽혔다는 것. 자기 삶의 저자가 되겠다던 사람조차, 제 이야기의 마지막 장과 그 후일담만큼은 끝내 받아쓰지 못했다.

유능할수록 멀어지는 말

여기서 나는 자꾸 우리 쪽을 돌아보게 된다. 니체가 신의 죽음 앞에 세워 둔 사람은 가치의 근거를 잃고 휘청이는 사람이었다. 그런데 그로부터 백수십 년이 지난 지금, 적어도 어떤 부류의 사람들은 그 빈자리를 전에 없이 능숙하게 메우며 산다. 직업과 도시와 신념을, 잠과 식단과 일정을, 제 얼굴과 하루의 리듬까지, 대시보드를 들여다보듯 고르고 다듬고 최적화한다. 어느 도시에 살지는 비교표로 정하고, 취향은 A/B로 테스트하듯 고른다. 신이 비운 입법자의 자리에 우리는 거의 망설임 없이 앉았다.

우리는 흔히 이 부지런함을 두고 자신을 니체가 상상한 자기입법자의 후손쯤으로 읽는다. 손쉬운 반박은 정반대의 이름표를 붙이는 것이다. 니체가 위버멘쉬의 맞은편에 또 하나의 인간형을 세워 두었으니까. 『차라투스트라』의 서두에서 차라투스트라가 군중에게 위버멘쉬를 설하자, 군중은 도리어 야유하며 외친다. 그 초인 말고 '최후의 인간'을 우리에게 달라고. 최후의 인간, 곧 말종인간은 모든 큰 것을 작게 만들고, 위험과 고난과 멀리 있는 동경을 영리하게 솎아 내며, 손에 잡히는 안락만을 남긴 자다. "우리는 행복을 발명했다" — 그는 그렇게 말하며 눈을 깜박인다. 그러니 솎고 고르고 최적화하는 우리의 부지런함을 두고 니체라면 위버멘쉬가 아니라 말종인간을 보았으리라고, 그렇게 받아치고 끝낼 수도 있다. 하지만 그 이름표는 너무 손쉽게 붙고, 붙이는 순간 그 밑에 깔린 더 불편한 것을 가려 버린다.

그 불편한 것은 이렇다. 고를 수 있는 것을 사랑하는 데에는 운명이라는 무거운 말이 필요 없다. 그건 그냥 좋은 선택이거나, 잘 골라낸 취향이다. 운명애가 무언가를 의미하려면 오직 고를 수 없는 것 앞에서여야 한다. 내가 동의한 적 없는 출생과 시대와 몸, 통제 바깥에서 나를 덮치는 우연, 그리고 내가 사라진 뒤에 나를 멋대로 빚어 갈 손들. 운명애의 과녁은 처음부터 이 고를 수 없는 잔여 하나뿐이다. 그런데 바로 거기서 역설이 닫힌다. 그 잔여를 피드 한 칸 넘기듯 시야 밖으로 밀어내는 솜씨가, 곧 우리가 유능이라 부르는 바로 그것이기 때문이다. 더 많이 통제할수록, 더 능숙하게 고르고 최적화할수록, 눈앞에 남는 잔여는 줄어든다. 하지만 잔여는 사라지는 게 아니라 시야에서만 치워질 뿐이다. 그러니 가장 유능한 사람이야말로 끝내 끌어안지 못한 채 쌓아 둔 운명이 가장 많은 사람, 즉 운명애가 가장 절실한 사람이다. 그리고 같은 그 유능함이, 그에게서 그 말을 들을 귀를 빼앗는다. 운명애는 그것이 가장 필요한 사람에게 가장 작게 들린다. 유능함은 이 시험의 자격이 아니라 실격 사유다.

니체의 마지막 십일 년과 사후의 수난은, 바로 그 잔여를 누구도 외면 못 할 크기로 키워 놓은 극단의 사례다. 그가 손쓸 수 없었던 광기, 그가 가장 혐오했을 모양으로 그를 굳혀 버린 누이의 손. 우리 대부분의 삶에서 그 잔여는 이렇게까지 잔혹하게 드러나지 않는다. 다만 작게, 꾸준히, 우리가 고른 적 없는 자리에서 매일 새어 든다. 우리가 통제의 환상에 익숙해질수록 더 보이지 않는 모양으로.

여운

그래서 나는 운명애를 시험으로 읽되, 그 시험을 니체 본인에게 되돌려 채점하지는 않으려 한다. 그건 그가 답할 수 없는 자리에 그를 다시 끌어다 세우는 일이고, 아마 그가 가장 싫어했을 종류의 일이다. 내가 붙들고 있는 물음은 차라리 한 발짝 위에, 그리고 한 발짝 이쪽에 있다. 고를 수 없는 잔여를 사랑하라는 이 오래된 요구가 하필 그것을 가장 능숙하게 시야에서 치워 버린 사람에게만 닿지 않는다면, 이 시험은 치를 자격을 갖춘 바로 그 순간 실격을 선고하는 셈이다. 그렇다면 나는 더 유능해질수록 이 말에서 더 멀어진다. 잘 고르는 법을 익힐수록 사랑하라고 남겨진 자리는 더 말끔히 비워지고, 우리는 그 요구에서 가장 듣기 좋은 부분만 오려 머그컵에 새긴 뒤, 정작 그것이 겨눈 빈자리는 못 본 척, 행복을 발명했다고 자부하며 눈을 깜박인다.

나는 아직 답을 모른다. 다만 토리노의 그 아침을 떠올릴 때마다, "다시 살겠는가"라는 물음이 어느새 그가 아니라 내 쪽으로 천천히 향해 있는 걸 느낀다. 고를 수 있는 것이라면 굳이 사랑이라 부를 것도 없다. 그는 하필 고를 수 없는 쪽에 그 무거운 말을 붙여 두었고, 그래서 이 말은 내가 더 많이 거머쥘수록 더 들리지 않게 되어 있다. 나는 그 고약한 고집을 오래 들여다본다.

오델로의 규칙을 한 줄도 배우지 않은 신경망이 있다. 그저 합법적인 수의 나열, 그러니까 기보(棋譜)만 끝없이 먹고 다음 수를 맞히도록 훈련받았을 뿐이다. 보드가 8×8이라는 것도, 돌이 뒤집힌다는 것도 누구도 알려준 적이 없다. 그런데 이 모델의 내부를 열어 보면, 지금 보드 위에 어떤 말이 어디 놓여 있는지를 계산하는 표상이 자라 있다. 규칙을 모르는 채로 보드를 아는 것이다.

이 한 장면 앞에서 나는 오래 머문다. LLM을 두고 우리는 두 진영으로 갈라선다. 한쪽은 그것이 세계를 이해한다고 하고, 다른 쪽은 인간이 써 놓은 말을 흉내낼 뿐이라고 한다. 오델로의 그 기계는 어느 쪽인가. 흉내인데 어떻게 보드를 알며, 이해라면 왜 규칙을 배운 적이 없는가. 이 글은 그 갈림길에서, 답을 고르는 대신 질문 자체가 잘못 놓였을 가능성을 따라가 보려는 기록이다.

흉내가 깊어지면 지도가 생긴다

먼저 창발(emergence) 쪽의 증거다. 약한 쪽을 허수아비로 세워 무너뜨리는 건 사유가 못 된다. 그러니 이 진영의 가장 단단한 결과부터 본다.

오델로 실험의 처음 결과는 미묘했다. 보드 상태를 복원하는 비선형 프로브의 오류율이, 무작위로 초기화한 모델에선 26.2%였는데 학습을 마친 모델에선 1.7%로 떨어졌다. 모델 안 어딘가에 보드가 들어 있다는 뜻이다. 회의론자는 여기서 "프로브가 억지로 짜낸 것 아니냐"고 물을 수 있었고, 그 반론은 정당했다. 그런데 후속 연구가 한 가지를 바꾸자 그림이 선명해졌다. 보드를 '흑/백'이라는 절대 색이 아니라 '내 것/상대 것/빈칸'이라는 플레이어 상대 좌표로 다시 읽자, 단순한 선형 프로브만으로 99%를 넘는 정확도가 나왔다. 게다가 그 선형 방향을 인위적으로 비틀면 모델의 다음 수가 인과적으로 바뀌었다. 표상이 그냥 묻어 있는 정도가 아니다. 모델이 그 표상을 읽어 수를 둔다는 얘기다.

표: 창발 진영의 핵심 증거. 출처 — Li 외, Othello-GPT(ICLR 2023) · Neel Nanda, 선형 표상 분석(2023). 기준일 2026-06-27.

오델로만의 일도 아니다. Gurnee와 Tegmark는 Llama-2 계열을 열어, 도시 이름을 넣으면 모델 내부에 위도·경도에 대응하는 선형 표상이, 사건을 넣으면 연도에 대응하는 선형 표상이 자생적으로 형성돼 있음을 보였다. 큰 모델일수록 그 지도는 정확했고, 공간을 담당하는 뉴런과 시간을 담당하는 뉴런을 따로 짚어낼 수도 있었다.

여기까지만 보면 결론은 거의 정해진 듯하다. 흉내가 충분히 깊어지면 그 안에 지도가 자란다. 다음 단어를 잘 맞히려면 결국 그 단어들이 가리키는 세계의 구조를 내면화하는 편이 유리하고, 그래서 모델은 시키지 않아도 세계의 축소판을 그린다. 그렇게 읽고 싶어진다.

서튼의 칼

강화학습의 공동 창시자이자 2024년 튜링상 공동 수상자인 리처드 서튼은 그 결론을 정면으로 거부한다. 2025년 가을, 드와르케시 파텔과의 긴 대담에서 그는 LLM을 "막다른 골목"이라 못 박았다. 그의 논리는 표상의 유무를 두고 다투지 않는다. 더 아래를 친다.

서튼의 구분은 이렇다. LLM이 학습하는 것은 "사람이 다음에 무슨 말을 할지"이지 "세계에서 다음에 무슨 일이 일어날지"가 아니다. 같은 예측처럼 보여도 둘은 근본이 다르다. 앞의 것은 인간이라는 화자(話者)의 발화 과정을 모사하는 일이고, 뒤의 것은 물리적 환경이 행동에 어떻게 반응하는지를 아는 일이다. 그래서 그는 LLM을 '세계의 모델'이 아니라 '인간 언어 생성 과정의 모델'이라 부른다. 오델로의 그 기계가 보드를 안다고 할 때조차, 그 앎은 타자가 던져 준 합법적인 수의 나열이라는 외부 데이터를 통해 간접적으로 빚어진 것이지, 스스로 돌을 놓아 보고 뒤집혀 보고 얻은 것이 아니다.

그리고 결정적으로, 서튼이 보기에 LLM에는 세 가지가 없다. 목표(goal)도, 실측자료(ground truth)도, 일하면서 배우는 능력(지속학습)도 없다. 사전학습이 끝나면 가중치는 얼어붙고, 추론만 반복한다. 오늘 틀린 것을 내일 가중치에 새겨 고쳐 오는 일이 구조적으로 일어나지 않는다. 파텔조차 이 지속학습의 부재를 "진짜 근본적인 공백"이라고 인정했다. 다만 그는 요즘 모델이 수학 증명이나 코딩처럼 정답이 검증되는 과제로 강화학습을 받는다는 점에서, 모방과 경험의 경계가 그렇게 깔끔하지 않다고 반박한다.

지도냐, 휴리스틱 더미냐

창발을 의심하는 가장 정교한 목소리는 서튼이 아니라, 인지과학자 멜라니 미첼 쪽에서 나온다. 그런데 그 의심을 끝까지 밀고 가면 창발의 부정이 아니라 더 정확한 질문에 닿는다.

미첼은 오델로 실험의 선형 프로브 결과를 진지하게 받아들이되, 거기서 "세계모델이 있다"로 건너가지는 않는다. 그의 지적은 둘이었다. 하나, 비선형 프로브는 "너무 강력"하다 — 보드를 복원한 공로가 트랜스포머가 아니라 프로브 자신의 계산력에 있을 수 있다. 둘, 학생 연구자들이 뜯어보니 오델로 모델은 하나의 일관된 보드 모델이 아니라 보드 곳곳에 흩어진 국소 규칙들의 묶음, 말하자면 '휴리스틱 더미(bag of heuristics)'에 가까웠다. 사실 첫 번째 칼날은 후속의 선형 프로브 결과(계산력이 약한 프로브로도 99%, 게다가 인과개입)에 상당 부분 무뎌졌다. 그래서 지금 살아 있는 진짜 쟁점은 두 번째, '하나의 지도냐 휴리스틱 더미냐'다. 그래서 미첼은 단정 대신 판단을 보류한다. "LLM에 추상적 세계모델이 창발했다는 주장은 아직 강한 증거로 뒷받침되지 않는다".

같은 프로브 실험이 한쪽에선 "세계모델의 증거"로, 다른 쪽에선 "휴리스틱 더미의 증거"로 읽힌다. 증거가 모자라서가 아니다. 우리가 '세계모델'이라는 말에 무엇을 담을지 합의한 적이 없어서다.

잘못 놓인 질문

오래 들여다본 끝에 내가 도달한 자리는 이렇다. "LLM이 세계모델을 가졌는가"는 잘못 놓인 질문이다.

표상이 있느냐 없느냐로 따지면, 창발 연구가 이미 답을 일정 부분 내놓았다. 무언가 지도 같은 것이 모델 안에 있다. 서튼의 반론도 실은 그 지도의 존재 자체를 부정하지 않는다. 그가 치는 것은 지도의 출처와 교정 가능성이다. 어디서 왔는가(타자의 텍스트인가, 내가 행동해 얻은 결과인가), 그리고 틀렸을 때 세계가 그것을 고칠 수 있는가.

이 두 번째에서 한 가지를 갈라 둬야 한다. '고친다'에는 두 층위가 있다. 하나는 추론 도중 같은 세션 안에서 출력을 바로잡는 일이다. 모델이 컴파일 에러를 읽고 코드를 고치고, 사람이 틀린 초안을 되돌려주면 다음 출력이 달라진다. 이런 인-컨텍스트 교정은 분명히 일어난다. 파텔이 모방과 경험의 경계가 흐리다고 한 것도 이 지점을 짚은 것이다. 다만 이 교정은 휘발성이다. 세션이 끝나면 사라지고, 가중치에는 한 글자도 남지 않는다. 다른 하나는 그 교정이 가중치에 쌓여 다음에 같은 실수를 덜 하게 되는, 영속하는 지속학습이다. 오늘의 LLM에 없는 것은 앞쪽이 아니라 바로 이 뒤쪽이다.

그러면 경계선은 '교정이 일어나느냐'가 아니라 '교정이 남아 누적되느냐'로 정밀해진다. 완벽하게 오델로 보드를 표상하는 동결된 네트워크를 상상해 보자. 그것은 보드를 안다. 한 판 한 판 안에서는 사람이 고쳐 줄 수도 있다. 그러나 그 교정이 자신에게 새겨지지 않으니, 천 판을 둬도 천 판째의 그것은 첫 판의 그것과 같은 곳에서 틀린다. 표상은 있는데, 자신을 가르치는 방식으로 틀릴 능력이 없다. 여기서 한 가지는 분명히 해 둬야 한다. 동결된 네트워크가 순간순간 유능할 수는 있다는 것이다 — 계산기는 무엇에도 교정되지 않지만 틀리지 않는다. 순간의 유능함과 스스로 나아지는 능력은 다른 축이다. 그러니 내가 그으려는 선은 '지능 일반'의 정의가 아니다. 우리가 신뢰를 위임하고 점점 더 맡기려는 종류의 지능, 시간이 갈수록 나아지는 지능을 가르는 선이다. 그 선은 '이해냐 흉내냐'라는 정적인 자리가 아니라, 무엇이 이 모델을 교정하고 그 교정이 남는가라는 동적인 자리에 그어진다.

서튼은 지속학습과 실측자료의 부재를 들어 LLM을 막다른 골목이라 부른다. 그러나 그조차 여전히 'LLM이 세계모델이냐'라는 자리에서 싸운다. 내가 옮기려는 건 그 자리 자체다. '세계모델을 가졌느냐'는 정적인 물음으로는 두 진영이 같은 프로브 결과를 두고 평행선만 달린다 — 한쪽은 표상을 보고 "있다", 다른 쪽은 출처를 보고 "흉내"라 부르며 영원히 엇갈린다. 축을 '무엇이 교정하고 그 교정이 남느냐'로 옮기는 순간, 둘이 왜 같은 증거를 반대로 읽는지가 단번에 설명된다 — 표상은 실재하나 거기에 주체성이 없고, 불일치는 증거 부족이 아니라 '세계모델'이라는 말에 합의한 적이 없어서다. 서튼의 지속학습 논점은 이 축 위의 한 좌표일 뿐, 축 그 자체가 아니다. 그가 옳게 친 곳을, 더 정확한 자리로 옮겨 다시 긋는다.

이 관점에서 보면 서튼이 평생 매달린 강화학습의 그림이 왜 그렇게 다른지 분명해진다. 강화학습의 주체는 환경에 행동을 가하고, 보상이라는 실측 신호를 되받고, 그 신호로 자신을 고친다. 오델로의 동결 네트워크가 끝내 못 하는 그 한 가지, 결과가 돌아와 자신을 고치는 일이 여기선 회로의 한복판에 있다. 서튼은 동료들과 더 멀리까지 밀어붙여, 보상 극대화라는 단일 원리만으로 자연과 인공의 지능 전체를 떠받칠 수 있다는 가설("Reward is enough")까지 내놓았다. 지능이 곧 보상 극대화냐 — 거기까지는 나도 따라가지 않는다. 스칼라 하나의 보상으로는 부족하다는 정면 반박이 학계에 나와 있고, 그 물음은 열려 있다. 그러나 큰 그림의 옳고 그름과 무관하게 한 가지는 남는다. 강화학습 회로의 한복판엔 '세계가 나를 교정한다'는 고리가 있고, 오늘의 LLM에는 그 고리가 가중치 차원에서 끊겨 있다는 사실이다. 내가 그은 축이 가리키는 곳이 바로 이 끊긴 고리다.

쓰디쓴 교훈이 제 주인을 겨눈다

그런데 한 걸음 더 가면 묘한 역설이 드러난다.

서튼은 2019년 「쓰디쓴 교훈」에서 AI 70년사의 가장 큰 교훈을 한 줄로 적었다. 연산을 활용하는 일반적 방법이 결국 인간의 도메인 지식을 박아넣은 방법을 큰 차이로 이긴다는 것. 체스도 바둑도 음성인식도, 인간이 안다고 믿는 것을 손으로 넣은 시스템은 단기엔 앞섰지만 장기엔 탐색과 학습이라는, 임의로 확장되는 두 방법에 무너졌다. 그가 남긴 문장은 칼날 같다. "우리가 생각한다고 여기는 방식을 시스템에 박아넣는 것은 장기적으로 통하지 않는다." 우리는 발견의 내용이 아니라 발견하는 능력을 심어야 한다.

그런데 바로 이 칼이 LLM을 겨눈다. LLM은 인류가 써 놓은 텍스트 전체, 즉 '인간이 발견한 내용'의 거대한 압축이다. 서튼이 보기에 그것은 쓰디쓴 교훈의 빛나는 증명이 못 된다. 오히려 부정적 사례다. 모델의 인지가 인간 지식이라는 천장에 갇혀 있고, 정작 자연계의 동물은 아무도 그런 모방학습으로 배우지 않는다는 것이다.

다만 이 마지막 전제는 다툴 만하다. 인간이야말로 언어와 문화와 기보를 통해 대규모로 모방하며 배우는 동물이고, 호모 사피엔스의 누적 문화 자체가 모방학습의 산물이다. 그렇게 보면 텍스트로 추론하는 LLM도 일종의 경험적 학습이라 우길 여지가 생긴다. 서튼의 '모방은 막다른 골목'이라는 명제는 정설이라기보다 아직 다투는 쟁점에 가깝다. 그리고 이 다툼이 끝나지 않는다는 사실이야말로 내 진단을 떠받친다. '모방이냐 경험이냐'는 선 역시 '세계모델이냐'처럼 합의 불가능한 정적 물음이다. 교정 축으로 옮기면 이 다툼은 비껴간다. 인간의 모방이든 LLM의 모방이든, 그 결과가 돌아와 자신을 고쳐 누적되느냐만 물으면 되기 때문이다.

같은 증거를 세 자리에서 다르게 읽어 보면 이렇게 갈린다.

표: 같은 증거를 가르는 세 렌즈의 변증. 출처 — Othello-GPT(Li 외, ICLR 2023) · 선형 표상(Nanda 외, 2023) · 공간·시간 표상(Gurnee·Tegmark, ICLR 2024) · 서튼 인터뷰(Dwarkesh, 2025-09-26) · 미첼(2025) · Reward is enough(Silver 외, 2021)와 그 반론(Vamplew 외, 2022). 기준일 2026-06-27.

그래서, 무엇이 이 도구를 고치는가

이 사색은 추상에서 끝나지 않고 내 책상으로 돌아온다. 우리 대부분은 이제 이 모델을 매일 쓴다. 초안을 맡기고, 코드를 짜게 하고, 자료를 요약시킨다. 그렇다면 던질 질문은 "이게 세계를 이해하는가"라는 형이상학이 아니라, 훨씬 실용적인 한 문장이 된다. 무엇이 이 출력을 교정하는가, 그 피드백 채널이 존재하는가.

정답이 곧바로 검증되는 일, 그러니까 컴파일되는 코드, 답이 맞아떨어지는 계산, 테스트가 통과하는 함수에서는 세계가 그 자리에서 출력을 빠르게 되돌려준다. 그래서 위임이 비교적 안전하다. 반대로 옳고 그름의 실측 신호가 곧장 돌아오지 않는 일, 즉 판단이나 전략이나 사실관계의 진위나 책임이 걸린 결정에서는 교정 채널이 비어 있다. 그 빈자리가 정확히 사람이 루프에 남아야 하는 자리다. (이 위임을 생사의 결정에까지 밀어붙였을 때 무엇이 사라지는가는 자율무기-위임에서 따로 다뤘다.)

여기에 한 겹을 더 얹어야 정직하다. 채널이 있다고 곧 안전한 게 아니다. 그 채널이 재는 것이 진짜 정답이냐가 또 문제다. 컴파일은 되지만 명세가 틀린 코드, 테스트는 통과하지만 테스트 자체가 잘못 짜인 함수처럼, 측정 가능한 신호를 향해 영리하게 과적합하는 일은 흔하다. 그러니 물음은 두 단으로 굴절된다. 무엇이 이 출력을 교정하는가, 그리고 그 교정이 재는 것이 정말 내가 원하는 것인가. 모델이 '이해하느냐'를 묻는 대신 '무엇이 이걸 틀렸다고 말해 주며, 그 말은 믿을 만한가'를 물으면, 어디까지 맡기고 어디서 멈춰 검수해야 하는지의 선이 또렷해진다.

서튼은 더 멀리, 인류에서 AI로의 계승이 불가피하니 두려워 말고 대비하자는 데까지 간다. 그건 검증된 사실이 아니라 한 노학자의 전망이고, 나는 거기까지 따라가지는 않는다. 다만 그가 옳게 짚은 한 가지는 남는다. 진짜 지능의 조건을 묻는 일은, 모델이 무엇을 아는지가 아니라 무엇이 모델을 고치고 그 교정이 남는지를 묻는 일이라는 것. 보드를 본 적 없이 보드를 아는 기계는 경이롭다. 그러나 그 기계가 틀린 보드를 그렸을 때 무엇이 그를 바로잡는지, 그리고 그 바로잡음이 다음 판에 남는지를 묻기 전까지, 우리는 아직 지능을 이야기한 것이 아니다.

6월 22일, SK하이닉스가 시가총액 2,079조 원으로 삼성전자를 제치고 코스피 1위에 올랐습니다. 25년 만의 역전입니다. 그런데 이 '1위'는 보통주만 센 것입니다. 삼성전자 우선주(약 180조)를 합치면 삼성 전체는 2,246조로 여전히 1위입니다. 보통주 한 줄을 어떻게 세느냐로 순위가 바뀌는 시장. 이 흔들림 자체가 지금 코스피의 정체를 예고합니다. 상위 네 종목이 지수의 절반인데, 그 네 종목이 실은 단 두 회사로 좁혀지기 때문입니다.

강세는 실적이 받칩니다

먼저 분명히 해둡니다. 이 랠리는 밸류에이션 거품이 아닙니다. SK하이닉스는 2026년 1분기에 매출 52.6조, 영업이익 37.6조를 냈습니다. 영업이익률 72%, 분기 매출 첫 50조 돌파, 창사 이래 최대입니다. 비수기라는 1분기에 나온 숫자입니다. AI·HBM 수요가 끌었습니다.

절대 이익은 삼성이 더 큽니다. 삼성전자 1분기 영업이익은 보도 기준 57.2조로 SK를 앞섭니다. 파운드리·모바일·범용 D램까지 합친 종합 실적이니까요. 그런데도 시장은 SK의 손을 들어줬습니다. 시장이 값을 매긴 건 이익의 크기가 아니라 HBM이라는 성장의 순도였습니다.

표: 삼성 vs SK하이닉스. 이익 규모는 삼성, 성장 프리미엄은 SK. 삼성 57.2조는 단일 보도 기준(med), SK 37.6조는 실적발표 확정치(high). 출처 — 양사 1Q26 실적발표(2026-04), 증권가 컨센서스 선행 PER(2026-05 중순), 한국거래소 시총(2026-06-22).

석 달 전만 해도 삼성 선행 PER 8.08배, SK 5.28배로 격차가 2.80포인트였습니다. 그게 석 달 만에 뒤집혔습니다. SK의 12개월 선행 PER은 그러고도 6배대로, 글로벌 반도체 평균보다 낮습니다. 1년 반 동안 SK 주가는 삼성의 2.6배 올랐는데도 그렇습니다. 주가가 실적을 따라간 게 아니라 실적이 주가를 끌어올린 랠리입니다. 메모리가 후공정의 보조에서 시스템의 심장으로 올라선 사이클이 그 엔진입니다(HBM 점유 2분기 SK 62%·마이크론 21%·삼성 17%).

그런데 선행 PER이 6배대로 낮다는 사실 자체가 함정입니다. 분모인 선행 이익이 OPM 72%라는 사이클 정점값을 깔고 있기 때문입니다. 메모리는 정점에서 이익이 최대가 되고, 그래서 PER이 최저로 보입니다. '싸 보이는' 그 순간이 고점인 것이 시클리컬의 오래된 함정입니다. 실적이 강세를 받치는 건 맞습니다. 그러나 그 실적이 사이클 정점이라면, 낮은 선행 PER은 안심의 근거가 아니라 그 반대입니다. 밸류 리스크는 사이클 리스크와 분리되지 않습니다. 뒤에서 보겠지만, 이 글이 하방 시나리오에서 'OPM 72%가 거꾸로 작동'한다고 적는 그 위험이, 지금 싸 보이는 PER의 뒷면입니다.

그런데 지수가 곧 두 회사입니다

문제는 이 강세가 지수 전체를 닮지 않았다는 데 있습니다.

코스피 시총 상위 4종목(삼성전자, SK하이닉스, 삼성전자우, SK스퀘어)의 비중은 1월 2일 38.83%에서 5월 6일 49.49%로 불었습니다. 지수의 절반입니다. 그런데 이 네 티커는 발행사로 따지면 둘뿐입니다. 삼성전자우는 삼성전자의 우선주이고, SK스퀘어는 SK하이닉스 지분을 가진 SK 계열 지주사니까요. '4종목 분산'으로 보이던 코스피 절반이 실은 두 회사로 좁혀집니다. 분산을 가장한 집중입니다. 코스피라는 이름표를 단 ETF를 사면, 절반은 이 두 회사에 거는 셈입니다.

이게 무슨 뜻인지는 5월 6일 하루가 보여줍니다. 그날 코스피는 6.45% 폭등했는데, 오른 종목은 200개, 내린 종목은 679개였습니다. 지수는 축포를 쏘는데 시장의 4분의 3은 파란불이었습니다. 지수가 오른 게 아니라 지수를 떠받치는 몇 종목이 오른 것입니다. +6%대 초대형 급등일 하루의 스냅샷이지만, 방향은 구조가 정합니다. 상위 4종목이 지수의 절반(49.49%, 5/6 기준)을 차지하는 한, 코스피는 한국 경제의 온도계가 아니라 HBM 사이클에 레버리지된 파생상품입니다.

강세가 매도를 부릅니다

여기서 가장 비직관적인 일이 벌어집니다. 지수가 오를수록 외국인이 더 팝니다.

올해 외국인은 한국 주식을 약 120조 원어치 순매도했습니다. 5월 한 달에만 44조 원이 넘고, 6월에도 매도 우위가 이어졌습니다. 보통 이런 숫자는 '외국인이 한국을 비관한다'로 읽힙니다. 그런데 증권가가 꼽는 핵심 동인은 약세 전망이 아니라 리밸런싱입니다. 국가별 투자 비중을 일정하게 유지하는 글로벌 연기금·운용사 입장에서, 한국 증시가 급등하면 포트폴리오 안의 한국 비중이 목표치를 넘깁니다. 그러면 기계적으로 한국 주식을 덜어내야 합니다. 좋아서 파는 매도입니다.

리밸런싱은 국내에서 편하게 받아들여지는 한 해석일 뿐입니다. 달러로 수익을 재는 외국인 매니저에게 원/달러 1,540은 원화 수익을 깎는 환손실이고, 환헤지 비용·코리아 디스카운트·능동적 디리스킹이 매도에 겹칩니다. YTD 120조는 비중 조정만으로 설명되는 규모가 아닙니다.

그 출구가 환율입니다. 원/달러는 6월 24일 주간 종가 기준 17년 만에 1,540원을 넘었고, 장중 1,550원에 근접했습니다. 최근 4거래일 외국인 누적 순매도 11조 원이 이 상승을 밀었습니다. 한국은행 기준금리는 2.5%로 8회 연속 동결 중이라(2026-05 회의 기준, 매파 연준과의 금리차), 빠져나가는 자금을 붙잡을 금리 유인도 약합니다.

약한 원화는 한 방향으로만 작동하지 않습니다. 삼성·SK는 매출을 달러로 받는 수출기업이라, 같은 1,540원이 이들의 원화 환산 이익은 부풀립니다. 랠리를 만든 그 실적의 일부가 바로 이 환율에서 옵니다. 환율은 지수에서 자금을 빼내는 출구이면서, 동시에 그 지수를 떠받치는 칩 이익의 입구입니다. 같은 집중에 양쪽으로 작용합니다.

표: 강세장 속 수급. 파는 큰손, 받는 개인. 출처 — 한국거래소 투자자별 매매(2026-06), 서울외환시장(2026-06-24).

연기금도 6월에 2.31조를 순매도했습니다. 2021년 4월 이후 5년 만의 월 최대입니다. 외국인은 비중 때문에, 연기금은 차익실현 때문에 강세에 매물을 던지고, 개인이 그 매물을 받아냅니다. 목표 비중으로 되돌리면 멈출 매물이지만, 지수가 더 오를수록 되돌릴 매물은 더 쌓입니다. 시장이 이걸 '증시 상승의 역설'이라 부르는 이유입니다.

같은 외국인 매도라도 6월 안에서 무게중심이 한 번 이동했습니다. 불과 2주 전인 6월 8일, 코스피는 -8.37% 서킷브레이커를 맞고 삼성·SK가 나란히 10%씩 빠졌으며 원/달러는 1,560까지 밀렸습니다. 그땐 매파 연준·중동 유가 발(發) 위험회피 이탈이 주된 동인이었습니다. 2주 뒤, 같은 외국인 매도·같은 원화 약세에는 상승에 대한 리밸런싱이 더 크게 섞였습니다. 그렇다고 위험회피가 사라진 건 아닙니다. 6월 26일 코스피는 -5.8% 사이드카·서킷브레이커를 동반하며 다시 급락했으니까요. 6월 말의 외국인 매도 안에는 리밸런싱과 위험회피가 뒤섞여 있었고, 6/26 폭락이 그 혼재의 증거입니다. 그래서 '외국인이 판다'는 헤드라인 하나로 방향을 읽으면 틀립니다. 무엇 때문에 파는지를 먼저 갈라야 합니다.

코스닥은 거울상에 가깝습니다

이 쏠림의 그림자가 코스닥입니다. '코스피는 가는데 코스닥은 빠진다'를 두 시장의 디커플링으로 읽지만, 두 시장은 한 흐름의 입구와 출구입니다. 대형 반도체로 빨려 들어간 자금의 상대적 공백이 코스닥에 비칩니다. 이건 자금 이동을 직접 보여주는 데이터가 아니라 쏠림의 구조에서 따라 나오는 해석이고, 코스닥의 6월 레벨은 여기서 단정하지 않습니다.

받치는 건 제도입니다. 도입이 논의되는 코스닥 승강제(프리미엄·1군 리그)는 코스닥150의 반도체 비중을 28.5%에서 프리미엄 시장 50.0%로 끌어올리고, 건강관리 비중은 28.2%에서 23.7%로 낮추는 안으로 추정됩니다. 시장 구조가 반도체를 더 태우는 쪽으로 재편되는 겁니다. 쏠림이 일시적 수급을 넘어 지수 설계로 굳어지고 있다는 신호입니다.

그래서, 무엇을 봐야 하는가

코스피 8,900은 한국 경제가 좋아졌다는 신호가 아닙니다. 그리고 그 8,900은 지금의 좌표도 아닙니다. 매파 FOMC 직후 6/18에 8,900을 뚫었지만, 6/24엔 8,471, 6/26엔 8,411로 사이드카·서킷브레이커를 동반하며 고점의 5% 남짓을 반납했습니다. 발행 시점의 지수는 8,900이 아니라 8,400대이고, 이미 두 번의 서킷브레이커(6/8 -8.37%, 6/26 -5.8%)가 취약성을 한 차례씩 실현한 뒤입니다. 이 숫자는 한국 경제 전반의 좌표가 아니라 두 회사의 좌표입니다. 반도체 사이클이 수출·설비투자로 실물에 이어진 한 축인 건 맞지만, 지수가 그 실물 전체를 대표하지는 않습니다. 그 좌표를 끝까지 결정하는 건 거시지표가 아니라 HBM 사이클의 방향입니다.

한 가지 더. 그 8,900조차 달러로 환산하면 신고가의 체감이 깎입니다. 원화가 17년 만에 가장 약한 지금, 외국인이 보는 코스피는 원화 신고가만큼 오르지 않았습니다. '사상 최고'의 상당분이 환율에서 증발한 셈입니다.

그러니 전망은 단정보다 갈래로 봐야 합니다.

표: 단정이 아닌 시나리오. 모두 검증 가능한 명제로, 어느 쪽이었는지는 HBM4 양산이 진행되며 판가름. 출처 — 삼성전자 발표·UBS·Counterpoint(2026, 전망), SK 1Q26 실적(2026-04), KRX(2026-05~06). 투자 권유 아님.

독자의 점검 순서는 여기서 나옵니다. 코스피 레벨보다 세 가지 노출을 봐야 합니다. 첫째, HBM 사이클. 내 포지션이 메모리 업황의 함수인가. 둘째, 원화. 외국인 리밸런싱이 이어지는 한 원화 약세는 지수와 별개로 진행됩니다. 셋째, 집중. '한국 분산'이라 믿은 코스피 인덱스가 실은 반도체 한 곳에 절반을 건 포지션은 아닌가. 이 집중이 지금까지 패시브 보유자의 수익을 만들었고, 같은 집중이 그들의 위험입니다.

강세는 진짜이고 취약성도 진짜입니다. 둘은 같은 사실입니다. 지수의 절반이 두 회사라는 집중 하나가 이 랠리를 만들고 또 위태롭게 합니다. 그러니 다음에 '코스피 사상 최고'라는 헤드라인을 보거든, 한 번 더 물어야 합니다. 한국이 오른 겁니까, 아니면 두 회사가, 그것도 원화로만 오른 겁니까.