파국적 망각 — 뇌는 잊어서 배우고, 기계는 배운 자리에 저장하다 무너진다

강아지 사진 100장으로 개를 완벽히 가려내던 신경망에 고양이를 가르쳐 보자. 몇 번의 학습만에 고양이는 배운다. 그런데 강아지가 사라진다. 절벽에서 떨어지듯 무너져, 방금 전까지 백발백중이던 분류기가 개를 못 알아본다.

이상한 일이다. 사람도 새것을 배우며 옛것을 조금씩 흘리지만, 이렇게 통째로 잃지는 않는다. 더 이상한 것이 있다. 뇌는 신경망보다 훨씬 공격적으로 잊는다. 잠들 때마다 약한 연결을 쳐낸다. 그런데도 더 잘 기억한다. 더 많이, 더 오래 붙들수록 좋을 것 같은데, 왜 잘 잊는 쪽이 이기는가.

우리가 쓸 좌표계를 하나 심어 두자. 신경망의 기억을 젖은 시멘트 판이라고 하자. 판이 말랑하면 새 글씨를 또렷이 새기지만, 새기는 손이 지나가며 옆의 옛 글씨를 뭉갠다. 판이 굳으면 새긴 글씨는 지켜지지만 더는 새 글씨가 들어가지 않는다. 새기는 능력과 지키는 능력이 같은 표면 하나에 얹혀 있다. 앞질러 말하면, 뇌가 이 판을 다루는 비결은 판 전체를 말랑하게도 굳게도 두지 않는 것이다. 일부만 골라 말랑하게 두고, 약한 자국은 지운다. 그래서 진짜 물음은 "어떻게 다 기억하나"가 아니라 "무엇을, 언제, 어디서 잊나"다.

새것을 배우면 옛것이 무너진다

이 현상에는 이름이 있다. 파국적 망각은 신경망이 과제를 순서대로 배울 때, 새 과제를 익히면 옛 과제의 성능이 절벽처럼 무너지는 학습 실패를 말한다.

1989년, 두 연구자가 이 현상에 처음 이름을 붙였다. 그들이 붙인 원래 이름은 파국적 간섭이었다. 겹쳐 저장된 기억이 서로를 간섭한다는 뜻이다. 뒤에 한 논문이 제목으로 '망각'을 앞세우며 그 이름이 굳었는데, 같은 현상의 다른 강조점일 뿐이다.

최초 명명 · McCloskey & Cohen(1989)이 catastrophic interference로 처음 문제화했고, French(1999)가 논문 제목에 catastrophic forgetting을 앞세우며 그 이름이 굳었다.

첫 시연은 단순했다. 한 자리 덧셈을 배우는 작은 망에 '1 더하기'들을 먼저 가르친 뒤 '2 더하기'들로 학습을 이어가자, '2 더하기'를 한 차례 학습시킨 것만으로 이미 익힌 '1 더하기'가 무너졌다. 여기서 가중치는 신경망이 학습으로 조정하는 내부 매개변수다. 지식이 응고되는 자리이고, 파라미터라고도 한다. 새 학습이 그 가중치를 건드리는 한 최소한의 간섭은 불가피하다는 것이 그들의 결론이었다.

사람으로 치면 이런 일이다. 새 집의 방 배치를 외우자 옛 집의 구조가 통째로 지워지는 사람. 옛 번호를 저장한 기억 전체가 새 번호를 외운 순간 붕괴한다. 흔히 이걸 "AI가 사람처럼 까먹는다"고 말한다. 편한 비유지만 거기까지다. 사람은 이렇게 잊지 않는다.

정작 걸려 있는 통념은 다른 데 있다. 하나, 사람들은 기계가 안 잊는다고 여긴다. 넣어 둔 것은 그 자리에 그대로 있으리라 기대한다. 둘, 그런 일이 있었더라도 지금은 지난 이야기라고 여긴다. 요즘 모델은 한 번에 놓고 보는 입력 뭉치, 맥락창 안에서 새 정보를 그때그때 흡수하니 낡은 문제 아닌가. 우리가 보이려는 것은 이 둘이 다 뒤집힌다는 것이다. 기계는 사람보다 훨씬 험하게 잃는다. 다만 그 붕괴를 부르는 것은 잊음의 부재가 아니라, 배우는 자리와 저장하는 자리를 같이 쓴다는 설계다. 고르는 장치가 없다는 것은 그 위에 얹힌 두 번째 결손이다 — 무엇을 지킬지 고르지 못해 잃는 양이 커지고, 무엇을 흘려보낼지 고르지 못해 학습기가 굳는다. 맥락창 쪽 통념은 뒤에서 따로 갚기로 한다.

엔진을 뜯으면

왜 완만히가 아니라 절벽처럼 무너지는가. 엔진을 뜯으면 부품이 물린 사슬 하나가 나온다.

첫째, 신경망은 지식을 분산 표상으로 담는다. 표상이란 망이 배운 것을 안에 담아 둔 형태고, 분산이란 한 뉴런이나 한 가중치가 아니라 여러 가중치에 흩어져 겹쳐 저장한다는 뜻이다. 시멘트 판으로 돌아가면, 한 지식이 판 위 한 점에 찍히는 것이 아니라 넓게 번져 새겨지고, 다른 지식의 자국과 같은 자리를 나눠 쓴다.

이 겹침은 결함이 아니다. 겹쳐 저장하기 때문에 신경망은 배운 적 없는 입력에도 일반화한다. 이미 1999년에 지적됐듯, 일반화를 준 바로 그 "단일한 공유 가중치 집합"이 간섭의 원천이다.

공유 가중치 · French(1999). 파국적 망각의 주원인을 은닉층 분산 표상의 겹침으로 짚은 리뷰.

둘째, 신경망은 경사하강으로 배운다. 지금 풀고 있는 과제의 오차만 보고, 그 오차가 줄어드는 방향으로 모든 가중치를 미는 학습 규칙이다. 그 방향은 오차를 거꾸로 흘려보내 구하는데, 그 계산이 역전파다.

핵심은 이 규칙이 과거 과제가 무엇을 인코딩했는지 전혀 보지 않는다는 데 있다. 지금 치는 곡만 듣고 조율 손잡이를 돌리는 조율사와 같아서, 어제 맞춰 둔 곡이 같은 손잡이에 걸려 있어도 듣지 않는다.

이제 둘이 물린다. 옛 지식이 여러 가중치에 겹쳐 있고, 경사하강이 그 겹친 가중치를 과거를 보지 않은 채 미는 순간, 새 과제의 학습이 옛 표상을 무차별로 덮어쓴다. 한 과제의 지식이 수많은 가중치에 흩어져 얹혀 있으니, 그 가중치가 새로 갱신되면 옛 과제는 조금씩이 아니라 통째로 바스러진다. 겹침이 없었다면 덮어쓸 것이 없고, 과거를 봤다면 피해 갔을 텐데, 둘 다 아니다. 그래서 붕괴가 절벽처럼 온다. 이것이 catastrophic의 뜻이다.

사슬을 끝까지 따라가면 급소가 하나 남는다. 배우는 자리와 저장하는 자리가 같은 가중치를 공유한다는 것. 새것을 새기는 능력과 옛것을 지키는 능력이 물리적으로 같은 파라미터에 얹혀 있어, 하나를 올리면 하나가 내려간다. 젖은 시멘트 판이 이것이다.

공유만으로는 부족하다. 대부분의 설명이 여기서 미끄러진다. 같은 공유-가중치 망이라도, 옛 과제와 새 과제를 뒤섞어(인터리브) 무작위 순서로 함께 먹이면 무너지지 않는다. 그러니 조건을 정확히 다시 세우면 공유 가중치와 순차 학습의 결합이다. 과제가 한 덩어리씩 순서대로 올 때, 옛것을 다 배운 뒤 새것으로 넘어갈 때만 절벽이 나타난다.

두 조건이 함께 있어야 절벽이 온다는 말은, 둘 중 하나만 꺼도 붕괴가 멈춘다는 뜻이다. 하나는 공유를 끊는 것. 새 과제마다 자리를 따로 내주고 옛 자리를 건드리지 않으면 덮어쓸 것이 없다. Progressive Networks가 이 길이다. 다른 하나는 순서를 깨는 것. 옛 데이터를 새 학습에 다시 섞어 넣으면 순차성이 사라진다.

이 두 조건은 저장 용량 문제와 자주 혼동된다. 카메라는 새 사진을 아무리 찍어도 옛 사진이 지워지지 않는다. 저장하는 자리와 처리하는 자리가 나뉘어 있어서다. 신경망이 무너지는 건 저장 용량이 작아서가 아니다. 더 큰 모델도 똑같이 무너진다.

규모를 키우면 어떻게 되는지는 아직 정해지지 않았다. 규모가 커질수록 망각이 심하다는 관측도 있지만, 사전학습이 크면 오히려 덜 잊는다는 반대 관측도 있어 방향은 세팅마다 갈린다. 어느 쪽이든 결론은 같다. 문제는 용량의 양이 아니라, 배우는 자리와 저장하는 자리가 같은 가중치를 공유한 채 과제가 순서대로 온다는 것이다.

이 진단을 가장 강하게 확증하는 것은 반론이다. "실무의 대형 모델은 데이터를 통째로 셔플해 학습한다. 파국적 망각은 과제 A 다음 B라는 인위적 순서에서만 나오는 실험실 현상 아닌가." 맞다. 셔플은 실제로 파국적 망각을 없앤다. 그게 바로 앞서 말한 인터리브다. 그리고 그래서 급소가 '공유 가중치와 순차성'임이 드러난다. 순차성을 제거하면 붕괴가 사라지니까. 다만 셔플이 왜 특권인지, 그 반론이 무엇을 남기는지는 뒤에서 갚기로 한다.

뇌는 어떻게 급소를 피하나

뇌는 이 급소를 정면으로 회피한다. 상보학습계가 뇌를 읽는 방식이 그렇다 — 뇌 쪽에서 이 붕괴의 크기를 잰 값은 없다. 뇌도 경험을 셔플해서 받지는 않는다. 어제와 오늘이 순서대로 오고, 지난 일을 다시 겪어 볼 수도 없다. 조건은 신경망과 같은데 결과가 다르다. 방법은 앞의 두 스위치 그대로다. 공유를 끊고, 순서를 깬다. 다만 뇌가 먼저였다.

뇌는 배우는 자리와 저장하는 자리를 아예 둘로 나눈다. 상보학습계 이론이 이를 정식화했다. 해마는 빠르게, 서로 겹치지 않게 개별 경험을 저장한다. 신피질은 느리게, 겹쳐 저장하며 여러 경험을 가로질러 일반화한다. 낮에 급히 갈겨 둔 메모장(해마)과, 밤에 정서해 옮겨 적는 서고(신피질)로 나뉜 셈이다.

이 이론 자체가 신경망의 파국적 간섭을 설명하려는 동기에서 출발했다. 신경망의 '근본적 결함'을 뇌 조직의 원리를 읽는 지렛대로 뒤집은 것이다.

상보학습계(CLS) · McClelland·McNaughton·O'Reilly(1995)가 신경망의 파국적 간섭을 설명하려는 동기에서 정식화한 이론.

신피질이 느린 것은 각 경험이 세상의 한 표본일 뿐이어서다. 작은 보폭으로 여러 표본을 모아야 통계가 안정된다. 새 정보를 옛 정보와 뒤섞어 조금씩 통합하면 기존 표상이 덜 교란된다. 한꺼번에 크게 고치면 신경망이 순차 학습에서 하듯 기존 표상이 심하게 망가진다. 신피질의 느린 인터리브 학습이 순서 깨기의 생물판이다.

그 인터리브를 언제 하는가. 잠잘 때다. 1994년 한 실험은 쥐가 깨어 활동할 때 함께 발화한 해마 세포들이 이후 깊은 수면에서 다시 함께 발화하는 것을 관찰했다. 낮의 경험이 밤에 재생된다. 이 재생이 해마의 최근 기억을 신피질로 천천히 옮겨 장기 저장하는 과정, 곧 기억 응고다. 뒤에 볼 EWC라는 ML(기계학습) 기법의 이름은 이 응고의 세포 수준 짝인 시냅스 통합에서 왔다.

해마 리플레이 · Wilson & McNaughton(1994)이 쥐의 장소세포 무리에서 처음 관찰했다. 이 재생을 리플레이라 부르고, 뒤에 나올 ML의 리플레이가 이 이름을 가져갔다.

잠은 옮겨 적기만 하는 게 아니다. 시냅스 항상성 가설은, 깨어 있는 동안 시냅스가 전반적으로 강해지고 수면이 그 시냅스를 도로 하향조정해 약한 것을 쳐낸다고 본다. 아직 논쟁 중인 그림이지만, 뒷받침하는 측정이 있다. 생쥐의 운동·감각 피질을 전자현미경으로 재 보면, 수면 뒤 시냅스의 접합면이 각성 때보다 약 18% 줄어드는데, 큰 시냅스는 보존되고 약한 것만 선택적으로 준다. 밤새 약한 가지를 쳐내 다음 성장의 자리를 내는 것과 같다.

이 잊음은 수동적 소멸이 아니다. 초파리에서 가장 또렷이 드러났듯, 뇌에는 기억 흔적을 능동적으로 침식하는 도파민 회로가 따로 있다. 이 내재적 망각이 뇌의 기본 상태일 수 있다는 것이 이 계열 연구자들의 주장이다.

가지치기 · 발달기에는 미세아교세포, 곧 뇌 안에서 청소와 정비를 맡는 면역세포가 약한 시냅스를 실제로 삼켜 회로를 다듬는다. 이 가지치기는 위의 능동적 망각보다 느린 별개의 과정이다.

요점은 뇌 예찬이 아니다. 뇌는 ML의 급소가 왜 급소인지 대조로 드러낸다. 빠른 학습을 공유 밖으로 뺀 시스템(해마와 신피질로 자리를 나눈 뇌)은 무너지지 않는다. 순서를 안 지키는 시스템(수면마다 옛것과 새것을 뒤섞어 재생하는 뇌)도 무너지지 않는다. 붕괴의 두 조건을 두 장치가 하나씩 깬다. 구조 분리, 그리고 수면 재생·인터리브다.

쳐내기는 그 목록에 없다. 약한 흔적을 골라 지우는 일은 자리를 나누지도, 순서를 깨지도 않는다. 그 잊음이 하는 일은 다른 데 있다. 간섭을 피하는 것이 아니라 판이 굳는 것을 막는 것이고, 다음 절의 두 번째 병이 그 자리다. 뇌는 잊어서 배운다 — 덜 잃으려고 잊는 것이 아니라, 계속 배울 수 있으려고 잊는다.

그렇다고 뇌의 시냅스와 신경망의 가중치가 같은 물건인 것은 아니다. 닮은 것은 마주한 문제와 그 해법의 구조지, 재료가 아니다.

같은 딜레마, 다른 병

그렇다면 답은 간단해 보인다. 옛 가중치를 얼려 지키면 되지 않나. 그런데 바로 여기서 두 번째 병이 나온다.

새것을 배우는 능력(가소성)과 옛것을 지키는 능력(안정성)이 같은 파라미터에 얹혀 트레이드오프를 이룬다는 것 — 이것을 안정성-가소성 딜레마라 한다. 딥러닝이 만든 말이 아니다. 1980년에 신경모델링에서 규정된 개념으로, 딥러닝보다 수십 년 앞선다. 뇌든 기계든, 새로 배우면서 옛것을 무차별로 지우지 않으려는 시스템이라면 다 마주하는 딜레마다.

젖은 시멘트로 돌아가 보자. 두 병은 판의 두 상태다. 판이 말랑하면 새기면서 옆을 뭉갠다 — 파국적 망각이다. 판이 굳으면 뭉개지는 않지만 더는 새겨지지 않는다 — 이쪽이 두 번째 병이다. 다만 이 굳음은 누가 일부러 가중치를 얼려서 생기는 게 아니다. 2024년에 보고된 가소성 상실은, 특별한 동결 없이도 그저 오래 이어 학습하기만 하면 신경망이 새것을 배우는 능력 자체를 점차 잃는 별개의 실패다. 유닛이 죽고 표현의 랭크가 무너지면서 학습기가 스스로 굳는다.

가소성 상실 · 원 보고는 Dohare·Sutton 등(2024), Nature 632. 유닛이 죽는다는 것은 망을 이루는 낱개 뉴런의 일부가 어떤 입력에도 반응을 멈춘다는 뜻이고, 표현의 랭크가 무너진다는 것은 살아남은 뉴런들의 출력이 서로 겹쳐 몇 안 되는 뉴런으로 층 전체가 재현되고, 망이 구별해 담을 수 있는 방향의 수가 줄어든다는 뜻이다.

이 둘을 "AI가 잊는다"로 뭉뚱그리면 안 된다. 잃는 것이 다르다. 파국적 망각은 옛 지식을 잃는 것이고, 가소성 상실은 새 지식을 습득하는 능력을 잃는 것이다. 단 옛것과 새것으로 깔끔히 갈리지는 않는다. 원 보고에서 굳어 간 망은 유닛이 죽고 표현의 랭크가 무너지면서 옛것도 새것도 함께 잃는 퇴화에 가까웠다. 그런데도 연구자들이 이 둘을 명시적으로 갈라 둔 이유가 있다. 순차로 배우면서 옛것을 지키려는 학습, 곧 연속학습에 더 근본적인 것은 새것을 계속 배우는 능력인데, 그 능력이 굳어 죽는 것이 가소성 상실이다.

한 연속학습 벤치마크에서, 신경망의 정확도는 초기 약 89%에서 2000번째 과제 무렵 약 77%까지 떨어진다. 층을 겹쳐 쌓지 않은 얕은 모델 수준이다. 오래 학습할수록 똑똑해지기는커녕 학습기가 굳어 간다.

벤치마크 · 위 89→77% 수치를 잰 곳은 Continual ImageNet이다. 저자들이 ImageNet을 연속학습 세팅으로 개조해 만든, 이진분류 과제를 끝없이 이어 주는 문제다.

이 굳음도 손댈 수는 있다. 같은 연구는 표준 역전파에 매 스텝 쓸모없는 유닛의 일부를 새 난수로 되살리는 장치, Continual Backprop을 더해 가소성을 유지시켰다. 그 장치가 한 일은 쓸모없어진 것을 지우고 자리를 비운 것이다. 잊는 장치를 밖에서 덧대 굳음을 막았다. 딜레마 자체를 없앤 게 아니다.

여기서 잊음이 하는 일이 제자리를 찾는다. 뇌가 잊어서 배운다고 할 때, 그 잊음은 옛것을 지키는 장치가 아니다. 굳는 것을 막는 장치다. 수면이 시냅스를 하향조정해 얻는 이득도 간섭 회피가 아니라 약한 것을 제거해 신호와 잡음의 비를 개선하고 다음 학습의 여력을 내는 것이다. 잊음은 망각을 막는 장치가 아니라 굳음을 막는 장치다. 표준 역전파에 없는 것이 바로 이것이다.

말을 갈라 둘 자리가 여기다. 무엇을 지킬지 고르는 일과 무엇을 흘려보낼지 고르는 일은 다른 일이다. 앞의 것은 잃는 양을 줄이고, 뒤의 것은 판이 굳는 것을 막는다. 이 글이 '뇌는 잊어서 배운다'고 할 때의 잊음은 뒤쪽이다.

그래서 이 딜레마는 손잡이 하나로 풀리지 않는다. 안정성과 가소성이 서로를 밀어내는 것은 맞다. 덜 잊게 하면 못 배우고, 잘 배우게 하면 잊는다. 그러나 두 실패가 그 손잡이의 양 끝에 놓여 있는 것은 아니다. 가소성 상실은 손잡이를 안정성 쪽으로 돌려서 오는 게 아니라, 아무 데도 안 돌린 채 오래 학습하기만 해도 온다.

그런데도 뿌리는 하나다. 젖은 시멘트로 돌아가면 보인다. 새기는 일과 지키는 일이 같은 표면 하나에 얹혀 있다는 것 — 두 병이 다 거기서 나온다. 새기는 손이 옆의 옛 자국을 뭉개면 파국적 망각이고, 새김을 거듭한 그 표면이 굳어 더는 안 받으면 가소성 상실이다. 한쪽은 표면을 나눠 쓰는 데서 오고, 다른 쪽은 그 표면이 계속 쓰이는 데서 온다. 판이 하나뿐이라는 같은 조건이 두 갈래로 갈라진 것이다. 같은 딜레마를 안고 도는 시스템이 낳는 다른 병이란 이 뜻이다. 그러니 '얼마나 잊을까' 하나를 조절해서는 어느 쪽도 못 고친다. 뇌의 해법이 손잡이 조절이 아니라 구조를 둘로 쪼개고, 무엇을 흘려보낼지 따로 고르는 것이었던 이유가 이것이다.

공학이 뇌를 되짓는다

연속학습 기법들을 늘어놓으면 한 가지 그림이 보인다. 상당수가 앞 절에서 본 뇌의 장치를 공학적으로 되짓고 있다.

뇌에 안 겹치는 계열 · 전부가 그런 것은 아니다. 새 과제의 갱신을 옛 과제가 쓰던 방향은 건드리지 않고 그와 직각인 방향으로만 밀어 덮어쓰기를 피하는 계열, 새 과제를 배우는 동안 옛 모델의 답을 흉내 내도록 묶어 두는 계열처럼 뇌에 잘 안 겹치는 기법도 있다. 다만 앞의 계열은 가중치가 아니라 갱신 방향의 부분공간을 나눈다. 공유를 끊는 일의 연속판에 가깝다.

첫째, 리플레이. 옛 데이터를 새 학습에 다시 섞어 순차성을 깬다. 이 발상의 뿌리는 뇌다. 뇌가 먼저고, ML이 뒤따랐다. 신경망에 리허설을 들여온 1995년의 제안도, 상보학습계 이론도, 망의 리허설을 해마 리플레이와 수면 통합에 명시적으로 유비했다. 아타리 게임을 사람 수준으로 푼 딥마인드의 강화학습 모델 DQN이 쓴 경험 리플레이도 해마 리플레이에서 착안한 것이고, 이 리플레이를 끄면 성능이 급락한다.

리허설의 계보 · 신경망 리허설의 원전은 Robins(1995)의 의사리허설이고, 뇌 쪽 짝은 McClelland·McNaughton·O'Reilly(1995)의 상보학습계다.

둘째, EWC, 우리말로 탄력적 가중치 응고다. 옛 과제에 중요한 가중치를 골라 단단히 붙들어 두는 기법이다. 중요도는 옛 과제를 막 끝낸 시점에 한 번 재 둔다 — 그 가중치를 조금 흔들면 옛 과제의 답이 얼마나 흔들리는지를 그때 계산해 놓는 것이다. 붙드는 힘은 옛 값에서 멀어질수록 세지고, 그 벌점은 거리의 제곱에 비례한다. 이차 페널티다. 그 뒤로는 옛 데이터를 저장하지도 재학습하지도 않는다. 데이터를 보관하는 리플레이와 달리, 중요한 가중치에 스프링을 걸어 덜 움직이게 하는 정규화다.

'응고'가 왜 거기 붙어 있나. 저자들이 논문에서 밝히듯, 기억 응고라는 신경과학 개념을 이름과 발상째로 가져온 것이다.

EWC 명명 · 원어는 Elastic Weight Consolidation. 원 논문 표현: "우리는 시냅스 통합(synaptic consolidation)에 유비적인 알고리즘을 개발해 elastic weight consolidation이라 부른다".

셋째, Progressive Networks. 새 과제마다 새 열을 덧붙이고 옛 열의 가중치를 동결한다(더는 갱신하지 않는다). 옛 자리를 건드리지 않으니 망각이 설계상 0이다. 해마와 신피질을 나눈 뇌의 구조 분리를 기계로 옮긴 것이다. 대신 과제가 늘수록 파라미터가 늘어난다. 저자들이 명시한 대가이고, 망각을 공짜로 없앤 게 아니라 용량과 맞바꾼 것이다.

셋 중 둘은 같은 자리에 선다. Progressive는 공유를 끊고, 리플레이는 순서를 깬다. 붕괴의 두 조건을 하나씩 끄는 쪽이고, 뇌의 두 장치가 서는 자리와 같다.

EWC는 그 축 위에 없다. 공유를 끊지도, 순서를 깨지도 않기 때문이다. 옛 데이터를 쓰지 않으니 순차성은 그대로고, 가중치는 계속 공유된 채 갱신된다. 스프링이 걸려 덜 움직일 뿐이다. 그래서 EWC는 붕괴의 조건 자체를 없애지는 못한다. 그렇다고 헛일도 아니다. 중요한 가중치를 붙들어 두는 만큼 옛 과제를 덜 잃는다. 조건을 끄는 것이 아니라 잃는 양을 줄이는 것이고, 그래서 다른 층에서 일한다.

그 둘째 층은 완화 축이다. 무엇을 지킬지 고르는 것, 그리고 겹침이 얼마나 되느냐. 첫 층이 켜고 끄는 것이라면 이 층은 정도의 문제다. 잘 고를수록, 덜 겹칠수록 잃는 양이 준다. 앞서 방향이 갈린다고 한 관측 가운데 사전학습이 크면 덜 잊는다는 쪽이 설명되는 자리도 여기다. 어느 세팅에서 그 방향이 나오는지는 아직 다투는 중이지만, 나올 때 일하는 것은 이 층이다. 표상이 덜 겹치면 덮이는 양이 준다. 겹침은 있고 없고가 아니라 정도이기 때문이다.

두 층은 이음매에서 살짝 어긋난다. 겹침이 정도라면 '공유를 끊으면 멈춘다'는 첫 층의 말은 그 정도를 끝까지 밀어붙인 극단값의 진술이고, 그 사이의 값에서는 붕괴가 사라지는 게 아니라 작아진다. 순서도 마찬가지다 — 옛 데이터를 얼마나 섞느냐는 끄고 켜는 일이 아니라 정도의 문제다. 그리고 약한 것을 골라 쳐내는 소거는 이 층이 아니다. 지키는 일이 아니라 비우는 일이고, 잃는 양이 아니라 굳음을 상대한다. 뇌는 셋을 다 쓴다. 자리를 나누고 순서를 깨서 붕괴를 피하고, 겹침을 관리해 잃는 양을 줄이고, 약한 흔적을 쳐내 굳음을 막는다.

여기서 과장은 금물이다. 이 대응은 '뇌가 곧 신경망'이라는 뜻이 아니다. 시냅스와 가중치, 도파민과 리플레이 버퍼는 다른 재료다. 재료는 다르지만 마주한 계산 문제가 같다. 두 시스템이 같은 문제, 공유된 저장 위의 순차 학습을 마주해 구조적으로 닮은 해법(분리·재생·보호)에 이르렀고, 양쪽 전문가가 서로의 정식화를 생산적으로 차용했다. EWC가 응고를 인용하고 상보학습계의 최신판이 딥네트워크를 인용하는 상호참조가 그 자취다.

유비의 한계 · Huszár(2018)은 EWC가 여러 과제의 벌점을 따로 쌓는 원 정식화가 근사상 부정확할 수 있다고 지적했다. EWC는 시냅스 통합의 유비이자 근사이지 정확한 재현이 아니다.

이 다리를 놓은 연구의 상당수가 한 연구소(딥마인드)에서 나왔다. 뇌와 기계를 잇는 서사를 쓴 쪽이 그 서사의 저자이기도 한 셈이다. 음모로 읽을 일은 아니지만(상호인용은 공개된 사실이다), 과신할 일도 아니다.

그러면 파국적 망각은 이미 풀린 옛 문제인가. 리플레이도 있고 거대 모델도 있고 RAG도 있는데. 채택된 완화 기법들이 실제로 효과가 있다. 그 점은 인정한다.

그럼에도 근본 딜레마는 풀리지 않았다. 원자료를 되쓰는 리플레이는 옛 데이터를 계속 저장·재생해야 하니 저장과 프라이버시 비용을 진다. 생성 모델로 옛 데이터를 흉내 내 저장을 피하는 변형도 있지만, 그때는 그 생성기를 유지하는 비용을 진다. Progressive는 파라미터를 무한히 늘린다. RAG(검색·증강 생성 — 외부 문서를 그때그때 찾아 붙이는 방식)는 가중치를 안 건드리고 외부 기억을 찾아 쓰는 우회로다. 완화는 진짜지만 딜레마의 해소가 아니라 비용의 이전이다. 옛것을 다 지키며 새것을 다 배우는 무한 순차 학습은 지금도 미해결이다.

못 잊는 것도 병이다

이번엔 반대쪽에서 반론이 온다. 잊는 게 그렇게 좋다면, 다 기억하는 사람은 초인이어야 하지 않나. 뇌에는 못 잊는 병도, 다 기억하는 능력도 있는데 '망각은 선'은 낭만화 아닌가.

이 반론은 절반이 남는다. 그 점은 인정한다 — 다 기억하는 사람이 불행하다는 증거는 없다. 그러나 다 기억하는 사람이 더 잘 배운다는 증거도 없다. 실제로 재 본 결과는 그 반대에 가깝다.

완전자서전기억을 가진 사람들은 살아온 날의 일상을 날짜별로 되짚는다. 그런데 통제된 검사에서 이들의 표준 기억력은 대조군보다 유의하게 낫지 않았다. 자서전적 기억만 비상할 뿐, 능력이 도메인 특이적이지 일반적이지 않다는 것이다. 완벽에 가까운 기억이 만능 기억은 아니다. 이들이 다른 데서 실패한다는 말은 아니다.

그러나 정말 아무것도 잊지 못하면 대가가 따른다. 한 신경심리학자가 약 30년간 관찰한 기억술사 S.는 거의 무엇도 잊지 않았지만, 바로 그 지워지지 않는 기억이 추상화와 요지 파악을 방해했다. 은유와 시를 이해하기 어려워했다. 단, 이건 단일 사례이고, 글자와 소리에서 색과 맛까지 함께 느끼는 그의 공감각과 얽혀 있어 증거라기보다 예화다.

두 원장 · 표준 기억검사 비교는 LePort 등(2012), 대상 11명. 기억술사 S.를 약 30년 관찰한 기록은 루리아(1968).

유의차 없음 하나와 예화 하나. 실탄은 이만큼이고, 둘이 가리키는 방향은 같다. 문제는 저장의 크기가 아니라 무엇을 놓아줄지 고르는 능력이라는 쪽이다.

못 잊는 것이 곧장 병이 되기도 한다. PTSD는 외상 기억이 스트레스 호르몬의 영향으로 과도하게 굳어(과잉응고돼) 지나치게 강하고 지워지지 않는 상태로 남는다는 가설로 설명된다. 지우지 못하는 것이 고통의 핵심이다.

그러니 논지는 "망각은 무조건 선"이 아니다. 무차별로 잊는 것(파국적 망각)도, 무엇도 못 잊는 것(총체적 과잉기억)도 실패다. 다만 두 쪽의 실탄이 다르다. 앞쪽은 벤치마크 실측이 받치고, 뒤쪽은 유의차 없음과 예화와 가설이 한 방향을 가리키는 정도다. 그 방향이 이렇다. 학습의 조건은 설계된, 선택적 망각이라는 것. 약한 흔적은 쳐내고 중요한 것은 응고시키는 것. 표준 신경망에 기본으로 없는 것이 이 두 고르기다. 무엇을 지킬지도 고르지 않으니 새 경사하강이 가리지 않고 덮고, 무엇을 흘려보낼지도 고르지 않으니 판은 그대로 굳어 간다. 앞서 본 기법들은 그 고르기를 하나씩 밖에서 덧댄 것이다.

경계, 그리고 무엇을 잊을까

요즘 트랜스포머는 맥락창 안에서 새 정보를 그때그때 흡수하니 파국적 망각은 낡은 문제 아닌가. 아니다. 맥락창 학습은 가중치를 한 글자도 바꾸지 않는다. 맥락 안의 임시 활성일 뿐, 세션이 끝나면 사라지는 작업기억이다. 뇌로 치면 저장도 아닌, 잠깐 붙들고 있는 메모다. 파국적 망각은 가중치를 실제로 갱신하는 진짜 연속학습에서 여전히 발생한다. 큰 언어모델도 파인튜닝하면 똑같이 무너진다. 맥락창은 유한하니 무한한 연속학습의 대체가 되지 못한다.

배포된 뒤에도 계속 배워 가중치에 쌓는 능력, 연속학습이 오늘의 언어모델에 없다는 지적은 보드를 본 적 없는 기계가 보드를 안다 — 이해인가 흉내인가, 아니면 다른 질문인가에서 다뤘다. 파국적 망각은 그 부재가 왜 근본적인지를 보여 주는 다른 얼굴이다. 순서대로 가중치를 갱신하는 순간 옛 지식이 무너지기 때문에, 배포 중 학습은 그저 '아직 안 켠 기능'이 아니다.

데이터를 통째로 셔플할 수 있는 환경에서는 파국적 망각이 대체로 우회된다. 오늘의 주력 모델 다수가 그렇게 학습한다. 그 점은 인정한다. 그 세팅에서 파국적 망각은 실무의 문제가 아니고, 여기까지의 진단이 거기서 바꿀 것도 없다. 셔플이 통하는 한 이 병은 없는 병이다.

다만 셔플은 탈출구가 아니라 특권이다. 온라인으로 흘러드는 스트림, 기기 안에서 도는 학습, 옛 데이터를 폐기해야 하는 프라이버시 세팅은 순차성을 피할 수 없다. 거기서 파국적 망각은 실험실 아티팩트가 아니라 실재하는 벽이다. 그리고 셔플로 순서를 없앤 환경조차 안전하지 않다. 오래 학습하면 이번엔 다른 병(가소성 상실)이 기다린다. 앞의 벽을 피하면 다른 벽이 나온다. 경험이 결코 셔플되지 않는 세계에서 사는 시스템, 바로 뇌가 그 순차성을 자리를 나누고 밤마다 되섞어 감당한다 — 그러고도 굳지 않으려 잊는다.

젖은 시멘트로 돌아오자. 파국적 망각의 작동 원리는 한 문장이다. 배우는 자리와 저장하는 자리가 같은 신경망에, 순서대로 오는 과제로 가중치를 갱신하면, 새 경사하강이 옛 표상을 덮는다. 판 하나에 손이 계속 지나가는데, 그 손은 옆에 무엇이 새겨져 있는지 보지 않는다. 여기서 세 가지가 따라 나온다.

하나. 용량만으로는 못 고친다. 더 큰 모델도, 더 많은 메모리도 두 조건을 건드리지 못한다. 손댈 수 있는 자리는 적어도 셋이다. 공유나 순서를 끊어 붕괴를 멈추는 구조, 무엇을 지킬지 골라 잃는 양을 줄이는 선택성, 그리고 무엇을 흘려보낼지 골라 굳음을 막는 소거.

둘. 한 손잡이로는 못 푼다. 망각과 가소성 상실은 한 축의 양 끝이 아니라 같은 딜레마가 낳는 다른 병이라, '얼마나 잊을까' 하나로는 어느 쪽도 못 고친다. 뇌처럼 자리를 나눠 두고 그 위에서 무엇을 지키고 무엇을 흘려보낼지 따로 고르는 시스템이 답이다.

셋. 그래서 망각은 없앨 버그가 아니라 설계할 기능이다. 기계 쪽은 실측이 받친다. 잊는 장치를 밖에서 덧댄 학습기는 계속 배웠고, 안 덧댄 학습기는 굳었다. 사람 쪽 실탄은 그보다 얇지만 같은 방향을 가리킨다. 지능의 조건은 완전한 보존이 아니라 선택적 소거다. 진짜 물음은 처음부터 "어떻게 다 기억하나"가 아니라 "무엇을, 언제, 어디서 잊나"였다.

우리가 기계에 완벽한 기억을 기대한다는 데서 시작했다. 그러나 잘 잊는 일이야말로 배움의 조건이라면, 인간의 인지가 기계와 갈리는 자리도 거기다. 무엇을 붙들지가 아니라, 무엇을 놓아줄지 아는 것.