누가 방아쇠를 당겼는가 — 자율무기와, 사라진 응답자

어느 보고서의 한 문장을 나는 오래 들여다본 적이 있다. 2020년 봄 리비아의 트리폴리 인근, 후퇴하던 병력이 "운용자와 탄약 사이에 데이터 연결을 요구하지 않도록 프로그램된" 무인기에 의해 쫓기고 교전당했다고, 유엔 전문가패널의 최종보고서가 적었다. 행정 문서 특유의 건조함으로 쓰인 그 한 줄을, 사람들은 곧잘 "전장에서 인간이 명령하지 않은 첫 살상"이라 옮겨 적곤 한다. 다만 그 드론이 정말 그 순간 스스로 판단했는지, 그래서 누가 실제로 죽었는지는 1차 사료로 확증된 적이 없으니, 나는 그 문장을 사건의 확정이 아니라 차라리 하나의 예고편으로 읽는다. 우리가 무엇을 향해 걸어가고 있는지를, 행정의 말투로 미리 적어 둔 한 줄.

내가 그 문장에 자꾸 붙들리는 건, 거기 누구의 이름도 없기 때문이다. 죽음이 일어났다고 적혀 있는데, 그 죽음의 곁에 "내가 그렇게 했다"고 말할 사람이 한 명도 적혀 있지 않다. 그래서 나는 자율살상무기를 둘러싼 오랜 논쟁이 실은 우리가 흔히 듣는 그 질문 — 기계가 사람보다 정확하냐 — 의 자리에 있지 않다고 생각하게 됐다. 누구를 죽일지 고르는 마지막 판단을 기계에 넘긴다는 것은, 정확성을 넘기는 일이기 전에, 그 죽음 앞에 설 한 사람을 지우는 일인지도 모른다.

정확함이라는 함정

국제적십자위원회는 자율무기체계를 "인간의 개입 없이 표적을 선택하고 무력을 적용하는" 무기라고 정의한다. 정의의 무게중심은 화력이 아니라 그 앞에 붙은 부정어, 인간의 개입 없이에 있다. 표적을 고르는 일과 방아쇠를 당기는 일 사이에서 사람이 빠진다는 것. 지뢰처럼 한번 묻어 두고 잊어버려도 사람을 해치는 무기는 전에도 있었으나, 거기서 빠진 것은 격발의 시점이었지 누구를 칠지의 선택은 아니었다. 그 마지막 선택까지 함께 넘긴다는 것, 그것이 이 무기가 새로 긋는 선이다.

이 무기를 옹호하는 쪽의 말도 정직하게 옮겨 둬야 공평하다. 그들의 논거는 결코 허술하지 않다. 인간 병사는 공포와 분노에 흔들리고, 며칠 밤을 새운 끝에 항복하는 자에게도 방아쇠를 당긴다. 전장의 잔혹은 적잖이 그 흔들리는 손에서 나왔다. 감정이 없는 기계라면 보복심에 마을을 불태우지 않고, 사람보다 차갑고 정확하게 교전법규를 지킬지도 모른다. 게다가 위험한 자리에 자국의 젊은 병사를 보내지 않아도 된다. 이 논리는 강하다. 나는 이것을 손쉽게 반박할 생각이 없다.

다만 이 논거가 답하는 질문과, 내가 붙들린 질문은 층위가 다르다. 기계가 더 정확할 수 있다는 말은 얼마나 잘 조준하는가에 대한 답이다. 그런데 누구를 죽일지 고르는 마지막 판단을 기계에 넘길 때 위임되는 것은, 조준의 정밀도가 아니라 그 죽음에 응답할 자리다. 더 정확한 살상이 더 응답 가능한 살상인 것은 아니다. 오히려 정확할수록 사람은 더 멀찍이 물러나 앉아도 좋다는 허락처럼 들린다.

'의미 있는 인간 통제(meaningful human control)'. 2013년 한 영국 군축 단체가 벼려내, 이듬해부터 제네바 회의장의 중심 용어가 된 말이다. 군축의 언어가 이 말을 그토록 끈질기게 붙들고 놓지 않는 이유가 거기 있다고 나는 읽는다. 그것은 기술 사양의 이름이기만 한 것이 아니다. 누군가는 그 방아쇠 앞에 이름으로 서 있어야 한다는 도덕적 고집을, 사람들은 그 무미한 행정 용어 속에 숨겨 두었다.

이름이 빠져나간 자리

이 고집을 비웃기는 쉽다. 감상이라고, 전장에 무슨 이름 타령이냐고. 그러나 이름이 빠지면 무엇이 실제로 무너지는지를, 제도는 이미 차갑게 확인했다. 휴먼라이츠워치가 2015년에 내놓은 한 보고서는 그 무너짐에 '책임 공백(accountability gap)'이라는 이름을 붙였다. 자율무기가 끝내 불법적인 죽음을 일으켰을 때, 그 책임을 누구에게 물을 것인가를 차례로 따져 보면 모두가 손가락 사이로 빠져나간다는 것이다. 운용자는 기계가 무엇을 할지 예측할 수 없었으니 묻기 어렵고, 지휘관은 자신이 실시간으로 통제하지 않은 행위에 명령책임을 지기 어려우며, 프로그래머와 제조사는 전장의 우연까지 책임지라 하기엔 너무 멀리 있다. 죽음은 분명히 일어났는데, 그 앞에 세울 이름이 한 칸씩 비워지다가 끝내 모두 빈칸이 된다.

물론 이 공백을 법의 미비로 볼 수도 있다. 지휘관의 명령책임을 넓히고 제조사에 무거운 배상책임을 지우면, 적어도 법정에 세울 이름 하나쯤은 되살아날 것이다. 그러나 그렇게 되살아나는 것은 배상의 수신인이지, 그 죽음에 응답할 사람은 아니다. 법이 메우는 빈자리와 내가 비어 있다고 느끼는 빈자리는 층위가 다르고, 여기서부터는 솔직히 내가 놓는 다리다. 결정을 기계에 넘기는 순간 그 결정에 응답할 주체도 함께 넘겨지는데, 정작 기계는 응답할 수 있는 것이 아니어서, 후회하지도 법정에 서지도 유족의 눈을 마주하지도 못한 채, 응답은 넘겨진 그대로 어디에도 도착하지 못하고 허공에 남는다. 책임 공백이라는 법률 용어가 가리키는 자리 너머에, 나는 그보다 메우기 어려운 또 하나의 빈자리를 본다. 죽음은 일어났는데 그 죽음에 대답할 누구도 끝내 남지 않은 자리. 여기서 한 가지는 분명히 해 두고 싶다. 나는 이것을 기계가 사악해서 벌어지는 일이라고 말하는 게 아니다. 기계는 사악할 능력조차 없다. 문제는 악의가 아니라 구조다 — 위임이라는 동작이 응답자를 지운다는, 그 조용한 메커니즘.

멈추자는 결정마저, 누구의 것도 아니다

그래서 세계는 이 위임을 멈춰 세우려 한다. 유엔 사무총장 구테흐스는 2025년 5월, 인간의 통제 없이 사람의 목숨을 거두는 기계를 두고 "정치적으로 용납할 수 없고 도덕적으로 혐오스럽다"고 말하며 각국에 2026년까지 분명한 금지와 규제를 세우라 촉구했다. 적십자위원회는 한 걸음 더 나아가, 예측할 수 없는 무기와 사람을 직접 겨냥하도록 만들어진 무기는 아예 금지하고 나머지는 엄격히 규제하자는 2단계 방안을 내놓았다. 숫자만 보면, 인류는 이미 답을 안다.

출처: 유엔·휴먼라이츠워치·Stop Killer Robots·UNODA 종합. 기준일 2024-12 ~ 2026-11(예정). 표결 수치는 표결 단계·연도에 따라 변동.

그런데 정작 그 답을 구속력 있는 약속으로 묶으려는 자리에서 일이 멈춘다. 이 무기를 다루는 제네바의 협약은 만장일치로만 움직인다. 만장일치에는 그 나름의 명분이 있다. 모두가 동의해야 모두가 지키기 때문이다. 그러나 바로 그 명분이, 조약을 원하는 나라가 아무리 늘어도 거기에 무겁게 투자한 소수의 군사강국 한둘이 반대하면 그것으로 끝나게 만든다. 십수 년째 같은 자리를 맴도는 풍경이다.

그 되풀이되는 풍경 앞에서 나는 묘하게 서늘해진다. 물론 두 빈자리가 똑같지는 않다. 회의장에서 협상을 막아서는 손들에게는 적어도 이름이 있다 — 미국, 러시아, 인도, 이스라엘 같은. 방아쇠 앞의 빈자리처럼 응답할 자가 아예 증발한 것은 아니다. 다만 만장일치라는 규칙은 그 이름들에게 묘한 면제를 베푼다. 한 표의 반대 뒤에 서 있으면 누구도 "내가 막았다"고 홀로 이름을 내걸지 않아도 되고, 결정은 사람이 아니라 규칙이 한 일이 되며, 책임은 그 절차 속으로 묽게 흩어진다. 누군가를 죽일 결정을 사람의 손에서 덜어내는 일과, 그 무기를 멈출 결정을 사람의 손에서 절차로 덜어내는 일은, 메커니즘은 달라도 한 가지를 닮았다. 끝에 가서 아무도 그 일을 온전히 자기 것이라 떠안지 않는다는 것. 살상의 위임을 거부하려는 자리에서마저, 우리는 결정을 사람에게서 떼어 내는 그 익숙한 동작을 한 번 더 되풀이하고 있는 셈이다.

나는 어느 쪽이 옳다고 평결을 내리지 못한다. 다만 이 둘이 애초에 같은 저울에 오르지 않는다는 것만은 분명해 보인다. 더 정확한 기계가 더 적게 죽일 가능성은 조준의 문제이고, 응답할 사람이 사라진 죽음이 남기는 빈자리는 책임의 문제다. 하나를 키운다고 다른 하나가 저절로 메워지지는 않는다. 다만 리비아의 그 한 줄을 다시 떠올릴 때마다, 질문 하나가 회의장을 지나 천천히 내 쪽으로 돌아눕는 걸 느낀다. 누군가 죽고 난 자리에 "내가 그렇게 했다"고 말할 한 사람이 끝내 없다면, 우리는 그 죽음을 무엇이라 불러야 하는가. 그리고 그 마지막 한 사람의 이름을, 우리는 어디까지 기계에 넘길 수 있는가.