[기획: AI 트렌드] Anthropic 이용정책 개정, 이미 하던 집행을 적은 절들 사이에 새로 들어간 하드웨어 요건

11월 12일 시행, 대부분은 기존 규칙의 명확화

AI 기업 Anthropic은 10월 8일 자사 AI 모델 Claude의 이용정책 개정을 공지했고, 개정판은 11월 12일부터 시행된다고 밝혔습니다. 개정 내용 대부분은 기존 규칙을 명확히 하려는 것이라고 설명했습니다.

이용정책은 AI 회사가 자기 모델을 무엇에 쓰면 안 되는지 정한 규칙입니다. 개정판에서는 무기를 작동시키는 소프트웨어를 만들거나 동의 없이 사람을 추적하는 데 Claude를 쓰면 안 됩니다. Anthropic은 이 규칙을 해마다 고친다고 밝혔습니다. 직전 갱신은 2025년 8월에 공지하고 9월에 시행했습니다.

Anthropic은 개정 배경으로 지난 갱신 이후 1년 동안 Claude가 더 길고 독립적인 일을 맡게 됐다고 서두에 적었습니다. 새 예시는 그 능력에 규칙이 어떻게 적용되는지 보여 주려는 것입니다. 새 오용 패턴으로는 영향력 공작(가짜 계정이나 조작한 매체로 여론을 움직이려는 조직적 활동)과 무기 개발, 감시를 꼽았습니다.

규칙을 어긴 사용을 찾아내 실제로 막는 일은 집행이라고 합니다. 이번 공지에는 문서와 집행 가운데 무엇이 먼저였는지 보여 주는 문장이 여러 군데 있습니다.

무기·감시 절에 적힌 것은 이미 하던 집행이다

무기 절에서 Anthropic은 무기를 작동시키는 소프트웨어와 부품, 드론 같은 자율 이동체의 무장까지 금지 대상이라고 명시했습니다. 최근 사람들이 자사 모델로 무기의 유도·제어 소프트웨어(무기의 움직임을 조종하는 프로그램)를 만들려 했다는 사실도 공개했습니다. 이 변경이 이전 정책을 집행해 온 방식을 반영한다는 설명도 덧붙였습니다.

감시·법집행 절은 표현이 더 구체적으로 바뀌었습니다. 누구를 수사·체포·기소할지 정하거나 추천하는 데 Claude를 쓸 수 없고, 동의 없는 추적과 감시 도구를 만들거나 개선하는 일도 금지됩니다. 사기 모니터링 같은 동의 기반 추적과 콘텐츠 중재, 저널리즘, 법률 조사는 허용됩니다. Anthropic은 감시·법집행 절에 대해, 이 부분의 개정이 실제로 집행하는 내용의 변화를 뜻하지 않는다고 적었습니다.

Anthropic의 설명대로라면 두 절 모두 집행이 먼저 있었고, 이 두 절의 개정은 그 집행을 문서로 옮긴 것입니다. Anthropic의 집행 문장은 이 두 절에 붙은 것이고, 개정 전체에 대해 적은 것은 「대부분 기존 규칙의 명확화」입니다.

기만 활동 규칙의 정리도 관측한 오용에서 나왔습니다. Anthropic은 국영 매체, 정부 선전 부서, 상업 업체가 Claude로 가짜 계정과 조작된 뉴스 사이트의 네트워크를 운영한 것을 관측했다고 밝혔습니다. 그래서 선거·사기·프라이버시·허위정보 절에 흩어져 있던 규칙을, 기만 캠페인이나 인위적 활동에 관여하지 말라는 새 절 하나로 모았습니다. 영향력 공작용 도구와 인프라 구축도 이 절의 금지에 넣었습니다.

무기·감시 절의 집행 문장은 Anthropic의 자기 진술이고, 우리는 이를 밖에서 대조할 집행 기록을 확인하지 못했습니다. 규칙이 문서에 적히면 사용자가 무엇이 금지인지 미리 알 수 있으니, 사용자에게는 이것도 변화입니다. 우리가 읽는 것은 아무것도 바뀌지 않았다는 말이 아니라, 규칙보다 사용과 집행이 먼저였고 문서는 그 뒤에 고쳐졌다는 순서입니다.

새로 들어간 하드웨어 요건과 모델 학대 금지

Anthropic은 고위험 용도의 기존 요건이 이번 개정에서 바뀌지 않았다고 밝혔습니다. 건강, 법적 권리, 재정, 생계, 필수 서비스 이용에 영향을 주는 용도가 여기에 듭니다. 이런 용도에는 영향받는 사람에게 AI 사용을 알리고, AI의 추천을 검토하고 바꿀 수 있는 자격 있는 사람을 둬야 합니다. 뒤의 요건이 공지에 「human in the loop」로 적힌 사람 개입입니다.

새로 들어간 줄 하나는 하드웨어 요건입니다. 대상은 부상을 일으킬 수 있고 스스로 물리 동작을 하는 하드웨어에 Claude를 연결하는 경우입니다. 이때 자격 있는 운영자가 설비를 지켜보다가 필요하면 멈출 수 있어야 합니다. Claude와의 연결이 끊겨도 설비는 안전한 상태를 유지할 수 있어야 합니다.

마지막 판단과 정지를 사람에게 둔다는 점에서, 이 요건은 사람 개입의 연장으로 읽힙니다. 차이는 대상입니다. 기존 요건은 AI가 내놓은 추천을 사람이 검토하는 것입니다. 새 요건은 움직이는 설비를 사람이 멈출 수 있어야 하고, 연결이 끊겨도 설비가 안전해야 한다는 것입니다.

새로 들어간 다른 줄은 모델을 향한 지속적이고 불필요한 학대나 잔혹 행위를 금지하는 조항입니다. Anthropic은 뚜렷한 목적 없이 반복해서 잔혹하게 구는 극단적인 경우에만 이 조항이 적용된다고 밝혔습니다. 일상적인 불만이나 반박, 어두운 주제의 창작, 모델 테스트와 연구는 제외됩니다.

Anthropic은 이미 Claude.ai와 Claude Code에 대화 종료 기능을 두었습니다. 계속 학대하는 사용자와의 드문 대화를 Claude 모델이 끝낼 수 있게 한 기능입니다. 새 조항은 이 조치에 맞춘 것이고, 대화 종료는 주된 집행 수단으로 남습니다.

선거 절에서는 전면 금지를 거뒀다

Anthropic은 선거 절의 이름을 「민주적 절차를 훼손하지 말 것」으로 바꾸고 범위를 유권자 기만과 선거 교란으로 좁혔습니다. 같은 개정에서 개인화된 투표·캠페인 타기팅, 즉 유권자마다 맞춘 메시지를 골라 보내는 일의 전면 금지를 없앴습니다.

이유는 이 금지에 정당한 시민 활동까지 걸렸다는 것입니다. 예로 든 것은 비영리단체가 다른 언어로 유권자 안내문을 쓰는 일입니다. 기만이나 개인정보 오용이 섞인 타기팅은 기만·감시·프라이버시 절에서 계속 금지됩니다.

이 대목은 규칙의 완화이고, 이미 하던 집행을 옮겨 적은 것과는 다릅니다. 금지를 더한 무기·감시·기만·모델 학대 절과 방향은 반대지만, 순서는 이쪽에서도 같았습니다. 정당한 쓰임이 금지에 걸린다는 현실이 먼저였고, 규칙의 범위는 그 뒤에 고쳐졌습니다.

시행 이후 확인할 것

Anthropic은 Claude의 능력과 위험이 바뀌는 대로 이용정책을 계속 고치겠다고 밝혔습니다. 확인할 것은 이렇습니다.

• 11월 12일 시행. 개정판은 이날부터 적용됩니다. 하드웨어 요건이 실제로 어떤 설비에 걸리는지 봅니다.
• 고위험 요건의 적용 목록. Anthropic은 이 요건이 적용되는 추천과 적용되지 않는 추천을 새로 나눠 적었다고 했지만, 우리는 목록 내용을 확인하지 못했습니다. 어떤 추천이 요건 밖에 놓였는지 봅니다.
• 다음 개정에서 새로 요건이 붙는 쓰임. Anthropic이 능력과 위험이 바뀌는 대로 고치겠다고 한 만큼, 다음 개정에서 어떤 쓰임에 요건이 새로 붙는지 봅니다.

우리는 이번 개정이 새 규칙을 세운 문서라기보다, Claude가 어디까지 쓰였고 어디서 오용됐는지를 뒤따라 적은 기록이라고 봅니다. 공지의 「대부분 기존 규칙의 명확화」와 무기·감시 절의 집행 문장에 기댄 판단입니다. 다만 이 읽기가 들어맞지 않는 줄이 하나 있습니다. 무기·감시 절에는 집행이, 기만 활동 절에는 관측한 오용이, 모델 학대 금지에는 이미 있던 대화 종료 기능이 함께 적혀 있었습니다. 하드웨어 요건에는 우리가 대조한 공지 문면 안에서 그런 문장을 찾지 못했습니다(문단 전문은 대조하지 못했습니다). 먼저 있었던 것이 밝혀지지 않은 줄이 이 요건이고, 그 대상은 AI가 내놓은 답이 아니라 움직이는 설비입니다. 서두가 적은 「더 길고 독립적인 일」이 어디까지 갔는지는 이 줄이 시행 뒤 어떤 설비에 걸리는지를 보면 가늠할 수 있습니다. 그래서 이번 개정에서 가장 눈여겨볼 줄은 새로 금지된 행동보다 새로 요건이 붙은 쓰임입니다.