앤트로픽, 클로드 이용정책 개정…자율 장비 안전요건 추가

앤트로픽(Anthropic)이 클로드 이용정책을 개정해 자율 장비의 안전 통제와 기만적 캠페인 금지 기준을 구체화했다. 회사가 8일 공개한 공식 발표에 따르면 새 정책은 11월 12일부터 적용된다. 상당수 변경은 기존 규칙을 명확히 하는 성격이지만, 사람에게 부상을 입힐 수 있는 하드웨어와 모델을 연결하는 경우에는 안전요건이 추가됐다.

자율적으로 물리적 동작을 수행하는 장비에는 자격을 갖춘 담당자가 작동을 관찰하고 필요할 때 중단할 수 있어야 한다. 클로드와의 연결이 끊겨도 장비는 안전 상태를 유지할 수 있어야 한다. 정책 원문은 사람의 승인 없이 움직이는 로봇과 차량, 사람에게 힘을 가하는 기계 등을 고위험 물리적 행위의 예로 제시한다. 장비 실행 전에 사람이 명령을 검토하는 경우나 장비를 제어하지 않고 관찰만 하는 경우 등은 적용 대상에서 제외한다.

건강, 법적 권리, 재정, 생계, 필수 서비스 접근 등에 영향을 미치는 고위험 권고에는 사람이 검토하고 필요하면 결과를 바꿀 권한을 갖도록 하는 기존 원칙을 유지했다. 영향을 받는 사람에게 AI가 사용됐다는 사실을 알리는 요구도 그대로다. 이번 개정에서는 어떤 권고가 이러한 요건에 해당하는지 구체적으로 나눴다.

기만적 활동에 관한 규칙은 별도 조항으로 통합했다. 가짜 계정이나 매체를 운영해 메시지의 배후를 숨기거나, 독립적인 반응처럼 꾸며 콘텐츠를 증폭하는 행위가 정치·상업 목적을 가리지 않고 금지된다. 이런 캠페인을 위한 도구와 기반 시스템을 만드는 행위도 포함된다. 회사는 기존 선거·사기·개인정보·허위정보 조항에 흩어져 있던 금지 규칙을 한데 모은 것이라고 설명했다.

선거 관련 조항은 유권자를 속이거나 선거를 방해하는 행위에 초점을 맞췄다. 개인화된 투표·선거운동 타기팅에 대한 일괄 금지는 삭제했다. 앤트로픽은 비영리단체의 다국어 유권자 안내 같은 정당한 활동까지 기존 조항의 적용을 받았다고 설명했다. 다만 기만이나 유권자 개인정보의 오용에 기반한 타기팅은 다른 금지 조항에 따라 계속 제한된다.

무기 금지 조항은 무기 자체뿐 아니라 유도·제어 소프트웨어와 구성 요소, 드론의 무장화까지 포함한다는 점을 명시했다. 동의 없는 추적은 실시간 감시뿐 아니라 이미 수집한 데이터 분석에도 적용된다고 구체화했다. 회사는 이 두 변경이 실제 집행 기준을 새로 바꾼 것은 아니라고 밝혔다.

모델을 대상으로 한 지속적이고 불필요한 학대 행위도 금지 조항에 추가됐다. 회사는 뚜렷한 목적 없이 극단적인 행위를 반복하는 경우에만 적용하며, 일상적인 불만 표현이나 반박, 어두운 창작 소재, 모델 시험과 연구는 해당하지 않는다고 설명했다.

출처: Anthropic 공식 발표 ‘2026 Usage Policy update’ https://www.anthropic.com/news/2026-usage-policy-update · Anthropic 공식 이용정책 https://www.anthropic.com/legal/aup