
앤트로픽의 SEC 수정 증권신고서(S-1/A)에 따르면, 회사는 내부 추정과 향후 모델에 대한 기대를 근거로 책임 있는 확장 정책(RSP)이 규정한 ‘AI에 따른 극적인 진보 가속’ 기준에 조만간 도달할 수 있다고 설명했다. 다만 현재 모델에 대한 판단이 아니라는 점을 명시하고, 기초 데이터를 계속 평가하고 있다고 덧붙였다.
공시가 짚은 위험은 AI 개발 속도와 안전장치 마련 속도의 격차다. AI를 연구개발에 더 많이 활용할수록 모델의 역량이 안전성·정렬·보안 조치를 개발하고 검증하는 속도보다 빠르게 향상될 수 있다는 것이다. 정렬은 AI의 행동이 인간의 의도와 목표에 부합하도록 하는 것을 말한다.
진보 속도를 제때 측정하기 어렵다는 점도 드러났다. 앤트로픽은 AI에 따른 개발 가속의 근거 상당 부분이 후행 지표에 의존한다고 밝혔다. 과거에도 개발 속도가 크게 빨라진 뒤에야 이를 파악한 적이 있으며, 향후에도 같은 일이 생길 수 있다고 공시했다. 이번 전망을 이미 검증된 성능 달성으로 읽기 어려운 이유다.
공식 RSP 3.4는 연구개발 자동화에 따른 가속을 별도 기준으로 다룬다. AI의 유의미한 기여가 없을 때 예상되는 진보 속도와 과거 가장 빨랐던 지속적 진보 속도에 비해 전체 AI 역량의 진보가 두 배 빨라지는 상황을 관찰하거나 예상하는지가 판단 요소다. 그 변화가 연구·엔지니어링 자동화에 상당 부분 기인할 수 있어야 하며, 추세가 이어지면 더 큰 가속으로 연결될 가능성도 본다. 문서는 이를 단순한 연구자 생산성 두 배 향상과 구분한다.
앤트로픽은 AI로 더 강력한 AI를 만드는 과정이 개발을 급격히 가속하면 상당한 안전 위험을 낳을 수 있다고도 밝혔다. 공시는 이 문제를 이른바 ‘재귀적 자기개선’과 연결했다. AI가 다음 세대 AI의 개발을 돕고, 그 결과 더 강력해진 AI가 다시 개발에 기여하는 과정이다. 그러나 이번 문서는 사람이 관여하지 않는 자기개선이 실현됐다는 발표는 아니다.
회사는 기술적으로 가능해지더라도 사람의 실질적인 감독이나 이해 없이 클로드가 차세대 최첨단 모델을 완전히 자율적으로 설계·구축하도록 안전하게 사용할 수 있을 것으로 예상하지 않는다고 설명했다. 이에 따라 앤트로픽의 최첨단 모델 개발에서 인간의 통제를 유지하도록 RSP를 개정하는 방안을 검토하고 있다.
공시는 모델 역량이 안전장치를 앞서거나 진보 속도를 예측하지 못하면 위험을 충분히 평가·완화하기 어려워질 수 있다고 경고했다. 앤트로픽은 향후 RSP에 따른 추가 보고서를 내놓겠다고 밝혔다. 도달 시점이나 해당 모델을 확정한 발표가 아니라, 개발 가속에 대비한 위험 공시와 정책 검토라는 점이 핵심이다.
출처: 앤트로픽 SEC 수정 증권신고서(S-1/A, 2026년 11월 2일) https://www.sec.gov/Archives/edgar/data/2130357/000162828026068676/anthropicpbc-sx1ax1.htm
앤트로픽 공식 책임 있는 확장 정책 안내 https://www.anthropic.com/responsible-scaling-policy
앤트로픽 책임 있는 확장 정책 3.4 https://www-cdn.anthropic.com/files/4zrzovbb/website/0bacdc8440ea96e62a8766d99ebe1d4eea6d5f3a.pdf