앤트로픽 CEO, AI 정책 속도전 제안…프런티어 모델 사전 테스트 촉구

다리오 아모데이 앤트로픽 최고경영자(CEO)는 10일(현지시간) 개인 블로그에 공개한 글에서 AI 발전 속도와 정책 결정 속도 사이의 간극이 커지고 있다며 프런티어 AI 모델에 대한 사전 테스트와 감사 체계를 제도화해야 한다고 주장했다.

아모데이는 글에서 앤트로픽이 프런티어 모델 테스트에 관한 입법 제안과 일자리 대체에 관한 정책 프레임워크를 함께 내놓고 있다고 밝혔다. 그는 최근 사이버보안 위험 평가와 고성능 모델의 확산을 근거로, AI 안전 정책이 단순한 투명성 요구를 넘어 구속력 있는 규제로 이동해야 한다고 설명했다.

핵심 제안은 항공기나 의약품처럼 고위험 기술을 출시 전 검증하는 방식에 가깝다. 아모데이는 프런티어 AI 모델이 공공 안전 기준을 충족하지 못하면 출시를 막거나 되돌릴 수 있어야 한다고 봤다. 이는 모델 개발사가 안전 절차와 사고를 공개하는 수준을 넘어, 독립적인 기술 테스트와 감사를 요구하는 방향이다.

글은 AI가 노동시장과 조세, 과학 혁신, 시민 자유, 지정학에도 영향을 줄 것이라고 내다봤다. 특히 AI가 경제성장을 빠르게 만들 수 있는 동시에 인지 노동을 대체할 가능성이 있어, 정책은 성장 촉진만이 아니라 이익 배분과 전환 비용 완화까지 다뤄야 한다고 강조했다.

이번 글은 앤트로픽의 공식 보도자료 형식은 아니지만, 회사 CEO가 직접 공개한 정책 입장이라는 점에서 AI 업계의 규제 논의 흐름을 보여준다. 미국 백악관이 최근 AI 혁신과 보안을 함께 다루는 행정명령을 발표한 뒤, 주요 AI 기업들이 규제 원칙과 안전 기준을 더 구체적으로 제시하는 모습이다.

출처: Dario Amodei - Policy on the AI Exponential https://darioamodei.com/post/policy-on-the-ai-exponential