앤트로픽, METR 6명에 직원급 접근권…독립 AI 평가 확대

앤트로픽이 비영리 AI 평가기관 METR 직원 6명에게 사내 위험 평가팀과 유사한 수준의 접근권을 제공하기 시작했다. 공식 발표에 따르면 METR은 위험 수준과 사고, 안전 관행에 대한 분석을 회사의 사전 승인 없이 공개할 수 있다.

앤트로픽은 15일 공개한 공식 발표에서 METR 평가팀에 회사 하드웨어와 사무 공간, 내부 도구·시스템 접근권을 제공했다고 밝혔다. 외부 평가자가 모델을 시험하는 데 그치지 않고, 회사 내부의 위험 평가 업무를 가까이에서 살피도록 한 조치다.

회사는 최신 모델의 기능만으로는 위험을 충분히 평가하기 어렵다고 설명했다. 모델이 어떻게 훈련됐는지, 안전장치가 어떻게 작동하는지에 대한 정보도 필요하지만, 이를 모두 공개하면 악용되거나 영업상 민감한 정보가 드러날 수 있다는 것이다. 내부 정보에 접근하는 평가자가 근거와 판단을 외부에 공개하는 방식으로 이 간극을 줄이겠다는 구상이다.

접근권에 예외가 없는 것은 아니다. 고객 관련 데이터와 변호사·의뢰인 간 비밀유지 특권이 적용되는 정보, 모델 아키텍처 정보 등 사전에 정한 일부 범주는 제외된다. 다만 아키텍처 정보가 평가에 매우 중요하면 별도 내부 승인을 거쳐 공유할 수 있다는 단서도 붙었다. 앤트로픽은 이런 예외 밖에서는 직원들이 정렬 위험을 다루는 동료에게 하듯 METR 평가팀과 정보를 공유하도록 권장한다고 밝혔다.

결과 공개 권한도 핵심이다. 앤트로픽은 METR의 분석 발표를 거부할 수 없지만, 사전에 좁게 정의한 정보 범주에 해당하면 삭제를 요구할 수 있다. METR은 삭제 대상 정보 자체를 밝히지 않는 범위에서 어떤 삭제 요구를 받았는지, 그 요구가 정당했다고 보는지를 공개할 수 있다. 공개 전면 자유와는 구분되지만, 회사 승인 없이는 결과를 낼 수 없는 평가보다 독립성을 넓힌 구조다.

평가팀은 집행 가능한 계약과 앤트로픽의 보안 기준 아래에서 활동한다. METR 내 다른 직원들은 이 팀의 업무와 분리되며, 앤트로픽과 다른 프로젝트를 수행하는 연구진도 여기에 포함된다. 회사는 이 접근권이 다른 조직이 앤트로픽이나 고객·협력사의 정보를 얻는 통로가 아니라고 강조했다.

앤트로픽은 외부 평가자의 접근권을 세 단계로 발전시키고 있다고 설명했다. 1단계는 회사가 정한 범위 안에서 조사하고 결과 공개에도 승인을 받는다. 2단계는 더 많은 정보에 접근하며 사전 승인 없이 결과를 발표하되, 정해진 범주의 정보 삭제 요구를 받을 수 있다. METR에 적용한 3단계는 여기에 직원과 유사한 수준의 접근권을 더한다.

다른 협력은 아직 같은 단계가 아니다. 앤트로픽은 SecureBio, 액센츄어·Faculty 등과도 평가 협력을 진행하고 있지만, 초기 협력의 정보 접근과 결과 공개 권한은 더 제한적이라고 밝혔다. 향후 역량과 기밀 보호를 확인하며 더 많은 독립 평가팀을 내부에 배치하는 것이 목표다.

METR도 공식 위험 평가 페이지에서 앤트로픽·오픈AI 등과 협력해 자율 수행 능력을 평가하고 외부 평가 체계를 시험한다고 설명한다. 이 평가 업무에 대한 보수는 받지 않으며, 기업이 제공하는 모델 접근권과 토큰은 활용한다고 명시했다. 다만 이번 발표는 평가 결과나 안전성 인증이 아니라, 누가 어떤 정보에 접근하고 판단을 공개할 수 있는지에 관한 절차 변화다.

출처: Anthropic 공식 발표 https://www.anthropic.com/news/an-update-on-independent-evaluators
METR 공식 위험 평가 안내 https://metr.org/risk-assessment/