앤스로픽 아모데이, 유엔 안보리서 AI 국제 안전 기준·사고 통보 체계 제안

유엔 안전보장이사회의 23일(현지시간) '인공지능과 국제 안보' 회의 기록에 따르면, 다리오 아모데이 앤스로픽 최고경영자는 첨단 AI 모델의 안전성을 검증할 국제 기준과 중대한 AI 사고를 알리는 공통 체계가 필요하다고 말했다. AI의 잠재적 위험을 개별 기업의 대응만으로 관리하기 어렵다는 취지다.

아모데이는 모델의 악용과 개발자의 통제를 벗어나는 상황을 두 가지 주요 위험으로 꼽았다. 특히 생물무기 개발에 AI가 악용될 가능성을 예로 들며, 기술의 영향이 경제나 정보통신 분야를 넘어 국제 안보에까지 미친다고 주장했다. 이는 발생한 사고를 발표한 것이 아니라 향후 위험에 관한 그의 평가다.

그가 제시한 국제 협력 방안은 세 갈래다. AI를 생물무기 제작에 사용하지 못하도록 하는 좁은 범위의 합의부터 시작하고, 첨단 모델의 능력과 각국의 약속 이행을 확인할 평가·검증 체계를 구축하며, 통제 상실 및 악용 위험의 시험 기준과 중대한 사고 통보 체계를 마련하자는 것이다.

이번 회의에는 요슈아 벤지오 유엔 AI 독립국제과학패널 공동의장과 샘 올트먼 오픈AI 최고경영자, 클레망 들랑그 허깅페이스 최고경영자도 참석했다. 아모데이의 발언은 국제 규범을 만들자는 제안이며, 안보리가 해당 기준이나 통보 의무를 채택했다는 뜻은 아니다.

출처: 유엔 안전보장이사회 제10228차 회의 영상 (https://webtv.un.org/en/asset/k1c/k1cdceg9sg), 유엔 회의 자동 전사 (https://transcripts.un.org/en/sc/10228)