과기정통부-앤트로픽, AI 안전·사이버보안 협력 MoU 체결

정부 공식 전자정부 누리집에 게재된 과학기술정보통신부 보도자료에 따르면, 과기정통부는 글로벌 AI 연구개발 기업 Anthropic과 AI 안전성 확보 및 사이버보안 분야 협력을 위한 업무협약(MoU)을 체결했다.

이번 협약의 핵심은 고성능 AI가 사이버 공격과 방어에 미치는 영향을 함께 분석하고, 한국어 맥락에서 AI 모델의 안전성과 오남용 위험을 평가하는 데 있다. 과기정통부는 자율형 AI 에이전트에 대한 레드팀 평가도 협력 과제로 제시했다. AI 모델이 단순 응답 도구를 넘어 실제 업무와 시스템 조작에 가까운 역할을 맡는 흐름에 대응하려는 조치다.

보도자료는 이번 MoU가 2026년 2월 인도 AI 영향 정상회의에서 배경훈 부총리 겸 과기정통부 장관과 Dario Amodei Anthropic 최고경영자가 논의했던 협력 방안의 후속 조치라고 설명했다. Anthropic은 6월 17일 한국사무소를 정식 개소했으며, 과기정통부는 이를 한국 AI 생태계와 글로벌 AI 기업 간 협력 확대의 신호로 보고 있다.

정부는 앞서 OpenAI, NVIDIA, Google DeepMind 등과 AI 인프라와 기술 협력을 추진해 왔다. 이번 Anthropic과의 협력은 여기에 AI 안전과 신뢰, 사이버보안 축을 보강하는 성격이 강하다. 특히 AI 안전연구소(AISI)와 Anthropic 간 AI 모델 및 자율형 AI 에이전트 안전성 평가 협력이 언급됐다는 점에서, 향후 국내 AI 안전 평가 체계와 글로벌 프런티어 AI 기업의 연구 경험이 만나는 접점이 될 수 있다.

사이버보안 분야에서는 금융 분야 등을 포함한 AI 취약점 발굴, 사이버 위협 전문 지식과 관련 정보의 신속한 공유가 협력 대상으로 제시됐다. 생성형 AI와 자율형 에이전트가 공격 자동화와 방어 자동화 양쪽에 활용될 수 있다는 점에서, 민간 프런티어 AI 기업과 정부 기관 간 정보 공유 체계는 정책적 의미가 작지 않다.

다만 이번 발표만으로 구체적인 공동 평가 일정, 결과 공개 범위, 기술 표준화 방향까지 확정됐다고 보기는 어렵다. MoU는 협력의 틀을 마련하는 단계인 만큼, 실제 성과는 AI 안전성 평가 체계의 운영 방식과 사이버 위협 정보 공유가 얼마나 제도화되는지에 따라 달라질 전망이다.

출처: 금융위원회 정책자료(과기정통부 보도자료) https://www.fsc.go.kr/po010101/87150?curPage=&srchBeginDt=&srchCtgry=1&srchEndDt=&srchKey=&srchText=