EU AI사무국, 범용 AI 모델 집행권 가동…기술문서 요구·과징금 가능

유럽연합 집행위원회의 공식 집행 안내에 따르면 EU AI사무국은 2일부터 범용 인공지능 모델에 대한 조사와 제재 권한을 행사한다. 사무국은 제공자에게 정보를 요구하고 모델에 접근해 평가하며, 필요한 조치와 과징금 부과 절차를 진행할 수 있다.

범용 AI 모델 의무 자체는 AI법 제5장이 적용된 2025년 8월부터 시작됐다. 이번에는 집행 권한과 범용 AI 모델 제공자에 대한 과징금 조항이 가동된다는 점이 핵심이다. 다만 2025년 8월 2일 이전 EU 시장에 출시된 모델은 전환 규정에 따라 2027년 8월 2일까지 의무를 이행할 수 있다.

AI법 제53조는 범용 AI 모델 제공자에게 모델의 학습·시험 과정과 평가 결과를 포함한 기술 문서를 작성하고 최신 상태로 유지하도록 요구한다. 모델을 자사 AI 시스템에 통합하려는 하위 제공자가 성능과 한계를 이해할 수 있도록 정보도 제공해야 한다. EU 저작권법을 준수하는 정책을 마련하고, 학습에 사용한 콘텐츠를 일정한 양식으로 요약해 공개하는 의무도 포함된다.

무료 오픈소스 라이선스로 공개되고 가중치와 아키텍처, 사용 정보까지 제공되는 모델은 기술 문서와 하위 제공자용 정보 의무 일부에서 예외를 받을 수 있다. 그러나 저작권 준수 정책과 학습 콘텐츠 요약 의무까지 모두 면제되는 것은 아니다. 시스템적 위험이 있는 범용 AI 모델에는 이 오픈소스 예외가 적용되지 않는다.

시스템적 위험이 있는 고성능 모델에는 제55조의 추가 의무가 붙는다. 제공자는 적대적 시험을 포함한 모델 평가를 수행하고 EU 차원의 시스템적 위험을 평가·완화해야 한다. 중대한 사고와 시정조치를 기록해 AI사무국 등에 지체 없이 보고하고, 모델과 물리적 기반시설에 적절한 사이버보호 수준을 확보해야 한다.

AI사무국은 단순 정보요청이나 집행위원회 결정 형식으로 자료 제출을 요구할 수 있다. 범용 AI 모델을 직접 평가하기 위한 접근을 요구하고, 필요하면 모델의 공개 범위를 제한하는 조치도 요청할 수 있다. 고의 또는 과실에 따른 의무 위반, 자료 요구 불응, 부정확하거나 불완전한 답변, 모델 접근 거부에는 전년도 전 세계 매출의 3% 또는 1천500만 유로 가운데 더 큰 금액을 상한으로 과징금이 부과될 수 있다. 실제 액수는 위반의 성격과 중대성, 기간 등을 따져 정한다.

범용 AI 행동규범은 법적 의무를 이행하는 자발적 수단이다. 투명성과 저작권 장은 모든 범용 AI 모델 제공자를 대상으로 하고, 안전·보안 장은 시스템적 위험 모델 제공자를 위한 내용을 담았다. 규범에 서명하지 않은 사업자도 EU 시장에서 빠지는 것은 아니며, 집행위원회가 평가할 수 있는 다른 적절한 방법으로 준수 사실을 입증해야 한다.

이번 집행 단계는 범용 AI 규제가 선언과 준비를 넘어 실제 감독 절차로 옮겨간다는 의미가 있다. EU에 모델을 공급하는 기업은 기술 문서와 학습 콘텐츠 요약, 저작권 정책을 유지하는 데 그치지 않고 정보요청과 모델 평가에 응할 수 있는 내부 대응 체계까지 갖춰야 한다. 시스템적 위험 모델 제공자는 사고 보고와 위험 완화, 사이버보안 조치를 함께 운영해야 한다.

출처: 유럽연합 집행위원회 AI법 집행 체계 안내 https://digital-strategy.ec.europa.eu/en/policies/enforcement-ai-act

출처: EU AI법 제53조 범용 AI 모델 제공자 의무 https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-53

출처: EU AI법 제55조 시스템적 위험 모델 제공자 의무 https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-55

출처: EU AI법 제101조 범용 AI 모델 제공자 과징금 https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-101

출처: EU AI법 제111조 기존 범용 AI 모델 전환 규정 https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-111

출처: 유럽연합 집행위원회 범용 AI 행동규범 https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai