EU, AI법 제50조 투명성 지침 확정…챗봇 고지·생성물 표식 8월 시행

유럽연합 집행위원회는 20일 AI법 제50조의 투명성 의무를 구체화한 최종 지침을 공개했다. 집행위원회 공식 발표에 따르면 챗봇과 AI 에이전트 등 대화형 시스템의 이용자 고지, 생성·조작 콘텐츠의 기계 판독 표식, 딥페이크와 일부 공익 콘텐츠의 표시 의무는 8월 2일부터 적용된다.

지침은 AI 시스템 공급자와 배포자의 역할을 나눠 설명한다. 공급자는 사람이 AI와 직접 상호작용하는 시스템을 설계할 때 이용자가 AI와 대화하고 있다는 사실을 알 수 있도록 해야 한다. 고지는 첫 상호작용이 시작될 때부터 명확하고 구별 가능한 방식으로 제공해야 하며, 평균적인 이용자에게 AI와의 상호작용이 명백한 경우에만 예외가 인정된다.

적용 대상은 단순한 자동 응답을 넘어 사람과 실제 양방향 소통을 하도록 설계된 시스템이다. 집행위원회는 챗봇과 AI 에이전트, 아바타를 대표 사례로 들었다. 반면 시스템이 배경에서만 작동하거나 기계끼리 통신하고 사람과 직접 접촉하지 않는 경우에는 이 고지 의무가 적용되지 않는다.

생성형 AI 공급자는 합성 음성·이미지·영상·텍스트가 AI로 생성되거나 조작됐음을 탐지할 수 있도록 효과적이고 신뢰할 수 있는 기계 판독 표식을 넣어야 한다. 다만 짧은 숫자·기호·문자열과 소스코드, 사람에게 노출되지 않는 기계 간 출력, 최종 결과물이 아닌 폐쇄형 산업·제작 환경의 중간 산출물은 지침상 적용 범위에서 제외된다. 일반적인 편집을 보조하는 기능에도 표식 의무가 적용되지 않을 수 있다.

AI 시스템을 업무에 사용하는 배포자에게는 별도의 공개 의무가 부과된다. 감정 인식이나 생체 분류 시스템에 사람이 노출되면 그 작동 사실을 알려야 한다. 딥페이크는 이용자가 처음 접하는 시점까지 눈에 보이거나 들리는 방식으로 명확히 공개해야 하며, 콘텐츠 안에 기계 판독 표식이 들어 있다는 이유만으로 이 의무를 대신할 수 없다. 예술·창작·풍자·허구 작품은 감상을 방해하지 않는 적절한 방식으로 표시할 수 있다.

정치와 공공서비스, 사법·치안, 공중보건, 환경, 소비자 안전, 경제·과학·문화처럼 공적 논의와 관련된 AI 생성·조작 텍스트도 공개 대상이다. 다만 관련 지식을 가진 사람이 내용을 실질적으로 검토했거나 책임 있는 편집 주체가 승인·수정·거부 권한을 행사했다면 표시 의무에서 제외될 수 있다. 맞춤법이나 문법만 확인하는 형식적 검토는 사람의 검토나 편집 통제로 인정되지 않는다.

EU 밖에서 설립된 공급자도 AI 시스템의 출력이 EU에서 사용되면 AI법 적용 대상이 될 수 있다. 집행위원회 공식 문답은 8월 2일 이전에 시장에 출시된 시스템에 한해 생성 콘텐츠의 표식·탐지 의무를 12월 2일까지 유예한다고 설명했다. 8월 2일 이전에 만들어진 콘텐츠에는 소급 표시 의무가 없지만, 가능한 경우 자발적 표시를 권고했다.

집행위원회가 함께 마련한 생성 AI 투명성 행동규범은 자발적으로 참여하는 준수 수단이다. 서명하지 않은 공급자와 배포자는 동등하게 적절한 다른 방법으로 표식·표시 의무 준수를 입증해야 한다. 공식 문답은 위반 시 제재가 최대 1천500만 유로 또는 전년도 전 세계 매출의 3%에 이를 수 있다고 밝혔다. 실제 집행은 주로 회원국의 시장감시기관이 맡고, 일부 범용 AI 기반 시스템은 EU AI사무국이 감독한다.

이번 지침은 AI 생성물 표시가 단순한 안내 문구를 넘어 시스템 설계와 콘텐츠 유통 과정 전체의 의무로 전환된다는 점을 보여준다. EU 이용자에게 서비스를 제공하는 글로벌 AI 기업과 콘텐츠 플랫폼, 광고·미디어·공공기관은 대화 시작 시점의 고지 방식과 생성물 메타데이터, 사람의 검토 절차를 함께 점검해야 한다. 다만 구체적인 적용 예외와 집행 방식은 회원국 감독기관과 개별 사례에 따라 추가 확인이 필요하다.

출처: 유럽연합 집행위원회 공식 발표 https://digital-strategy.ec.europa.eu/en/news/commission-publishes-guidelines-transparency-obligations-providers-and-deployers-certain-ai-systems
출처: AI법 제50조 투명성 지침 공식 페이지 https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems
출처: AI법 제50조 투명성 의무 공식 문답 https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act