EU, 챗봇·딥페이크 투명성 의무 시행…AI 생성물 기계 판독 표시

유럽연합 집행위원회의 공식 지침에 따르면 AI법 제50조의 투명성 의무가 2일부터 적용됐다. 이용자와 직접 상호작용하는 AI 시스템은 상대가 사람 아닌 AI라는 사실을 알려야 한다. 생성형 AI 제공자는 합성하거나 조작한 오디오·이미지·영상·텍스트를 탐지할 수 있도록 출력에 기계 판독 가능한 표시를 넣어야 한다.

의무는 AI 시스템 제공자와 이를 활용해 콘텐츠를 공개하는 배포자에게 다르게 적용된다. 제공자는 기계가 읽을 수 있는 표식이 기술적으로 효과적이고 상호운용 가능하며 견고하게 작동하도록 설계해야 한다. 감정 인식이나 생체 분류 시스템을 쓰는 배포자는 그 대상이 된 사람에게 사용 사실을 알려야 한다.

사람이 실제로 한 말이나 행동처럼 보이게 만든 딥페이크에는 눈에 띄는 고지가 필요하다. 공익 사안을 알리기 위한 AI 생성·조작 텍스트도 사람이 검토하지 않았고 편집 책임을 맡은 주체가 없으면 AI 사용 사실을 밝혀야 한다. 다만 사람의 검토와 편집 통제를 거치고 자연인이나 법인이 편집 책임을 지는 공익 텍스트는 이 가시적 고지 의무에서 제외된다.

예술·창작·풍자·허구 작품에 포함된 딥페이크는 작품의 감상이나 표시를 방해하지 않는 적절한 방식으로 고지하면 된다. 범죄의 탐지·예방·수사·기소를 위해 법률이 허용한 경우에도 별도 예외가 적용된다. 표준적인 편집처럼 AI법상 생성 또는 조작으로 보지 않는 작업의 범위는 집행위원회 지침이 사례별로 설명한다.

EU는 제50조 준수를 돕기 위한 생성물 투명성 행동규범과 표시 아이콘도 공개했다. 행동규범은 생성형 AI 제공자와 배포자가 서명할 수 있는 자발적 수단이다. 서명자는 규범의 조치를 이행해 법 준수 사실을 입증할 수 있지만, 참여하지 않은 사업자는 동등하게 적절한 다른 방법을 제시해야 한다. 집행위원회에 따르면 7월 말까지 약 190개 기업·단체가 규범에 서명했다.

공식 아이콘은 'AI 관여', '완전한 AI 생성', '부분적인 AI 수정' 등을 구분한다. 아이콘 사용 자체는 선택 사항이며 그것만으로 법적 준수가 인정되지는 않는다. 딥페이크와 적용 대상 텍스트에 대한 고지 의무는 선택 사항이 아니다. 표시가 필요한 콘텐츠를 처음 접하는 시점에 분명히 알아볼 수 있어야 하고, 재공유하거나 내려받은 뒤에도 표시가 보존되도록 하는 것이 권고된다.

집행은 EU AI사무국과 회원국 시장감시 당국, 유럽데이터보호감독기구가 역할을 나눠 맡는다. AI사무국은 범용 AI 모델 제공자와 그 모델을 기반으로 같은 기업집단이 만든 AI 시스템, 초대형 온라인 플랫폼·검색엔진에 통합된 AI 시스템 등을 감독한다. 나머지 AI 시스템은 회원국 당국이 주로 집행한다.

이번 시행으로 생성형 AI의 투명성은 서비스 화면의 안내 문구뿐 아니라 콘텐츠 출처를 기계가 식별할 수 있는 기술적 표식까지 포함하는 의무가 됐다. EU 시장에 AI 서비스나 합성 콘텐츠를 공급하는 기업은 모델 출력 단계의 표식과 이용자 화면의 고지, 편집 책임 절차를 각각 점검해야 한다.

출처: 유럽연합 집행위원회 AI법 제50조 투명성 지침 https://digital-strategy.ec.europa.eu/en/policies/guidelines-transparency-ai-generated-content
출처: 유럽연합 집행위원회 AI 생성물 투명성 행동규범 https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content
출처: 유럽연합 집행위원회 AI 생성물 표시 아이콘 안내 https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content
출처: 유럽연합 집행위원회 AI법 집행 체계 안내 https://digital-strategy.ec.europa.eu/en/policies/enforcement-ai-act