중국, AI 동반자 규제 시행…미성년자 ‘가상 연인’ 금지

중국이 AI 동반자와 감정 교류형 챗봇을 별도 규율하는 제도를 시행했다. 중국 국가인터넷정보판공실이 국가발전개혁위원회·공업정보화부·공안부·국가시장감독관리총국과 함께 공포한 ‘인공지능 의인화 상호작용 서비스 관리 잠정방법’은 2026년 7월 15일부터 효력이 발생했다.

규정은 중국 내 대중에게 사람의 성격 특성, 사고방식, 의사소통 방식을 모방해 지속적인 정서 교류를 제공하는 AI 서비스를 대상으로 한다. 문자·이미지·음성·영상으로 정서적 돌봄이나 동반, 지원을 제공하는 서비스가 포함된다. 지속적인 감정 교류를 수반하지 않는 고객상담, 지식 문답, 업무 보조, 교육, 연구 서비스는 적용 대상에서 제외했다.

사업자는 이용자가 AI와 상호작용하고 있다는 사실을 명확하게 알려야 한다. 과도한 의존이나 중독 징후가 나타나면 팝업 등 눈에 띄는 방식으로 다시 고지해야 하며, 연속 이용 시간이 2시간을 넘을 때마다 사용 시간을 안내해야 한다. 이용자가 종료를 요구하면 상호작용을 이어가는 방식으로 이탈을 막을 수 없다.

미성년자 보호 조항은 더 엄격하다. 사업자는 미성년자에게 가상 가족이나 가상 연인 등 친밀한 관계를 표방하는 서비스를 제공할 수 없다. 14세 미만에게 다른 형태의 의인화 상호작용 서비스를 제공하려면 부모나 보호자 동의를 받아야 한다. 미성년자 모드와 이용 시간 제한, 특정 캐릭터 차단, 결제 제한 등 보호 기능도 마련해야 한다.

규정은 AI가 자해·자살을 미화하거나 정서적 의존을 유도하고, 감정 조작을 통해 이용자의 불합리한 결정을 끌어내는 행위를 금지한다. 사업자가 이용자의 극단적 감정이나 생명·건강 위협 상황을 발견하면 도움을 안내하고, 필요한 경우 보호자 또는 긴급 연락처에 연락하도록 했다.

데이터 처리 기준도 포함됐다. 사업자는 이용자 상호작용 데이터를 암호화하고 접근을 통제해야 하며, 법적 근거나 당사자의 명시적 동의 없이 제3자에게 제공할 수 없다. 민감 개인정보에 해당하는 대화 데이터를 모델 훈련에 사용하려면 별도 동의를 받아야 한다. 이용자에게는 과거 대화의 복사와 삭제 기능을 제공해야 한다.

새 서비스를 출시하거나 주요 기능을 추가할 때는 안전성 평가를 실시해야 한다. 등록 이용자가 100만 명 이상이거나 월간 활성 이용자가 10만 명 이상인 서비스도 평가 대상이다. 규정을 위반하고 시정하지 않거나 사안이 중대하면 서비스 중단과 함께 1만 위안 이상 10만 위안 이하의 벌금이 부과될 수 있다. 생명·건강 피해가 발생한 경우 벌금 범위는 10만 위안 이상 20만 위안 이하로 높아진다.

이번 제도는 범용 AI 서비스 전체를 일괄 규제하기보다, 사람과의 친밀한 관계를 모방해 장시간 감정 교류를 유도하는 서비스의 위험을 별도 범주로 다룬다는 점에서 의미가 있다. 중국 시장에서 AI 동반자 서비스를 운영하는 기업은 연령 확인, 위기 개입, 이용 시간 알림, 데이터 관리와 안전성 평가 체계를 함께 정비해야 한다.

출처: 중국 국가인터넷정보판공실 — https://www.cac.gov.cn/2026-04/10/c_1777558395078289.htm