OpenAI, 청소년 ChatGPT 보호 강화…학습 모드·폭력 위협 알림 확대

OpenAI 공식 발표에 따르면 회사는 16일(현지시간) 청소년 이용자를 위한 ChatGPT 보호 기능을 확대했다. 보호자가 학습 모드를 기본값으로 설정할 수 있도록 하고, 장시간 이용 시 중단 알림과 폭력 위협 관련 계정 비활성화 알림을 강화한 것이 핵심이다.

학습 모드는 답을 곧바로 제시하기보다 단계별 질문과 설명, 이해도 확인을 통해 이용자가 문제를 풀도록 돕는 기능이다. 연결된 청소년 계정의 보호자는 보호자 통제 화면에서 이 기능을 켤 수 있다. 활성화하면 청소년이 새 대화를 시작할 때마다 학습 모드가 기본으로 적용된다.

OpenAI는 학습 시작 장벽을 낮추기 위해 청소년 계정에 교육용 시작 문구도 추가했다고 밝혔다. 주제를 쉬운 단계로 나누거나, 필기를 학습 가이드와 플래시카드로 바꾸고, 연습문제를 만들거나 근거와 표현을 점검하는 식의 사용 예시를 제시하는 방식이다. 회사는 AI를 단순한 정답 제공 수단보다 능동적인 학습 도구로 유도하려는 조치라고 설명했다.

연령에 따른 콘텐츠 보호도 함께 강조됐다. OpenAI는 시스템이 이용자를 18세 미만으로 추정하면 그래픽 폭력, 자해, 위험한 유행성 도전, 건강하지 않은 신체 이미지, 위험하거나 성적·연애 성격의 역할극 등에 더 강한 보호 장치를 적용한다고 밝혔다. 이는 보호자와 청소년이 계정을 연결하지 않았더라도 연령 추정 결과에 따라 적용되는 별도 안전 체계다.

이용 습관을 조절하는 기능도 강화된다. 청소년이 ChatGPT를 장시간 사용하면 휴식을 권하는 알림을 더 자주 표시한다. 연결 계정의 보호자는 이용 제한 시간대를 정하고 음성 모드를 끄거나 이미지 생성 접근을 관리할 수 있다. OpenAI는 이런 통제가 AI 사용을 전면 차단하기보다 학습과 창작을 허용하면서 이용 시간과 기능 범위를 조절하도록 설계됐다고 설명했다.

보호자 알림 범위는 폭력 관련 상황으로 확대됐다. 연결된 청소년 계정이 온라인 폭력 위협이나 폭력 행위와 관련해 이용 정책을 위반해 비활성화되면 보호자에게 이를 알리는 방식이다. OpenAI는 해당 알림이 소설 창작, 게임, 뉴스·정치 토론, 일반적인 분노 표현이나 추상적 질문에는 적용되지 않도록 좁게 설계했다고 밝혔다. 기존에는 자해 가능성처럼 고위험 징후가 감지된 일부 상황에서 보호자 알림을 제공해 왔다.

이번 발표는 청소년의 AI 접근을 허용하되 성인과 다른 기본 보호 수준을 적용한다는 OpenAI의 제품 방향을 구체화했다. 학습 기능과 안전 통제를 같은 보호자 화면에 묶으면서 교육적 활용과 위험 대응을 함께 관리하도록 한 점이 특징이다.

다만 이번 조치는 OpenAI가 자체 발표한 정책과 기능 설명을 기준으로 한다. 연령 추정의 정확도, 국가·계정별 실제 제공 범위, 보호자 알림의 오탐과 누락 수준은 공개된 수치만으로 독립적으로 평가하기 어렵다. 청소년 보호 효과는 기능 제공 여부뿐 아니라 보호자 연결률, 이용자의 우회 가능성, 위기 상황에서의 후속 지원 체계까지 함께 살펴야 한다.

출처: OpenAI https://openai.com/index/why-teens-deserve-access-safe-ai/
OpenAI 보호자 통제 안내 https://openai.com/index/introducing-parental-controls/