OpenAI, 연방 AI 안전 규제 촉구…캘리포니아 법안 4건 지지

OpenAI가 역량 기반의 의무적 연방 AI 안전 규제를 지지한다는 입장을 내놓고, 연방 차원의 법제화 전까지 주(州) 정부의 입법을 뒷받침하겠다고 밝혔다. OpenAI 공식 발표에 따르면 회사는 캘리포니아에서 의회를 통과해 주지사에게 넘어간 AI 안전 관련 법안 4건을 지지한다.

OpenAI는 연방 규제가 소수의 최첨단 AI 연구소가 개발하는 고성능 시스템의 역량과 위험에 비례해야 한다고 설명했다. 스타트업이나 소규모 개발자, 최전선 모델을 개발하지 않는 연구자에게 같은 의무를 적용하는 방식은 피해야 한다는 입장도 밝혔다.

회사가 지지한 법안은 독립 안전성 평가 기관 지정 절차를 다루는 SB 813, AI 감사자의 등록·독립성·투명성 기준을 담은 AB 1405, 청소년 대상 동반형 챗봇의 연령 확인과 위험 평가·감사 등을 규정하는 SB 1119, AI를 활용한 생물학적 위협에 대응하기 위한 유전자 합성 장비·서비스의 연방 심사 기준 준수를 다룬 AB 1864다.

OpenAI는 자율적 약속만으로는 충분하지 않다며 공통 시험과 독립 평가, 보안 강화, 사고 보고, 국가 차원의 대비 체계가 필요하다고 제안했다. 개발 진척보다 안전성에 대한 신뢰가 우선해야 하며, 필요한 안전 기준을 충족하지 못할 경우 모델 능력 고도화를 늦추거나 멈춰야 한다는 입장도 재확인했다.

이번 발표는 최근 AI 역량의 빠른 발전을 근거로 연방 규제와 주(州) 단위 입법, 업계 자율 표준을 병행하자는 제안이다. 다만 법안의 최종 효력은 캘리포니아 주지사의 서명과 향후 연방 의회의 입법 논의에 따라 달라진다.

출처: OpenAI 공식 발표 https://openai.com/index/ai-policy-window/