OpenAI, 국가안보 AI 활용 원칙 공개…대량 국내 감시·자율 무기 제한 명시

OpenAI 공식 발표에 따르면 회사는 8일(현지시간) 정부 및 국가안보 파트너십에 적용할 ‘국가안보 원칙’을 공개했다. 원칙은 민주적 책임성, 인간 판단, 법치주의를 중심으로 정부의 AI 활용 범위를 정리하고, 대량 국내 감시와 고위험 자동 결정, 책임 회피 목적의 사용을 지원하지 않겠다는 내용을 담았다.

OpenAI는 정부가 프런티어 AI 시스템을 공공서비스, 핵심 인프라 보호, 사이버 방어, 생물보안 대응 등에 사용할 수 있다고 봤다. 다만 국가안보와 법집행처럼 민감한 영역에서는 AI가 민주적 제도와 인권 보호를 약화시키지 않도록 감독 체계가 함께 설계돼야 한다고 설명했다.

이번 원칙은 OpenAI가 미국 정부와 동맹국을 대상으로 한 방어 분야 협력을 확대하는 시점에 나왔다. 회사는 최근 사이버 방어 프로그램인 Daybreak의 일환으로 호주, 캐나다, 일본, 한국, 프랑스, 독일, 폴란드, 네덜란드, 유럽연합 사이버보안기구 ENISA 등과 Trusted Access for Cyber 파트너십을 맺었다고 밝혔다. 영국 정부와도 사이버, 테스트, 평가 분야 협력을 진행하고 있으며, 생물보안 분야에서는 GPT-Rosalind 모델에 대한 제한적 접근을 미국 정부와 일부 동맹 파트너에 제공한다고 설명했다.

공개된 PDF 원칙 문서는 OpenAI가 정부의 AI 활용을 전면 배제하지 않는다고 명시한다. 정보작전, 수사, 군사작전의 공격·방어 여부만으로 허용 범위를 가르기보다는, 해당 사용이 원칙과 제한선 안에 있는지를 따져야 한다는 입장이다. 이는 AI 기업이 국방·안보 영역과 거리를 두는 기존 논의에서 한 걸음 더 나아가, 제한 조건을 둔 참여 기준을 공개한 것으로 볼 수 있다.

제한선도 함께 제시됐다. OpenAI는 자사 기술이 정부의 무단 또는 무제한 국내 대량 감시, 민감한 개인 특성 추론을 통한 불이익, 권리 행사에 대한 보복, 증거 조작이나 허위 입증에 사용되는 것을 지원하지 않겠다고 밝혔다. 또한 감시, 체포, 구금, 필수 서비스 거부처럼 개인의 권리와 자유, 안전, 법적 지위에 직접 영향을 주는 결정은 적절한 인간 판단과 책임 없이 자동화돼서는 안 된다고 설명했다.

무력 사용과 관련해서도 인간의 실질적 판단을 강조했다. 원칙 문서는 AI가 의사결정자가 더 정확한 정보를 바탕으로 판단하도록 도울 수는 있지만, 표적 식별·선택·교전 등 핵심 기능을 자동화해 인간의 승인과 책임을 약화시키는 방식은 엄격한 검토 대상이라고 밝혔다. OpenAI는 계약상 사용 제한, 모델 동작 기준, 고객 참여와 감독, 감사 로그와 오남용 분류기 같은 기술적 장치를 조합해 민감한 배포를 관리하겠다고 덧붙였다.

이번 발표는 AI 모델 제공사가 정부·안보 영역에서 어디까지 역할을 맡을 수 있는지를 둘러싼 논쟁과 맞물린다. OpenAI는 기업이 민주적 절차를 대체할 수 없으며, 가장 중대한 질문은 입법과 공적 감독을 통해 다뤄져야 한다고 밝혔다. 동시에 민주주의 국가와 감독기관이 강력한 AI를 이해하고 활용할 역량을 갖춰야 책임 있는 통제가 가능하다는 논리를 제시했다.

출처: OpenAI https://openai.com/index/government-national-security-partnerships/
출처: OpenAI Principles for National Security Partnerships https://cdn.openai.com/pdf/openai-principles-for-national-security-partnerships.pdf