OpenAI, AI 바이오디펜스 실행 계획 공개…“신뢰된 기관에 고급 생명과학 AI 제공”

OpenAI 공식 발표와 실행 계획 문서에 따르면, 회사는 AI 기반 생물학적 회복력을 높이기 위한 ‘Biodefense in the Intelligence Age’ 실행 계획을 6월 4일 공개했다. OpenAI는 고급 생명과학 AI 역량을 신뢰된 정부, 공중보건, 연구기관, 비영리 바이오보안 조직 등에 제공해 위협 탐지와 대응 역량을 강화하겠다는 방향을 제시했다.

이번 계획은 GPT-Rosalind와 Rosalind Biodefense를 단일 제품 발표가 아니라 장기적인 생물학적 회복력 전략의 초기 구현으로 설명한다. OpenAI는 생물학 연구를 돕는 AI가 질병 이해와 치료제 개발에 기여할 수 있지만, 동시에 생물보안상 위험을 동반할 수 있다고 봤다. 이에 따라 방어 목적의 책임 있는 기관에 먼저 역량을 제공하고, 평가와 접근 통제, 모니터링, 거버넌스를 함께 발전시키겠다는 입장이다.

실행 계획은 5개 축으로 구성됐다. 첫째는 신뢰된 접근을 통해 방어자를 지원하는 것이다. 둘째는 의료 대응 수단 연구를 가속하는 것이다. 셋째는 조기 경보 체계를 구축하는 것이다. 넷째는 진단, 대비, 대응 역량을 강화하는 것이다. 다섯째는 AI가 생물학적 회복력과 위험에 미치는 영향을 측정하는 것이다.

OpenAI는 신뢰된 접근 경로를 정부 과학·공중보건팀, 국가 연구소, 국방과학 조직, 검증된 학계 그룹, 책임 있는 기업, 비영리 바이오보안 조직 등으로 넓히겠다고 밝혔다. 해당 접근 방식에는 조직 거버넌스, 사용자 통제, 적절한 모니터링, 상황 변화에 따른 접근 축소 또는 철회 가능성이 포함된다.

의료 대응 수단 영역에서는 전문가 파트너가 모델 출력을 검증하고 실제 과학적 진전으로 전환할 수 있는 프로젝트를 우선하겠다고 설명했다. OpenAI는 과학적 질문에서 검증된 증거로, 증거에서 유망한 개입 수단으로, 다시 평가와 전달이 가능한 대응 수단으로 이어지는 과정을 빠르게 만드는 것이 목표라고 밝혔다.

조기 경보 체계와 관련해서는 메타게놈 시퀀싱, 구조화·비구조화 데이터의 이상 탐지, 병원체 또는 염기서열 정보 분류, 임상·유전체·농업·환경·공개 지표 종합 등이 잠재 활용 사례로 제시됐다. 다만 회사는 AI가 기존 감시·대응 기관을 대체하는 것이 아니라 보강해야 한다고 설명했다.

진단과 대응 분야에서는 진단 개발, 복잡한 증거 해석, 시나리오 계획, 운영 플레이북, 자원 배분, 역학 모델링, 감염 통제와 같은 업무를 지원할 수 있다고 밝혔다. 실행 계획 문서에는 위험한 기능획득 연구의 설계, 계획, 최적화, 수행 또는 문제 해결은 승인된 사용에 포함되지 않는다는 제한도 명시됐다.

OpenAI는 생물학적 AI 시스템의 책임 있는 배치를 위해 역량 평가, 안전장치 평가, 실제 운영 파일럿, 영향 측정, 공유 벤치마크가 필요하다고 봤다. 특히 모델이 오용 위험을 높일 가능성과 전문가가 AI를 활용해 방어적 성과를 개선할 가능성을 함께 측정해야 한다고 설명했다.

이번 발표는 AI 기업이 생명과학 모델의 성능뿐 아니라 접근 권한, 검증, 정부·공중보건 협력, 정보 위해 가능성 관리까지 함께 제시해야 하는 단계로 이동하고 있음을 보여준다. 생명과학 AI가 공중보건과 국가안보 영역으로 확장되는 만큼, 향후 독립 평가와 실제 파트너십 성과, 접근 통제 기준이 핵심 쟁점이 될 전망이다.

출처: OpenAI 공식 발표 ‘Biodefense in the Intelligence Age’(https://openai.com/index/biodefense-in-the-intelligence-age/), OpenAI 실행 계획 PDF ‘Biodefense in the Intelligence Age: An Action Plan for AI-Powered Biological Resilience’(https://cdn.openai.com/pdf/biodefense-in-the-intelligence-age.pdf).