과기정통부·KISA, AI 보안 위협 대응 가이드 2종 발간

한국인터넷진흥원(KISA) 공식 공지와 과학기술정보통신부 발표에 따르면 정부와 KISA가 AI 서비스 보안 점검을 위한 ‘AI 보안 위협 대응 매뉴얼’과 ‘AI 보안 레드티밍 가이드’를 공개했다. 생성형 AI와 에이전트형 서비스가 산업 현장에 들어오면서 프롬프트 인젝션, 권한 오남용, 데이터 유출 등 기존 보안 점검만으로 다루기 어려운 위협이 커진 데 따른 조치다.

KISA가 7일 게시한 ‘AI 보안 위협 대응 매뉴얼’ 공지는 AI에 특화된 보안 위협 대응을 목적으로 한다. 공지에 따르면 매뉴얼은 AI 보안 위협 분류 및 진단, 산업별 위협 시나리오, 위협별 대응 방안을 주요 내용으로 담았다. 기업 경영진은 AI 보안 위협의 유형과 사례를 확인하고, AI 보안 담당자와 IT 운영자는 위협 진단과 대응 기준을 실무에 참고할 수 있다.

함께 공개된 ‘AI 보안 레드티밍 가이드’는 AI 보안 레드팀 운영을 원하는 실무자를 대상으로 한다. KISA 공지는 이 가이드가 AI 보안 레드티밍 이해, 레드팀 구성, 준비, 이행, 결과보고까지 운영 전 과정을 다룬다고 설명했다. 레드팀은 실제 공격자 관점에서 AI 모델과 서비스의 취약점, 오남용 가능성, 데이터 처리 위험을 점검하는 역할을 맡는다.

정부 발표 보도에 따르면 이번 2종의 가이드는 AI 환경에서 발생 가능한 주요 보안 위협과 사례를 정리하고, 현장에서 활용할 수 있는 점검·대응 방안을 제공하는 데 초점을 맞췄다. 위협 분류에는 데이터, 모델, 에이전트, 공급망, 고성능 모델 관련 위험이 포함된다. 산업별 시나리오는 금융, 의료, 공공·행정, 교육, 제조·에너지, 통신, 법률, IT 등 주요 분야를 대상으로 구성된 것으로 전해졌다.

AI 보안 레드티밍 가이드는 민간 기업 AI 보안 담당자와 레드티밍 전문기업 관계자의 의견, 학계 전문가 자문을 거쳐 마련됐다. 정부는 이 가이드가 AI 레드티밍 국제표준안인 ISO/IEC 42119-7을 기반으로 구성됐다고 설명했다. 국내 기업이 국제적으로 통용되는 기준에 맞춰 AI 보안 점검 체계를 마련할 수 있도록 하겠다는 취지다.

이번 발표는 AI 보안 논의가 모델 자체의 안전성 검증을 넘어 실제 서비스 운영 단계의 점검 절차로 이동하고 있음을 보여준다. 기업이 AI 기능을 고객 상담, 내부 검색, 문서 처리, 코드 작성, 업무 자동화에 연결할수록 모델 응답뿐 아니라 권한, 로그, 외부 도구 호출, 데이터 경계가 함께 관리 대상이 된다. 특히 AI 에이전트가 여러 시스템을 오가며 작업하는 구조에서는 기존 웹·앱 취약점 점검과 다른 운영 기준이 필요하다.

두 가이드는 무료로 내려받을 수 있다. 다만 실제 보안 수준 향상은 문서 배포만으로 끝나지 않는다. 기업이 자사 AI 서비스의 데이터 흐름과 권한 구조를 식별하고, 정기적인 레드팀 점검과 수정 절차를 운영 체계에 포함할 때 이번 가이드의 효과가 나타날 것으로 보인다.

출처: 한국인터넷진흥원 https://www.kisa.or.kr/401/form?postSeq=3712
출처: 한국인터넷진흥원 https://www.kisa.or.kr/401/form?postSeq=3713