KISA, AI 보안 레드티밍 가이드·위협 대응 매뉴얼 공개

한국인터넷진흥원(KISA) 공식 공지에 따르면 KISA는 7월 7일 AI 보안 레드팀 운영 방안을 담은 ‘AI 보안 레드티밍 가이드’와 AI에 특화된 보안 위협 대응을 위한 ‘AI 보안 위협 대응 매뉴얼’을 공개했다.

AI 보안 레드티밍 가이드는 AI 보안 레드팀 사업 담당 부서인 AI탐지대응팀 명의로 게시됐다. KISA는 해당 자료가 AI 보안 레드팀 운영 방안을 안내하기 위한 것이라고 설명했다. 공지에 제시된 구성은 개요, AI 보안 레드티밍 이해, 레드팀 구성, 레드티밍 준비, 레드티밍 이행, 결과보고 등이다.

함께 공개된 AI 보안 위협 대응 매뉴얼은 AI에 특화된 보안 위협 대응을 목적으로 한다. KISA 공지에 따르면 매뉴얼은 개요, AI 보안 위협 분류 및 진단, 산업별 위협 시나리오, AI 보안 위협별 대응 방안으로 구성됐다.

이번 자료 공개는 AI 시스템을 서비스와 업무 환경에 도입하는 기관이 늘어나는 상황에서 보안 점검의 기준을 세분화하려는 흐름과 맞닿아 있다. 기존 정보보호 점검이 인프라와 애플리케이션 취약점 중심이었다면, AI 서비스는 모델 입력·출력, 데이터 처리, 프롬프트 악용, 산업별 사용 맥락까지 함께 살펴야 한다.

특히 레드팀 방식은 실제 공격 가능성을 가정해 시스템의 취약 지점을 찾아내는 접근이다. AI 분야에서는 모델이 의도하지 않은 출력을 내거나, 정책 우회 시도에 취약하거나, 업무 데이터와 결합되는 과정에서 새로운 위험이 생길 수 있어 사전 점검 절차가 중요해지고 있다.

KISA가 두 자료를 같은 날 공개한 점도 주목된다. 레드티밍 가이드가 점검 조직과 수행 절차에 초점을 맞췄다면, 위협 대응 매뉴얼은 위협 유형과 산업별 시나리오, 대응 방안으로 이어지는 실무적 틀을 제공한다. 기업과 공공기관은 두 자료를 함께 참고해 AI 서비스 도입 전 점검과 운영 중 대응 절차를 정비할 수 있다.

출처: 한국인터넷진흥원 AI 보안 레드티밍 가이드 공지 https://www.kisa.or.kr/401/form?postSeq=3713, 한국인터넷진흥원 AI 보안 위협 대응 매뉴얼 공지 https://www.kisa.or.kr/401/form?postSeq=3712