AWS, Bedrock 기반 AI 피싱 탐지 워크플로 공개

AWS Machine Learning Blog에 따르면 Amazon Bedrock을 활용해 AI 생성 피싱 메일을 탐지하는 다단계 분석 방식이 공개됐다. AWS는 최신 피싱 공격이 문법 오류나 조악한 형식보다 맥락, 개인화, 조직 내 관계 정보를 활용하는 방식으로 진화하고 있다고 설명했다.

이번 글은 특정 침해 사고 발표가 아니라 기업 보안팀이 기존 이메일 보안 체계 위에 생성형 AI 분석 계층을 얹는 방법을 다룬 기술 해설이다. AWS는 공격자가 생성형 AI와 공개 출처 정보 수집을 결합해 문법적으로 자연스럽고 업무 맥락에 맞는 메시지를 대량 작성할 수 있다고 봤다. 이에 따라 전통적인 필터가 확인하던 오탈자, 일반적인 인사말, 발신 도메인 불일치만으로는 충분하지 않다는 문제의식을 제시했다.

AWS가 제시한 흐름은 SPF, DKIM, DMARC 같은 표준 인증 절차를 먼저 거친 뒤 Amazon Bedrock 기반 분석을 추가하는 방식이다. 메시지는 발신자의 평소 문체, 요청 유형, 조직 맥락, 알려진 피싱 예시와 함께 평가된다. 모델은 단어 선택, 커뮤니케이션 방식의 변화, 요청 내용의 맥락 적합성을 기준으로 위험 신호를 찾고, 그 결과를 위험 점수로 분류한다.

Amazon Bedrock Guardrails의 역할도 함께 강조됐다. AWS는 보안 분석 과정에서 민감 정보가 모델 출력으로 노출되지 않도록 입력과 출력을 통제하고, 분석 결과가 조직의 정책 범위 안에 머물도록 설정할 수 있다고 설명했다. 다만 원문은 가드레일 설정이 지나치게 엄격하면 실제로 분석해야 할 의심 콘텐츠까지 막을 수 있어 세밀한 조정이 필요하다고 짚었다.

이 접근은 피싱 탐지가 정적 규칙에서 행동 기반 분석으로 옮겨가고 있음을 보여준다. 특히 계좌 정보 변경 요청, 평소와 다른 문체, 업무상 처음 등장한 긴급 요청처럼 표면적으로는 자연스럽지만 관계와 이력 기준에서는 이례적인 신호를 잡는 데 초점을 둔다. 보안팀은 이를 통해 의심 메시지를 격리하거나 차단하고, 오탐과 실제 피싱 분류 결과를 다시 지식 기반과 발신자 기준선에 반영할 수 있다.

다만 AWS 글은 제품 성능 수치나 실제 고객 환경에서의 탐지율을 제시하지 않았다. 따라서 이번 발표의 의미는 특정 탐지 성능의 입증보다는 AI가 만든 피싱에 AI 기반 방어 체계를 적용하는 구현 패턴을 공식 문서화했다는 데 있다. 기업 입장에서는 이메일 보안, 개인정보 보호, 모델 가드레일, 보안 운영자의 검토 절차를 함께 설계해야 한다.

출처: AWS Machine Learning Blog https://aws.amazon.com/blogs/machine-learning/how-amazon-bedrock-catches-ai-generated-phishing/