Google Cloud, AI 워크로드용 기밀 컴퓨팅 확장…G4 GPU·프롬프트 암호화 공개

Google Cloud 공식 블로그에 따르면 회사는 AI 추론과 파인튜닝 워크로드의 데이터 보호를 강화하기 위해 Confidential G4 VM 및 Confidential G4 GKE Nodes 프리뷰와 오픈소스 Prompt Encryption SDK를 공개했다. 이번 발표는 AI 인프라 경쟁이 모델 성능을 넘어 데이터 사용 중 보호와 검증 가능한 실행 환경으로 확장되고 있음을 보여준다.

Confidential G4는 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU를 탑재한 G4 머신 시리즈에 기밀 컴퓨팅을 적용한 구성이다. Google Cloud는 이 구성이 5세대 AMD EPYC Turin CPU의 AMD SEV와 GPU 구간 암호화를 결합해, 민감한 데이터와 비공개 프롬프트를 다루는 AI 추론·파인튜닝·HPC 작업을 지원한다고 설명했다. 표준 G4가 제공되는 모든 Google Cloud 리전에서 사용할 수 있고, 온디맨드·예약·DWS Flex Start·Spot/Preemptible 등 여러 소비 모델을 지원한다는 점도 함께 밝혔다.

Prompt Encryption SDK는 프롬프트와 응답을 모델 실행 환경에 도달하기 전부터 암호학적으로 보호하기 위한 도구다. Google이 공개한 GitHub 저장소 설명에 따르면 이 SDK는 Google Cloud의 TEE 환경에서 실행되는 워크로드와 클라이언트 애플리케이션 사이에 종단 간 attested TLS 채널을 만든다. 클라이언트는 서버가 검증된 Confidential Computing 환경에서 승인된 워크로드로 실행 중인지 확인한 뒤 프롬프트를 전송할 수 있다.

Google Cloud는 Apple Private Cloud Compute를 Google Cloud에서 확장하는 협력도 함께 언급했다. 회사는 Intel TDX, NVIDIA Confidential Computing, Titanium 보안 아키텍처, Titan 칩, 공동 개발한 오픈소스 호스트 스택을 조합해 Apple PCC의 개인정보 보호 요구사항을 지원한다고 밝혔다.

이번 업데이트는 클라우드 AI 보안의 초점이 저장·전송 단계 암호화에서 사용 중 데이터 보호와 원격 검증으로 이동하고 있음을 보여준다. 특히 기업이 내부 문서, 고객 데이터, 연구 자료를 AI 모델에 연결하는 흐름이 커지면서, 프롬프트가 어느 하드웨어와 어느 소프트웨어 스택에서 처리되는지 증명하는 기능은 규제 산업과 민감 데이터 활용 영역에서 중요성이 커질 가능성이 있다.

출처: Google Cloud Blog https://cloud.google.com/blog/products/identity-security/verifiable-trust-in-the-ai-era-whats-new-in-confidential-computing · google/prompt-encryption-sdk GitHub https://github.com/google/prompt-encryption-sdk