Google, 쿠버네티스 AI 워크로드 추적 도구 ‘k8s-aibom’ 공개

Google Cloud 공식 블로그에 따르면, 회사는 14일(현지시간) 쿠버네티스 환경의 AI 워크로드를 자동 탐지해 자재명세서로 만드는 오픈소스 도구 ‘k8s-aibom’을 공개했다. 배포 예정 항목을 검사하는 빌드 단계 도구와 달리, 실제 클러스터에서 실행 중인 AI 구성요소를 관찰하는 데 초점을 맞췄다.

k8s-aibom은 쿠버네티스 API와 컨테이너 환경을 살펴 추론 런타임, 에이전트 프레임워크, 벡터 데이터베이스, 학습 작업과 평가 도구를 식별한다. vLLM과 NVIDIA Triton, Ollama 같은 모델 서빙 도구뿐 아니라 LangChain·AutoGen·CrewAI, Milvus·Qdrant·pgvector 등도 탐지 대상으로 제시됐다. 수집한 정보는 OWASP CycloneDX 1.6 형식의 머신러닝 자재명세서(ML-BOM)로 출력한다.

컨트롤러는 특권 컨테이너나 커널 모듈, 노드 단위 데몬셋 없이 단일 비특권 디플로이먼트로 작동한다. 기존 애플리케이션의 파드 명세나 CI·CD 파이프라인을 바꾸지 않아도 되며, 생성된 문서는 클러스터 내부 사용자 정의 리소스에 저장하거나 Google Cloud Storage와 웹훅으로 내보낼 수 있다. 프로젝트 설명에 따르면 표준 쿠버네티스 API를 사용해 GKE 외에도 EKS·AKS와 온프레미스 클러스터에서 실행할 수 있다.

탐지 결과에는 ‘선언됨’, ‘추론됨’, ‘미확인’이라는 신뢰 수준이 붙는다. 운영자가 모델 이름을 명시한 경우와 컨테이너 이미지 패턴을 바탕으로 도구가 추정한 경우를 구분해, 감사 담당자가 근거의 성격을 확인할 수 있도록 한 것이다. 같은 클러스터 입력에는 동일한 ML-BOM을 생성하도록 설계해 GitOps 환경에서 변경 내역을 비교할 수 있게 했다.

Google은 이 도구가 EU AI Act와 NIST AI 위험관리 프레임워크, ISO/IEC 42001 대응에 필요한 자산 가시성을 제공할 수 있다고 설명했다. 다만 저장소는 현재 v1.0 알파 상태이며, 규정 준수를 인증하는 제품은 아니다. 공식 지원 대상 Google 제품도 아니고 사전 빌드된 컨테이너 이미지나 Helm 저장소가 제공되지 않아, 사용자가 이미지를 직접 빌드해 배포해야 한다.

프로젝트는 Apache 2.0 라이선스로 공개됐다. AI 서비스가 모델과 에이전트, 데이터 저장소를 여러 계층에 걸쳐 사용하면서 운영 환경의 실제 구성요소를 추적하는 일이 어려워진 가운데, 런타임 관찰 결과를 표준 형식으로 남기려는 시도라는 점에서 의미가 있다.

출처: Google Cloud 공식 블로그 (https://cloud.google.com/blog/products/identity-security/introducing-k8s-aibom-on-gke-for-automated-ai-bills-of-materials)
GoogleCloudPlatform 공식 GitHub 저장소 (https://github.com/GoogleCloudPlatform/k8s-aibom)