Google Cloud, AI 에이전트 도구 호출 통제 프리뷰

Google Cloud 공식 릴리스 노트에 따르면 Gemini Enterprise Agent Platform은 2026년 6월 29일 Semantic Governance Policies, 즉 SGP를 공개 프리뷰로 제공하기 시작했다. 이 기능은 AI 에이전트가 제안한 도구 호출을 사용자 의도와 조직의 업무 규칙에 비춰 런타임에서 평가하는 보안·컴플라이언스 계층으로 소개됐다.

AI 에이전트는 검색, 데이터 조회, 문서 수정, 업무 시스템 호출처럼 실제 행동으로 이어지는 도구를 다룬다. 이 과정에서 단순한 권한 부여만으로는 사용자의 원래 의도, 조직 정책, 데이터 반출 위험을 충분히 다루기 어렵다. Google Cloud가 이번 기능을 에이전트 플랫폼의 거버넌스 기능으로 배치한 배경도 여기에 있다.

SGP의 핵심 구성 요소는 자연어 제약 조건이다. Google Cloud 문서는 관리자가 코드를 작성하거나 에이전트 애플리케이션을 다시 배포하지 않고도 평문에 가까운 방식으로 업무 규칙과 보안 가드레일을 작성할 수 있다고 설명한다. 예를 들어 특정 도구 전체에 정책을 적용하거나, 특정 파라미터와 업무 조건에 맞춰 더 좁은 범위의 제한을 둘 수 있다.

도구 호출 단계의 의도 검증도 주요 기능으로 제시됐다. 릴리스 노트는 Layered Intent Gating이 에이전트의 도구 호출을 가로채 신뢰된 사용자 의도와 맞는지 확인하고, 승인되지 않은 작업과 비정상적인 도구 사용, 데이터 유출을 막는 데 초점을 맞춘다고 밝혔다. 이는 에이전트가 대화 맥락과 외부 입력을 바탕으로 행동을 선택하는 구조에서 중요한 통제 지점이다.

Agent Skills Lifecycle Governance도 포함됐다. Google Cloud는 이 기능이 세션 중 동적으로 로드되는 에이전트 스킬 또는 도구 패키지를 통제해 컨텍스트 포이즈닝과 공급망 공격 위험을 줄이는 데 목적이 있다고 설명했다. 에이전트 생태계에서 외부 도구와 확장 패키지 사용이 늘어나는 만큼, 도구 자체의 출처와 실행 조건을 관리하는 기능이 별도 영역으로 부상하고 있다.

운영 전 검증을 위한 드라이런 모드도 제공된다. 관리자는 정책을 즉시 강제하기 전에 Log Explorer에서 정책 판정 결과를 관찰할 수 있다. 실제 업무 흐름을 중단하지 않고 어떤 호출이 허용되거나 차단될지 확인하는 방식이다.

이번 공개 프리뷰는 기업용 AI 에이전트 경쟁이 모델 성능과 워크플로 자동화에서 런타임 통제와 감사 가능성으로 확장되고 있음을 보여준다. 에이전트가 더 많은 업무 시스템에 접근할수록 조직은 누가 어떤 의도로 어떤 도구를 호출했는지, 그 호출이 내부 정책과 데이터 보호 기준에 맞는지를 설명할 수 있어야 한다.

다만 SGP는 아직 프리뷰 단계다. 실제 도입을 검토하는 조직은 지원 지역, 프로젝트 조건, 기존 IAM·감사 로그·데이터 경계 정책과의 결합 방식, 정책 오탐과 업무 중단 가능성을 별도로 확인해야 한다. 기능의 방향성은 분명하지만, 운영 환경에서의 효과는 조직별 에이전트 설계와 도구 권한 모델에 따라 달라질 수 있다.

출처: Google Cloud Release Notes https://docs.cloud.google.com/release-notes#June_29_2026 · Google Cloud Documentation https://docs.cloud.google.com/gemini-enterprise-agent-platform/govern/policies/semantic-governance-overview