AMD, 에이전트 AI용 랙 설계 Helion 공개…11월 공급 예정

AMD가 12일(현지시간) 공식 뉴스룸을 통해 AI 에이전트용 랙 설계 ‘Helion’을 발표했다. 에이전트의 실행 작업과 AI 모델 추론을 고객 환경에 맞게 나눠 구성하는 참조 설계로, 파트너와 개발 중인 시스템은 오는 11월 공급할 예정이다.

Helion은 오픈컴퓨트프로젝트(OCP) 규격을 바탕으로 한다. 하나의 고정된 장비 구성을 제시하기보다 CPU 성능과 코어 밀도, 전력, GPU 가속 비중을 작업 특성에 맞춰 선택하도록 설계했다. 공랭식과 수랭식 구성도 지원한다.

대규모 클라우드 사업자를 겨냥한 CPU 전용 랙은 6세대 EPYC 프로세서를 기반으로 최대 3만2768개 CPU 코어를 수용한다. 에이전트를 실행할 전용 연산 자원을 제공하고, 모델 추론은 별도의 인프라에 연결하는 방식이다. 이는 AMD가 제시한 최대 구성 사양으로, 실제 처리 성능을 뜻하는 수치는 아니다.

기업용 구성은 EPYC CPU 노드와 Instinct MI350P GPU 노드, 데이터베이스·스토리지 등을 위한 범용 연산 자원을 한 랙에 결합한다. AMD 공식 제품 문서에 따르면 MI350P GPU는 8개씩 두 서버에 나눠 최대 16개를 넣을 수 있다. 두 GPU 서버는 독립적으로 작동하며, 이들을 하나의 확장형 GPU 연산 영역으로 묶는 연결 구조는 제공하지 않는다.

기업용 구성에서는 에이전트의 추론 요청을 클라우드의 프런티어 모델이나 같은 랙 안에서 구동하는 오픈소스 모델로 보내도록 라우팅할 수 있다. 에이전트 실행과 추론을 분리해 운영할지, 한 랙에 모을지를 선택할 수 있다는 점이 두 구성의 차이다.

AMD는 Helion이 대규모 AI 학습과 추론을 위한 기존 Helios를 대체하는 제품은 아니라고 설명했다. Helion은 에이전트 실행과 기업용 추론을 위한 설계이며, Helios는 통합된 GPU 연산 영역이 필요한 초대형 AI 작업을 겨냥한다.

회사는 Helion 사양을 OCP에 기여할 계획이라고 밝혔다. 사양 기여와 파트너 시스템 공급은 향후 일정으로 제시됐으며, 이번 발표가 모든 구성의 즉시 구매 가능을 의미하는 것은 아니다.

출처: AMD 공식 뉴스룸, Introducing AMD Helion, Agentic AI Compute at Rack Scale
https://newsroom.amd.com/news/open-rack-blueprint-scale-agentic-ai/
AMD 공식 제품 문서, AMD Helion Agentic AI Rack
https://www.amd.com/en/products/rackscale-solutions/helion.html