메타, MTIA 300 공개…칩 안에 NIC 넣어 추천 AI 학습 통신 병목 겨냥

Meta 공식 엔지니어링 블로그에 따르면 메타는 추천·랭킹 모델 학습에 맞춘 자체 AI 가속기 ‘MTIA 300’을 공개했다. 네트워크 인터페이스를 칩 패키지 안에 넣고 통신 작업을 전용 하드웨어로 넘기는 방식으로, 대규모 추천 모델 학습에서 연산 자원과 통신 자원이 충돌하는 문제를 겨냥했다.

메타는 추천 모델의 임베딩 테이블이 모델 파라미터의 99% 이상을 차지할 수 있어, 수백 개 가속기 사이에서 AllReduce·AllToAll·AllGather 같은 집단 통신이 빈번하게 일어난다고 설명했다. 범용 GPU 환경에서는 이 통신이 학습 연산과 같은 자원을 사용해 장비 활용도를 떨어뜨릴 수 있다는 것이 회사의 진단이다.

MTIA 300에는 각각 800Gbps RDMA NIC 6개를 담은 네트워크 칩렛 2개가 탑재됐다. 메타는 총 I/O 대역폭이 초당 1.2TB에 이르며, PCIe 버스를 거치지 않아 CPU·가속기·NIC 사이의 병목을 줄일 수 있다고 밝혔다. 랙 내 16개 노드 간 통신에는 최대 초당 1TB, 랙 간 통신에는 초당 200GB의 대역폭을 활용하도록 설계했다.

통신 처리도 별도로 분리했다. 12×6 처리 요소와 함께 16개의 전용 메시지 엔진을 넣어 집단 통신을 맡기고, 하드웨어와 함께 설계한 HCCL 통신 라이브러리가 작업 의존성을 담은 명령을 이 엔진에 전달한다. 작업이 디바이스에 도달한 뒤에는 호스트가 통신 실행에 관여하지 않는 구조다.

이번 공개는 거대언어모델 학습용 범용 가속기 경쟁과 별개로, 추천·랭킹처럼 통신 비중이 큰 워크로드에 맞춘 맞춤형 칩 설계가 확대되고 있음을 보여준다. 메타는 MTIA 300을 자체 학습·추론 가속기 제품군의 첫 번째 학습 최적화 칩이라고 소개했다.

출처: Engineering at Meta
https://engineering.fb.com/2026/08/24/networking-traffic/mtia-300-meta-training-chip-built-in-nics/