OpenAI·Broadcom, LLM 추론 최적화 칩 ‘Jalapeño’ 공개

OpenAI 공식 RSS에 따르면 OpenAI와 Broadcom은 24일(현지시간) 대규모 언어모델(LLM) 추론에 최적화한 맞춤형 AI 칩 ‘Jalapeño’를 공개했다. RSS 요약에서 양사는 이 칩이 AI 시스템 전반의 성능, 효율, 확장성을 높이기 위해 설계됐다고 설명했다.

이번 공개는 OpenAI가 모델 개발사에 머물지 않고 하드웨어와 데이터센터 인프라까지 직접 설계하려는 흐름을 보여준다. LLM 서비스는 학습뿐 아니라 실제 이용자가 질문을 보내고 답변을 받는 추론 단계에서 막대한 연산 자원을 요구한다. 이용자 기반과 기업 도입이 커질수록 추론 비용과 전력 효율은 서비스 경쟁력의 핵심 변수로 부상한다.

OpenAI와 Broadcom은 2025년 10월 이미 10기가와트 규모의 OpenAI 설계 AI 가속기 협력을 발표한 바 있다. 당시 양사는 OpenAI가 가속기와 시스템을 설계하고 Broadcom이 개발과 배포에 참여한다고 밝혔다. 발표에는 Broadcom의 이더넷, PCIe, 광 연결 솔루션을 활용해 AI 클러스터의 스케일업과 스케일아웃을 지원한다는 내용도 포함됐다.

Jalapeño는 이 같은 협력의 방향이 추론 워크로드로 구체화되고 있음을 시사한다. AI 인프라 시장에서는 범용 GPU 중심의 확장과 함께 특정 모델·서비스 운영 패턴에 맞춘 맞춤형 반도체가 늘고 있다. 자체 칩을 설계하면 모델 구조, 배치 처리, 메모리 접근, 네트워크 연결을 서비스 요구에 맞춰 조정할 여지가 커진다.

다만 현재 공식 RSS가 제공한 정보만으로는 Jalapeño의 제조 공정, 양산 일정, 실제 배치 규모, 성능 지표를 확인할 수 없다. 따라서 이번 소식은 OpenAI와 Broadcom의 맞춤형 AI 인프라 협력이 추론 칩 공개 단계로 진전됐다는 점에 의미가 있다. 세부 사양과 도입 일정은 양사의 추가 공개가 필요하다.

출처: OpenAI 공식 발표 https://openai.com/index/openai-broadcom-jalapeno-inference-chip
출처: OpenAI 공식 RSS https://openai.com/news/rss.xml
출처: OpenAI·Broadcom 2025년 공동 발표 https://openai.com/index/openai-and-broadcom-announce-strategic-collaboration/
출처: Broadcom 공동 발표 https://www.broadcom.com/company/news/product-releases/63631