Thinking Machines Lab, 오픈웨이트 모델 ‘Inkling’ 공개…9750억 파라미터

Thinking Machines Lab 공식 발표에 따르면 회사는 15일(현지시간) 첫 오픈 웨이트 모델 ‘Inkling’을 공개했다. 텍스트와 이미지, 오디오를 입력으로 받아 텍스트를 생성하는 범용 멀티모달 모델로, 연구와 미세조정, 외부 제품 통합을 위해 전체 가중치를 제공한다.

Inkling은 전체 9750억 개 파라미터 가운데 410억 개를 활성화하는 혼합전문가(MoE) 트랜스포머다. 최대 100만 토큰 문맥을 지원하며, 텍스트·이미지·오디오·비디오를 합친 45조 토큰으로 사전학습됐다고 회사는 설명했다. 각 토큰은 256개 전문가 가운데 6개와 공통 전문가 2개로 전달된다.

이번 공개는 대규모 멀티모달 모델의 가중치를 개발자가 직접 내려받아 조정하고 배포할 수 있다는 점에서 의미가 있다. Thinking Machines Lab은 Inkling을 최강의 범용 모델로 규정하지 않았다. 대신 멀티모달 처리와 조절 가능한 추론량, 자사 미세조정 플랫폼 Tinker와의 연계를 결합한 맞춤형 기반 모델로 설명했다.

가중치는 Hugging Face에 BF16과 NVFP4 형식으로 공개됐다. 모델 저장소에는 Apache License 2.0이 표시돼 있으며, SGLang과 vLLM, TokenSpeed, Unsloth, Hugging Face 기반 로컬 배포 경로가 안내돼 있다. 회사는 Tinker 플레이그라운드에서도 Inkling을 시험하고 미세조정할 수 있도록 했다.

함께 예고된 ‘Inkling-Small’은 활성 파라미터 120억 개 규모의 경량 모델이다. 비슷한 학습 방식을 적용해 비용과 지연 시간을 낮추는 데 초점을 맞췄지만, 현재 공식 발표에서는 미리보기로 소개됐다.

Thinking Machines Lab이 공개한 자체 평가에서 Inkling은 코딩 에이전트와 도구 사용, 추론, 시각·음성 처리 등 여러 영역을 대상으로 비교됐다. 다만 비교 수치는 회사가 정한 실행 환경과 추론 설정을 바탕으로 한 결과다. 실제 성능과 비용 효율은 독립 평가와 각 조직의 업무 환경에서 별도로 검증할 필요가 있다.

안전성 평가도 모델 카드에 포함됐다. 회사는 일상 대화의 조작·과잉동조 위험과 사이버·화생방 지식, 에이전트 행동 등을 점검했다고 밝혔다. 동시에 역할극이나 간접 표현을 이용한 유해 요청에 응답할 수 있는 잔여 위험을 인정하고, 소비자 대상 서비스에서는 입력·출력 필터링과 속도 제한, 모니터링을 함께 적용할 것을 권고했다.

Inkling 공개는 오픈 웨이트 모델 경쟁이 텍스트 중심에서 멀티모달과 에이전트 활용, 맞춤형 미세조정으로 이동하고 있음을 보여준다. 개발자에게는 모델 선택지가 넓어졌지만, 9750억 개 전체 파라미터를 다루는 인프라 요구량과 운영 비용, 안전장치 설계는 도입 전 확인해야 할 과제로 남는다.

출처: Thinking Machines Lab https://thinkingmachines.ai/news/introducing-inkling/
출처: Thinking Machines Lab 모델 카드 https://thinkingmachines.ai/model-card/inkling/
출처: Hugging Face https://huggingface.co/thinkingmachines/Inkling