DeepSeek, 추론 가속 연구 코드 DeepSpec 공개…생성 속도 60~85% 개선 보고

DeepSeek 공식 GitHub 저장소와 DSpark 원문 PDF에 따르면, DeepSeek는 대규모 언어모델 추론 속도를 높이기 위한 연구 코드베이스 DeepSpec을 공개했다. DeepSpec은 투기적 디코딩 알고리즘을 학습하고 평가하기 위한 데이터 준비 도구, draft model 구현, 학습 코드, 평가 스크립트를 포함한다.

투기적 디코딩은 작은 초안 모델이 여러 토큰 후보를 먼저 만들고, 목표 모델이 이를 검증해 채택하는 방식으로 생성 지연을 줄이는 기법이다. DeepSeek가 함께 공개한 DSpark 논문은 병렬 draft 방식이 긴 후보열을 빠르게 만들 수 있지만 토큰 간 의존성이 약해 수락률이 빨리 떨어지는 문제가 있다고 설명한다. DSpark는 반자동회귀 생성과 confidence-scheduled verification을 결합해 요청별 검증 길이를 조정하는 접근을 제시했다.

DeepSeek는 논문에서 DSpark를 DeepSeek-V4 서빙 시스템의 실제 사용자 트래픽에 배포했을 때 기존 생산 환경 기준인 MTP-1과 비교해 동일 처리량 조건에서 사용자별 생성 속도가 60~85% 개선됐다고 밝혔다. 이 수치는 자체 시스템과 특정 기준선에서의 결과다. 독립 벤치마크나 외부 서비스 환경에서 같은 개선 폭이 재현됐다는 의미로 일반화하기는 어렵다.

저장소는 MIT 라이선스로 공개됐다. README에 따르면 DeepSpec은 DSpark, DFlash, Eagle3 등 세 가지 draft model 알고리즘을 포함하며, 평가 데이터셋으로 gsm8k, math500, aime25, humaneval, mbpp, livecodebench, mt-bench, alpaca, arena-hard-v2 등을 다룬다. 기본 학습 스크립트는 8개 GPU 단일 노드 구성을 전제로 하며, 기본 Qwen/Qwen3-4B 설정의 target cache 준비에는 약 38TB 저장공간이 필요할 수 있다고 안내한다.

이번 공개는 모델 성능 경쟁이 추론 비용과 지연 시간 경쟁으로 확장되고 있음을 보여준다. 특히 실시간 대화형 서비스와 에이전트형 워크플로에서는 토큰 생성 속도와 처리량의 균형이 사용자 경험과 운영비에 직접 영향을 준다. DeepSpec이 연구 코드와 논문을 함께 공개했다는 점은 투기적 디코딩 구현을 비교·검증하려는 개발자와 연구자에게 참고 자료가 될 수 있다.

출처: DeepSeek GitHub, DeepSeek DSpark PDF