Google, DiffusionGemma 공개…텍스트 생성 속도 4배 높인 실험 모델

Google 공식 블로그와 Google Developers Blog에 따르면 Google은 2026년 6월 10일 텍스트 확산 방식을 적용한 실험적 오픈 모델 DiffusionGemma를 공개했다. 이 모델은 기존 대규모 언어모델처럼 토큰을 왼쪽에서 오른쪽으로 하나씩 생성하는 대신, 256토큰 단위의 텍스트 블록을 병렬로 생성하고 반복적으로 정제하는 방식으로 설계됐다.

DiffusionGemma는 Gemma 4 계열의 구조를 바탕으로 만든 26B Mixture of Experts 모델이다. 전체 파라미터는 260억 개 규모지만 추론 시 활성화되는 파라미터는 38억 개 수준이라고 Google은 설명했다. 모델 가중치는 Apache 2.0 라이선스로 Hugging Face에 공개됐다.

Google은 DiffusionGemma가 전용 GPU에서 최대 4배 빠른 텍스트 생성을 목표로 한다고 밝혔다. 회사가 제시한 수치 기준으로 단일 NVIDIA H100에서는 초당 1,000토큰 이상, GeForce RTX 5090에서는 초당 700토큰 이상을 생성할 수 있다. 다만 이 속도 이점은 단일 사용자 또는 낮은 동시성의 로컬 추론 환경에서 특히 두드러지며, 대규모 클라우드 서빙에서는 자동회귀 모델을 대량 배치로 효율화할 수 있어 이점이 줄어들 수 있다고 덧붙였다.

구조적 차이는 생성 과정에서 나타난다. 일반적인 자동회귀 모델은 이전 토큰만 보고 다음 토큰을 고른다. DiffusionGemma는 임의의 자리표시 토큰으로 채운 캔버스를 만들고, 여러 번의 denoising 단계에서 전체 블록을 동시에 바라보며 문장을 다듬는다. 이 과정에서 각 위치의 토큰은 같은 블록 안의 다른 위치를 함께 참고할 수 있어, 코드 보완, 인라인 편집, 수식·그래프·아미노산 서열처럼 앞뒤 제약이 강한 작업에 다른 접근을 제공한다.

Google Developers Blog는 DiffusionGemma가 256토큰 블록을 병렬로 정제한 뒤, 긴 문맥에서는 블록 단위로 결과를 확정하고 다음 블록으로 넘어가는 block autoregressive diffusion 방식을 쓴다고 설명했다. 이 설계는 병렬 생성의 속도와 긴 출력에서 필요한 순차적 안정성을 함께 얻기 위한 절충으로 볼 수 있다.

개발자 생태계 연동도 함께 제시됐다. Google은 vLLM 팀과 협력해 DiffusionGemma를 vLLM에서 실행할 수 있게 했으며, OpenAI 호환 로컬 서버 형태로 배포할 수 있다고 안내했다. Hugging Face Transformers, MLX, SGLang, NVIDIA NIM, Google Cloud Model Garden을 통한 활용 경로도 제시됐다. llama.cpp 공식 지원은 추후 제공될 예정이다.

다만 Google은 DiffusionGemma를 실험적 모델로 분류했다. 회사는 속도와 병렬 레이아웃 생성을 우선한 만큼 전체 출력 품질은 표준 Gemma 4보다 낮으며, 최고 품질이 필요한 서비스에는 기존 Gemma 4 계열을 권장한다고 밝혔다. 또 Apple Silicon처럼 통합 메모리 구조의 장치에서는 같은 속도 향상이 나타나지 않을 수 있다고 설명했다.

이번 공개는 텍스트 생성 모델의 성능 경쟁이 단순한 정답률이나 파라미터 규모를 넘어, 지연시간과 로컬 실행 효율로 확장되고 있음을 보여준다. DiffusionGemma가 당장 범용 챗봇 모델을 대체하기보다는, 실시간 편집과 로컬 개발 도구, 구조적 제약이 큰 생성 작업에서 비자동회귀 접근의 가능성을 시험하는 모델에 가깝다.

출처: Google Blog https://blog.google/innovation-and-ai/technology/developers-tools/diffusion-gemma-faster-text-generation/
출처: Google Developers Blog https://developers.googleblog.com/diffusiongemma-the-developer-guide/
출처: Hugging Face https://huggingface.co/google/diffusiongemma-26B-A4B-it