
마이크로소프트 리서치는 16일(현지시간) 공식 블로그에서 UC버클리, 마이크로소프트 시큐리티와 함께 개발한 TokenEconomizer의 작동 방식과 평가 결과를 소개했다. 같은 코드 저장소에서 반복되는 AI 코딩 작업을 분석해 다음 작업의 불필요한 토큰 소비를 줄이는 플러그인이다. 관련 논문은 지난 10월 연구진이 아카이브(arXiv)에 공개했다.
코딩 에이전트는 작업할 때마다 모델에 지시문과 도구 설명, 대화 기록을 전달한다. 같은 저장소를 다시 다뤄도 테스트 명령을 재확인하거나 이전에 실패한 방법을 되풀이하면 비용이 쌓인다. TokenEconomizer는 개별 요청을 짧게 만드는 데 그치지 않고, 완료된 세션의 기록을 다음 세션에 활용하는 방식을 택했다.
작동 축은 세 가지다. 먼저 저장소별로 반복 확인된 사실을 짧은 메모로 정리해 작업 시작 시 전달한다. 예를 들어 테스트에 필요한 명령이나 환경 설정을 기억하는 식이다. 여러 세션에서 확인된 패턴만 반영하고, 이후 기록과 모순되면 메모를 폐기한다.
자주 쓰지 않는 도구의 설명을 문맥에서 제외하는 기능도 있다. 명령 실행과 파일 수정 같은 핵심 도구는 유지하며, 제외한 도구는 다시 불러올 수 있다. 같은 실패를 반복할 때는 별도 판단 모델이 진행 여부를 살피고 다른 접근을 제안한다. 공개 플러그인은 제안 이후에도 막히면 개발자에게 알리며, 작업을 스스로 강제 종료하지는 않는다.
연구진은 오픈소스 프로젝트의 실제 버그 수정 문제를 모은 SWE-Bench에서 6개 저장소의 과제 277개를 평가했다. 저장소마다 사전 기록이 없는 상태로 시작해 과제를 순서대로 실행했고, 5개 에이전트·모델 조합에서 과제당 평균 비용이 18.4~30.9% 줄었다고 밝혔다. 플러그인이 자체적으로 호출한 모델 비용도 계산에 포함했다.
연구진 설명에 따르면 비용은 모든 저장소·조합에서 감소했고 작업 성공률은 대체로 유지됐다. 처음에는 기록을 쌓는 데 비용이 더 들 수 있었지만, Claude Code로 살핀 누적 비용은 각 저장소에서 여섯 번째 과제까지 모두 기본 설정 아래로 내려갔다. 웹 개발 과제인 Web-Bench에서는 16.0~21.2%, 매번 새 저장소를 다루는 보안 감사 과제에서는 6.4~19.6%의 비용 절감을 보고했다.
공식 저장소는 Claude Code, Codex, GitHub Copilot CLI, Pi용 플러그인을 제공한다. 기존 에이전트의 모델이나 가중치를 바꾸지 않고 에이전트가 제공하는 인터페이스를 활용한다. 별도 API 키 없이 사용 중인 에이전트의 인증을 이용하며, 학습한 저장소 정보는 사용자 컴퓨터에 보관한다.
수치는 연구진이 정한 과제와 실행 순서에서 얻은 결과다. 모든 개발 업무에서 같은 절감률을 보장하는 것은 아니다. 모델의 추론 수준을 일괄적으로 낮추기보다 저장소별 반복 작업과 쓰지 않는 문맥을 줄이려는 접근이라는 데 의미가 있다.
출처: Microsoft Research 공식 블로그 https://www.microsoft.com/en-us/research/blog/tokeneconomizer-learning-from-experience-to-make-ai-coding-agents-more-efficient/ · 연구진 논문(arXiv) https://arxiv.org/abs/2610.22732 · Microsoft 공식 코드 저장소 https://github.com/microsoft/TokenEconomizer









