AI가 만든 도구를 다른 AI가 재사용…SMITH, 도구 생성·호출 공동학습

애피어 AI 리서치와 국립대만대 연구진이 언어모델의 도구 작성과 호출 능력을 함께 강화하는 SMITH 학습 기법을 제안했다. 연구자 원문에 따르면 40억 매개변수 모델이 만든 도구를 다른 모델에 제공해 학습에서 제외한 추론 과제의 정확도를 높였다.

연구진은 지난 8월 25일 아카이브(arXiv)에 등록한 논문과 프로젝트 페이지, 공식 코드 저장소를 통해 학습 방식과 실험 결과를 설명했다. SMITH는 도구를 만드는 모델과 이를 사용하는 모델을 따로 두는 대신, 하나의 모델이 두 역할을 함께 배우도록 설계한 강화학습 프레임워크다.

핵심은 코드만 잘 만드는 데서 끝나지 않는다는 점이다. 도구를 호출하려면 함수 이름과 입력값, 자료형을 설명하는 인터페이스도 정확해야 한다. 코드가 맞아도 호출 설명이 모호하면 사용 단계에서 실패할 수 있다. SMITH는 실제 호출 결과를 학습에 반영해 이 간극을 줄이려는 접근이다.

도구 작성 단계에서 모델은 질문과 정답 예시 4개를 보고 파이썬 함수와 JSON 스키마를 함께 만든다. 연구진은 예시보다 어려운 별도 질문 16개로 결과를 평가하고, 성과가 있는 도구를 공용 풀에 넣는다. 사용 단계에서는 코드가 아니라 스키마를 보고 도구를 호출하게 해 인터페이스의 유용성도 살핀다.

학습에는 형식의 일치 여부, 실행을 통한 정답 도출, 언어모델 평가자의 품질 판단을 반영한다. 도구 작성과 사용 과제를 같은 모델의 학습 배치에 함께 넣어, 작성한 도구가 실제 문제 해결에 쓰이는지를 모델의 개선 신호로 삼는다.

대표 실험에는 Qwen3-4B-Instruct와 산술·알고리즘·논리 등 Reasoning-Gym의 13개 과제 유형을 사용했다. 학습에서 완전히 제외한 10개 과제 유형도 따로 평가했다. 따라서 여기서 말하는 성능은 정답을 검증할 수 있는 특정 추론 과제의 실험 결과이며, 일반적인 업무 능력 전체를 뜻하지 않는다.

다른 모델이 도구를 재사용하는 실험도 진행했다. 연구진의 논문 표에 따르면 3억5천만 매개변수 모델 LFM2.5-350M의 미학습 과제 평균 정확도는 도구가 없을 때 11.6%에서 SMITH로 학습한 40억 매개변수 모델의 도구를 제공했을 때 42.9%로 높아졌다. 같은 소형 모델에 Qwen3-30B-A3B가 작성한 도구를 제공한 경우는 41.5%였다. 이는 도구 작성자의 규모 비교이지, 소형 모델 자체가 대형 모델의 모든 능력을 넘어섰다는 뜻은 아니다.

학습에 쓰지 않은 표 추론 과제 TabMWP-Hard에서는 40.4%, 시각 질의응답 GQA에서는 42.6%를 보고했다. 다만 GQA에서는 GPT-4.1의 출력을 증류한 비교 방식이 56.0%를 기록했다. 모든 평가와 학습 조건에서 SMITH가 앞선 결과는 아니다.

이번 연구는 에이전트의 성능을 높이는 방법이 모델 크기 확대에만 있지 않음을 보여준다. 도구의 구현과 호출 규약을 함께 학습하고, 검증된 도구를 다른 모델에도 제공하는 방향을 실험했다는 데 의미가 있다. 실제 서비스에서의 비용 절감이나 범용 작업 성능은 이 실험 수치만으로 단정할 수 없다. 연구진은 공식 저장소에 학습 코드와 데이터 생성 코드, 평가용 데이터를 공개하고 있다.

출처: SMITH 연구진 논문 https://arxiv.org/abs/2608.24571
SMITH 연구진 프로젝트 페이지 https://tool-use-smith.github.io/
Appier Research 공식 SMITH 저장소 https://github.com/appier-research/smith