Anthropic, Claude 내부 ‘작업공간’ 관찰 연구 공개

Anthropic 공식 연구 글과 Transformer Circuits 원문 논문에 따르면 연구진은 Claude 계열 언어모델 내부에서 보고, 조절, 다단계 추론에 관여하는 제한된 표현 공간을 관찰했다고 6일 밝혔다. 연구진은 이를 ‘J-space’라고 부르며, 모델이 출력하지 않은 중간 개념을 내부 활성 상태에서 다룰 수 있음을 보였다고 설명했다.

이번 연구는 언어모델이 답변을 내놓기 전 내부에서 어떤 정보를 유지하고 활용하는지 살펴보는 해석가능성 연구다. Anthropic은 Jacobian lens라는 기법을 사용해 모델이 특정 개념을 말할 준비가 된 내부 표현을 찾았다. 연구진은 이 표현들이 단순히 다음 단어 예측에만 쓰이는 것이 아니라, 문제 풀이의 중간 단계나 코드의 버그 인식, 검색 결과의 프롬프트 인젝션 의심 같은 판단에도 연결된다고 밝혔다.

논문은 J-space가 다섯 가지 성격을 보인다고 정리했다. 모델이 그 안의 내용을 물었을 때 보고할 수 있고, 특정 개념을 마음에 두라는 지시에 따라 활성화할 수 있으며, 다단계 추론의 중간 값을 담을 수 있다는 것이다. 또 같은 표현이 여러 과제에서 유연하게 쓰이고, 전체 모델 처리 중 일부에만 관여한다는 점도 제시했다. 연구진은 J-space를 억제했을 때 문법이나 단순 응답은 비교적 유지됐지만, 더 높은 수준의 내부 추론 기능은 약해졌다고 설명했다.

Anthropic은 이 구조를 신경과학의 global workspace 이론과 비교했다. 다만 논문은 언어모델이 인간의 의식 구조를 그대로 갖췄다고 주장하지 않는다. 연구진은 인간 뇌의 반복 연결이나 여러 전문 처리 시스템 사이의 경쟁 같은 요소가 트랜스포머 기반 언어모델에는 그대로 대응되지 않는다고 선을 그었다. 이 연구가 다루는 것은 주관적 경험이 아니라, 보고 가능하고 조절 가능하며 추론에 쓰이는 정보 처리 기능에 가깝다.

이번 발표의 의미는 모델 내부 상태를 읽고 개입하는 실험적 창을 넓혔다는 데 있다. 연구진은 Jacobian lens 학습과 추론을 위한 동반 코드를 GitHub에 공개했고, 공개 모델에 적용할 수 있는 구현도 함께 제공했다. AI 시스템이 점점 더 복잡한 판단과 도구 사용을 맡는 상황에서, 내부 추론 흐름을 점검하고 위험 신호를 찾는 기술은 모델 평가와 안전성 연구의 핵심 과제가 되고 있다.

출처: Anthropic https://www.anthropic.com/research/global-workspace · Transformer Circuits https://transformer-circuits.pub/2026/workspace/index.html · GitHub https://github.com/anthropics/jacobian-lens