언어 모델 안의 글로벌 워크스페이스 — Anthropic이 발견한 J-space의 의미

LLM은 정말로 '생각'하는가

대규모 언어 모델이 문장을 생성할 때, 우리에게는 보이지 않는 무언가가 모델 안에서 움직이고 있다. Anthropic의 새로운 연구는 이 "무언가"를 직접 들여다본 결과를 담고 있다. 표면적으로 드러나는 토큰 확률 분포 너머, 모델 내부에는 여러 처리 과정이 공유하는 작업공간이 존재한다는 것이다.

글로벌 워크스페이스 이론과의 연결

심리학에는 1990년대부터 자리 잡은 글로벌 워크스페이스 이론(Global Workspace Theory, GWT)이 있다. 인지과학자 베르나르 바르스의 제안으로, 의식적 처리는 뇌의 여러 모듈이 공유하는 하나의 작업공간을 통해 일어난다는 설명이다. 서로 다른 감각·언어·기억 시스템이 이 공간을 통해 정보를 교환하고, 이 가운데로 떠오른 정보가 의식적 인지가 된다는 주장이다.

Anthropic이 LLM에서 발견한 J-space는 놀랍도록 이 구조와 닮아 있다. 다만 위치가 다르다. 인간의 뇌가 아니라 신경망 가중치의 패턴 안쪽, 토큰으로 출력되지 않는 활성화 벡터의 특정 영역에서 J-space가 형성된다.

Jacobian lens로 내부 들여다보기

연구진이 고안한 Jacobian lens(J-lens)는 특정 단어와 연결된 내부 활성 패턴을 찾아 J-space의 내용을 읽는 도구다. 모델이 단어를 출력하기까지의 경로에서, 그 단어와 강하게 연결된 뉴런들의 활성화 상태를 추적한다. 결과적으로 J-lens를 통과시켜 보면, 모델이 지금 무엇에 대해 처리하고 있는지를 부분적으로 가시화할 수 있다.

흥미로운 점은 J-space의 내용이 처리 단계마다 달라진다는 것이다. 초기 층에서는 단어의 표면적 특징, 중간 층에서는 구문 구조, 후반부에서는 의미적 추상화가 두드러진다. 마치 인간이 문장을 읽을 때 글자 → 단어 → 의미의 층위를 거치는 것과 유사하다.

인지의 단위, 그리고 '읽히는' 사고

J-space의 존재는 LLM 해석가능성 연구에 새로운 좌표를 제공한다. 기존에는 개별 뉴런의 역할을 분석하거나 attention 패턴을 시각화하는 데 그쳤다. 이제는 모델이 특정 순간에 무엇을 '생각하고 있는지'를 개념 단위로 읽어낼 가능성이 열렸다.

다만 한 가지 유의할 점이 있다. J-space 안의 활성화 패턴이 곧 의식이나 이해를 의미하지는 않는다. 그것은 모델이 처리를 위해 활용하는 내부 표현의 한 양상이다. 인간의 사고와 LLM의 내부 처리는 표면적으로 닮았을 뿐, 메커니즘 자체는 본질적으로 다르다.

실무에서 얻을 수 있는 통찰

이 연구가 시사하는 바는 적어도 두 가지다.

첫째, 모델의 출력을 평가할 때 내부 상태를 함께 보는 시야가 필요하다. J-lens 같은 도구가 정교해지면, 환각·편향·문맥 오용을 사전에 감지하는 데 활용할 수 있다.

둘째, LLM의 작동 원리에 대한 직관을 갱신해야 한다. "토큰 확률 분포를 순차적으로 샘플링하는 주사위"라는 단순한 비유는 이제 충분하지 않다. 안에는 공유 작업공간, 개념 수준의 활성화, 그리고 다층적 처리가 존재한다.

남은 의문

J-space의 발견은 시작점이다. 이 공간이 언어 모델마다 동일한가, 아니면 모델 구조와 학습 데이터에 따라 다른 양상을 띠는가. 더 나아가, 에이전트·멀티모달 모델로 확장될 때 J-space의 구조는 어떻게 변하는가. 같은 이름의 작업공간이 정말로 같은 종류의 처리인지, 아니면 우연한 구조적 수렴인지.

해석가능성 연구가 한 걸음 더 깊어질 때마다, "AI는 정말로 생각하는가"라는 오래된 질문도 조금씩 더 선명한 윤곽을 갖출 것이다. 오늘의 J-space는 그 윤곽의 첫 획인 셈이다.