AI는 수학자보다 더 잘 생각하는 게 아니라 더 많이 기억함 — 작업 기억이 만드는 수학 성능의 비밀

AI가 수학에서 강해 보이는 진짜 이유

최근 대형 언어 모델이 수학 경시대회와 대학원 수준 문제에서 눈에 띄는 성과를 내면서 "AI는 수학자보다 더 잘 생각하는 것일까?"라는 질문이 자주 제기됩니다. 실상을 살펴보면 답은 단순합니다. AI가 더 깊이 사고하는 것이 아니라 훨씬 더 많이 기억할 수 있기 때문입니다. 인간이 종이와 메모로 보완하는 작업 기억을 AI는 컨텍스트 창 안에 통째로 보관하고, 그 안에서 검색·조작·재배치할 수 있습니다.

문제·중간 계산·제약·실패한 시도를 한 곳에 유지하는 AI의 상징적 작업 공간

수학은 "작업 기억"의 게임이다

수학 문제 한 줄을 풀려면 적어도 다음을 동시에 머릿속에 들고 있어야 합니다. 변수의 정의, 이미 수행한 연산의 결과, 현재 목표, 증명에 사용된 가정과 보조정리, 분기한 경우의 수. 인간의 작업 기억 용량은 매우 제한적입니다. 세 자릿수 두 수의 암산이 어려운 이유도 연산 자체가 복잡해서가 아니라 부분 결과를 보존하며 다음 계산을 이어가야 하기 때문입니다. 그래서 수학자는 표기법, 메모지, 도표, 이전에 작성한 보조정리를 단순한 의사소통 도구가 아니라 추론을 인지적으로 가능하게 하는 도구로 사용합니다.

전문가는 여러 기호를 익숙한 구조 하나에 묶는 청킹(chunking) 전략으로 같은 작업 기억 용량에 더 많은 정보를 담습니다. 하지만 이것은 정보를 압축할 뿐 한계 자체를 없애지는 못합니다. AI는 바로 이 한계가 다른 출발선에 서 있습니다. 긴 컨텍스트를 노트처럼 활용해 수십·수백 개의 조건과 긴 추론 사슬을 명시적으로 보존할 수 있습니다.

긴 컨텍스트 ≠ 능동적인 작업 기억

다만 AI의 컨텍스트는 인간의 작업 기억과 결정적으로 다릅니다. 인간의 작업 기억은 능동적으로 갱신되고, 중요한 정보를 골라내며, 오래된 항목을 잊어버립니다. 반면 AI 컨텍스트는 검색 실패와 주의 분산을 겪을 수 있고, 프롬프트 안에 박힌 모든 토큰을 균등하게 다루지는 못합니다. 그럼에도 여러 제약과 긴 계산, 경우 분석, 정확한 기호 관리가 필요한 문제에서는 컨텍스트 폭이 곧 성능 차이로 이어집니다.

작업 기억·언어 능력·수학 능력의 분리와 기여도 (Alloway & Passolunghi 2011 패턴)

현재 AI는 문제의 틀 자체를 근본적으로 바꾸는 Einstein식 깊이보다는, von Neumann식 속도와 폭에 무제한 노트를 결합한 모습에 더 가깝습니다. 그래서 다음 단계는 단순히 컨텍스트를 더 늘리는 것이 아니라, 잘못 설정된 문제를 재구성하는 능력이 될 가능성이 높습니다.

작업 기억은 IQ보다 수학 성적을 더 잘 예측한다

흥미로운 점은 작업 기억이 일반지능과 강하게 연관되면서도 전통적인 지능 측정만으로 환원되지 않는 수학 성과 예측력을 보여준다는 사실입니다. Alloway와 Passolunghi(2011)는 아동의 작업 기억·언어 능력·수학 능력을 조사해, 작업 기억이 일반 언어 능력과 수학의 연결을 반복하는 데 그치지 않고 수학 성과에 독자적으로 기여한다고 분석했습니다. Alloway와 Alloway(2010)의 6년 종단 연구에서는 5세 때 측정한 작업 기억이 IQ를 통제한 뒤에도 6년 후 문해력과 수리력을 예측했고, 사용된 IQ 측정보다 이후 학업 성과를 더 강하게 예측했습니다.

Blankenship 등(2015)은 IQ와 연령을 통계적으로 통제한 뒤에도 작업 기억이 수학 유창성과 계산 능력의 고유한 차이를 설명한다고 분석했고, Friso-van den Bos 등(2013)의 대규모 메타분석은 초등학생 연구 전반에서 작업 기억과 수학 사이의 일관된 관계를 확인했습니다. 다만 관계의 강도는 측정한 작업 기억과 수학 과제의 유형에 따라 달라지며, 상업적인 작업 기억 훈련이 지능이나 수학 능력을 크게 끌어올린다는 뜻은 아닙니다.

개발자와 연구자에게 의미 있는 시사점

이 분석이 우리에게 주는 교훈은 명확합니다. AI를 수학 문제에 활용할 때 가장 큰 차이를 만드는 변수는 모델의 추론 알고리즘이 아니라 얼마나 많은 중간 상태를 한 번에 들고 갈 수 있는지입니다. 그래서 실전에서는 다음 세 가지가 효과적입니다.

• 문제를 풀기 전 가정·정의·변수 목록을 컨텍스트 맨 앞에 명시적으로 적는다.
• 긴 계산을 한 번에 시키지 말고, 단계별로 묶어 중간 결과를 요약해 다시 컨텍스트에 넣는다.
• 실패한 접근을 버리지 말고 "시도 N: 이유 R로 실패" 형태로 기록해 두어 같은 실수를 반복하지 않게 한다.

이 패턴은 사실상 인간 수학자가 종이에 적어두는 작업과 같은 구조입니다. 다만 AI는 종이의 양에 사실상 제한이 없기 때문에, 같은 원리를 더 큰 규모에서 자동으로 적용해 주는 것뿐입니다.

요약

AI의 수학 성능은 새로운 종류의 사고라기보다는 작업 기억의 확장입니다. 긴 컨텍스트를 명시적으로 유지하고, 중간 계산과 실패한 시도를 노트처럼 보존하며, 그 안에서 검색·조작·재구성할 수 있다는 점이 인간 수학자와의 핵심 차이입니다. 다음 단계의 진짜 분기점은 컨텍스트를 더 늘리는 것이 아니라, 잘못 설정된 문제를 스스로 재구성해 더 쉬운 형태로 바꾸는 능력에 있을 가능성이 높습니다.

📰 원문: https://news.hada.io/topic?id=32539

---

📰 원본 출처 · https://news.hada.io/topic?id=32539 (#N=32539)

이 글은 GeekNews(긱뉴스)에 게제된 글을 기반으로 작성되었습니다. 원본의 라이선스와 저작권은 원작자에게 있습니다.