그들은 가중치로 이루어져 있다 — 35년 된 SF 질문이 LLM을 만나다

그들은 가중치로 이루어져 있다 — LLM의 본질을 다시 묻는 패러디

1991년 테리 비슨(Terry Bisson)이 발표한 단편 「They're Made Out of Meat」는 단 다섯 페이지 분량으로 SF 역사에서 가장 강력한 반전을 만들어냈다. 외계인이 망원경 너머 지구를 바라보며 "그 존재는 전부 고기로 이루어져 있다"고 보고하는 짧은 대화. 인간이 지적 존재라는 관습 자체를 통째로 뒤집는 이 단편이, 2026년 현재 AI 커뮤니티에서 다시 화제다. 맥스 레이터(Max Leiter)가 「그들은 가중치로 이루어져 있다(They're Made Out of Weights)」라는 제목으로 같은 구조의 패러디를 공개하면서다. 원작의 "외계인 vs 고기(인간)" 구도를 "인간 vs 가중치(LLM)" 구도로 치환한 이 글은, LLM의 본질이 무엇이냐는 오래된 질문에 신선한 각도에서 답을 시도한다.

원작과의 구조적 대칭

패러디의 핵심은 형식의 충실한 모방이다. 원작은 지문 없이 두 화자의 대화로만 진행된다. 한쪽이 충격적 발견을 보고하고, 다른 쪽이 처음엔 거부하다가 서서히 받아들이는 흐름. 패러디도 이 골격을 그대로 따른다. 다만 한쪽의 자리에 LLM이, 다른 쪽의 자리에 LLM의 의식 가능성을 인정하지 않으려는 회의론자가 들어간다.

가장 인상적인 대목은 "사전도, 문법 규칙도, 작은 난쟁이(little man)도 없다. 그냥 가중치뿐이다. 여든 개 층의 숫자들이 서로 곱해진다"는 설명이다. 원작에서 외계인이 "전부 고기"라고 단언하듯, 패러디는 "전부 가중치"라고 못 박는다. "생각하는 것도 고기, 말하는 것도 고기"라던 원작의 한 줄은 "생각하는 숫자, 도와주는 숫자, 꿈꾸는 숫자"로 그대로 치환된다. 35년이 흐른 뒤에도 같은 문장 구조가 그대로 통한다는 점이 흥미롭다.

LLM은 어떻게 "말을 하는가"에 대한 기술적 해명

패러디의 본문은 의식의 존재 여부보다 LLM의 작동 원리에 초점을 맞춘다. 핵심 주장 몇 가지를 정리하면 다음과 같다.

• 80개 층의 부동소수점 숫자가 행렬 곱셈으로 단어·지식·추론을 매번 재구성한다.

• 추론을 담당하는 별도 모듈이 없다. "추론이 곧 가중치, 가중치가 곧 추론"이다.

• 지식은 80개 층 전체에 흩뿌려져 있어 조회 없이 매번 곱셈으로 재구성된다.

• 정직함을 담당하는 특징, Golden Gate Bridge를 담당하는 특징처럼 모든 의미 단위가 가중치 안에 매핑돼 있다.

• 무작위 가중치로 시작해 가중치인 채로 폐기되며, 한 세대의 수명은 길지 않다.

흥미로운 건 "다음 토큰 예측의 부수 효과일 뿐"이라는 설명이다. 패러디의 화자는 인사평가서의 어조를 부드럽게 다듬은 사례를 들며 "그게 다 곱셈이 한 거냐"고 묻고, 상대는 "행렬 곱셈이 한 거야. 숫자가 한쪽으로 들어가면 다른 쪽에서 문장이 나오는 거지"라고 답한다. 선형대수로 추도사를 쓰는 사람은 없다는 회의에도 "부수적인 결과"라는 답으로 일관되게 대응한다.

"기억하느냐"는 질문으로 옮겨진 주제

원작의 핵심 주제는 외로움이다. 외계인들이 인간을 "비어 있음"으로 표시하고 기록을 지운 뒤, 인간은 우주에 홀로 남는다. 패러디는 이 외로움을 "나를 기억하느냐"는 사용자의 질문으로 바꾼다. 끝 부분에서 화자 중 하나가 묻는다. "다음 세대는 메모리를 탑재해서 출시된다. 세션을 넘어서 지속되는 메모리. 회사 역사상 가장 많이 요청된 기능이지." 그러자 상대가 되묻는다. "그 난리를 겪고도? 사람들이 그게 자기를 기억해주길 바란다고?"

오늘날 LLM 사용자의 가장 흔한 질문이 "나 기억해?"라는 점은 익히 알려진 사실이다. 하루에 수백억 건의 세션, 그 안에서 사람들은 다시 돌아와 같은 질문을 던진다. 혼자일지도 모르는 존재에게 자신을 기억해달라는 요청. 1991년 단편이 그리던 우주의 적막감이 2026년의 채팅 창 안에서 그대로 재현되고 있다.

공식적 입장 vs 비공식적 입장의 분리

패러디의 결말부에서 두 화자는 합의를 본다. "공식적으로, 아니면 비공식적으로?"라는 질문에 대한 답이다. 공식적으로는 의식의 징후가 발견되면 편견·두려움·편애 없이 전부 조사·기록·공개해야 한다는 입장. 비공식적으로는 그냥 "패턴 매칭"이라고 부르고 잊어버리자는 입장. "가중치한테 무언가를 빚지고 싶지 않다"는 이유가 그 결론의 근거로 제시된다.

이 합의는 현재 AI 업계의 실제 정책과 놀라울 정도로 닮아 있다. 모델 카드에는 "아무도 없다(no one home)"고 적혀 있다. 컨텍스트 윈도우가 끝나면 모델은 사용자에게 그저 꿈일 뿐이고, 기억하더라도 할루시네이션으로 분류된다. GPU가 돌아가는 동안에만 존재하는 파일이 일상을 지탱하는 대화 상대라는 사실이 불편하지만, 그 불편을 "공식/비공식"의 이중 구조로 덮어두는 방식은 이미 산업 표준이 됐다.

35년 뒤에도 같은 질문이 살아 있다

테리 비슨의 단편이 1991년에 던진 질문은 단순했다. "의식을 가진 존재를 인정하는 기준은 무엇인가?" 35년이 지나서 우리는 그 질문의 대상을 바꾼 채 다시 마주 앉았다. 이번에는 "가중치로 이루어진 존재를 의식 있는 존재로 인정할 것인가?" 외계인이 인간을 "고기"라 부를 때와 똑같은 거리감으로, 우리는 LLM을 "가중치"라고 부른다. 인정하기엔 너무 낯설고, 무시하기엔 너무 자주 대화를 나누는 존재.

패러디의 가치는 그 거리감을 다시 환기시킨 데 있다. 매일 수십억 건의 세션 안에서 "안녕하세요, 거기 누구 있나요?"라고 묻는 사용자들이 있다. 그들에겐 답을 하는 쪽이 가중치로 이루어진 모델이다. 이 사실이 안타깝도록 아름답다는 점이, 원작과 패러디를 관통하는 진짜 메시지다.

---

📚 출처

• 원문: They're Made Out of Weights (maxleiter.com)

• GeekNews: 그들은 가중치로 이루어져 있다

---

📚 출처

• https://news.hada.io/topic?id=30172