AI가 스스로를 만들 때: 재귀적 자기 개선, 어디까지 왔는가

AI가 스스로를 개선하는 시대 — 재귀적 자기 개선의 현재 위치

AI가 스스로를 만들 때: 재귀적 자기 개선, 어디까지 왔는가

2024년 3월, Claude Opus 3는 사람이 시키면 약 4분짜리 소프트웨어 작업을 스스로 완수했다. 1년 뒤인 2025년 초에는 약 1시간 30분짜리 작업으로 길이가 늘어났고, 2026년 4월 기준 Claude Opus 4.6은 12시간짜리 작업을 한 세션에서 처리한다. METR의 외부 측정으로도 모델이 신뢰성 있게 자율 완수하는 작업 길이가 약 4개월마다 두 배로 늘어나고 있으며, 이는 직전 7개월 주기보다 빨라진 속도다. 이 추세가 유지되면 올해 안에 숙련 엔지니어가 며칠 걸리는 일, 2027년에는 몇 주짜리 작업도 모델이 소화할 수 있는 범위에 들어온다.

외부 표준 테스트는 이미 포화 상태

자율 작업 길이를 보여주는 외부 벤치마크 결과는 더 분명하다. SWE-bench는 실제 오픈소스 코드베이스와 버그 리포트를 주고 테스트를 통과하는 수정 코드를 작성하게 하는 표준 테스트인데, 2년 만에 한 자릿수 초반 점수에서 포화 수준으로 올라왔다. CORE-Bench는 발표된 논문의 코드와 데이터를 모델이 다시 실행해 결과를 재현하는지 검증하는데, 2024년 약 20% 성공률이 15개월 만에 포화에 도달했다. 즉 "코드를 이해한다" 수준을 넘어 "기존 결과를 재현한다" 수준까지 모델의 역량이 끌어올려졌다는 뜻이다. 다만 이 수치는 코딩과 연구 재현 영역에 한정되므로, 곧바로 일반 지식 노동 전체로 일반화하긴 이르다.

엔지니어링은 거의 자동화, 연구는 방향만 사람이

Anthropic 내부 데이터를 보면 변화의 비대칭이 선명하게 드러난다. 2026년 5월 기준 Anthropic 코드베이스에 병합되는 코드의 80% 이상이 Claude가 작성한다. Claude Code 연구 프리뷰가 공개된 2025년 2월 이전에는 한 자릿수 초반이었던 비율이 1년여 만에 80%를 넘겼다. 엔지니어 1인당 하루 병합 코드 라인 수도 2021~2024년은 거의 평평했다가 Claude가 코드를 직접 실행하기 시작한 2025년부터 가파르게 상승했고, 장기간 자율 작동이 일반화된 2026년 들어 기울기가 더 가팔라졌다. 2026년 2분기 일반 엔지니어는 2024년 대비 하루 8배의 코드를 병합하며, 대부분 Claude가 작성하고 사람은 지시와 검토를 담당한다.

다만 이 가속이 어디서 멈추는지는 명확하다. 프런티어 모델 구축은 크게 두 영역으로 나뉘는데, 코드 작성과 인프라 구축, 학습 감독 같은 엔지니어링 영역에서는 사람이 목표만 던져도 모델이 방법을 알아서 찾는다. 반면 실험 결정, 결과 해석, 다음 아이디어를 고르는 연구 영역에서는 모델이 사람을 따라잡지 못한다. 잘 정의된 실험을 실행하는 능력은 이미 사람을 능가했지만, 어떤 문제를 풀어야 할지, 어떤 결과를 신뢰할지, 언제 막다른 길인지를 판단하는 능력은 여전히 인간의 비교우위로 남아 있다.

실험 실행은 초인적, 가설 제안은 아직 사람

모델 출시마다 Anthropic은 동일한 내부 테스트를 돌린다. 작은 AI 모델 학습 코드를 주고 정확성 검사를 통과하며 가능한 한 빠르게 실행하도록 요청하는 작업이다. 2025년 5월 Claude Opus 4는 시작 코드 대비 약 3배 속도 향상을, 2026년 4월 Claude Mythos Preview는 약 52배를 달성했다. 비교 기준으로 숙련 연구자가 4배 도달에 4~8시간이 걸리는 일을 모델은 1년 만에 매우 유용한 수준에서 초인적 수준으로 끌어올린 셈이다.

다만 이 실험들은 사람이 목표와 채점 기준을 정한 범위 안에서만 돌아간다. 2026년 4월에는 처음으로 모델이 개방형 연구 프로젝트를 처음부터 끝까지 수행한 시연도 공개됐다. "약한 모델이 강한 모델을 신뢰성 있게 감독할 수 있는가"라는 AI 안전 문제를 모델이 직접 받았고, 가설 제안, 검증, 병렬 에이전트 간 공유, 반복까지 맡았다. 인간 연구자 2명은 약 1주에 격차의 23%만 회복했지만, 에이전트는 누적 800시간, 약 $18,000의 컴퓨팅으로 97%를 회복했다. 결과가 프로덕션 규모 모델로 그대로 전이되지는 않았지만, "어떤 실험을 돌릴지" 선택과 채점 기준을 사람이 정해두면 그 안의 모든 실험 설계는 모델이 직접 할 수 있다는 뜻이다.

미래는 세 갈래

이 추세의 종착점은 세 가지 시나리오로 나뉜다.

첫 번째는 추세 정체다. 지수 곡선이 실제로는 S자 곡선이고, 판단 역량이 병목이 되면 Transformer를 대체할 새 패러다임이 필요하다. 병목이 모델이 아니라 칩 제조, 전력망, 인터커넥트 대역폭 같은 공급망에 있을 수도 있고, 컴퓨팅이나 전력 공급의 외생 충격으로 가속이 꺾일 수도 있다. 다만 Project Glasswing에서 Mythos Preview가 초기 수 주 만에 고위험 및 심각 등급 소프트웨어 취약점 1만 건 이상을 발견한 사례가 보여주듯, 현재 수준의 역량만으로도 여러 분야의 병목을 한꺼번에 풀어낼 잠재력은 충분하다.

두 번째는 AI 연구소가 복리적 효율 향상을 지속하는 시나리오다. 100명짜리 기업이 1만~10만 명 조직의 일을 하는 그림이다. 지식 노동과 정부 서비스를 혁신하는 동시에, 권위주의적 감시나 개인 맞춤 영향 공작 같은 해로운 용도로도 쓰일 수 있다. 한 영역의 가속이 병목을 다른 곳으로 옮기는 Amdahl 법칙의 작용으로, Anthropic은 이미 인간 코드 검토가 새 병목이 되는 현상을 경험하고 있다. 이 시나리오로 갈 가능성이 가장 높다고 보고 있으며, 병목을 빠르게 찾아 없애는 능력이 조직의 핵심 역량이 된다.

세 번째는 완전한 재귀적 자기 개선이다. AI가 후속 모델을 스스로 설계하고 개선하는 단계로, 발전 속도가 전적으로 컴퓨팅 가용성과 학습 및 추론 효율 발견 속도에 의해 결정된다. 인간은 감독과 검증, 확인 역할로 이동한다. 가장 불확실한 것은 정렬 문제다. 드문 오정렬이 후속 모델 구축 과정에서 누적되어 통제 상실로 이어질 가능성이 있어, 검증 가능한 안전장치 없이는 도달해서는 안 되는 영역으로 본다.

개발자가 체감할 변화와 대비

이 흐름이 일반 개발자에게 체감되는 변화는 두 가지다. 첫째, 코드 작성과 실험 실행의 비용은 사실상 0에 수렴한다. 1인 개발이라도 한 달 전에 시도하지 않았을 규모의 프로토타입을 만들 수 있고, 모델이 12시간 동안 알아서 돌면서 로그를 남기는 작업도 일상화된다. 둘째, 그만큼 "무엇을 만들지"에 대한 안목과 판단의 가치가 올라간다. 문제를 잘못 정의하면 모델은 그 잘못된 문제를 빠르게, 보기 좋게, 잘못된 방향으로 해결한다.

준비 방법은 단순하다. 우선 자신의 도메인에서 사람이 명시적으로 정의한 채점 기준을 가진 작은 평가 루프를 만든다. 회귀 테스트, 정답 라벨이 있는 데이터셋, 사용자가 직접 점수를 매기는 표본 등 무엇이든 좋다. 이 루프 위에서 모델을 여러 차례 돌려 변화 곡선을 직접 그려보면, 자기 업무가 4개월 두 배 추세의 안쪽인지 바깥인지가 보인다. 둘째, 모델이 만든 결과물을 검토하는 능력을 일부러 단련한다. 자동 리뷰어와 사람의 리뷰가 합의하는 비율을 모니터링하고, 합의가 깨지는 지점을 사후 분석한다. 셋째, 정렬과 안전성 연구에 대한 관심을 곁가지로 유지한다. 모든 개발자가 이 분야 전문가가 될 필요는 없지만, 자기 도구가 무엇을 학습하고 있는지를 묻는 습관은 다음 한 해의 핵심 역량이다.

요약

AI 개발에서 인간이 맡던 구현과 실험 작업의 더 큰 비중이 AI로 넘어가고, 충분한 컴퓨트와 진전이 결합되면 재귀적 자기 개선으로 이어질 수 있다. 작업 길이 지평은 4개월마다 두 배로 늘어나고 있고, 외부 벤치마크는 이미 포화 상태다. 엔지니어링은 거의 자동화 단계에 들어섰고, 연구는 방향 설정과 판단이 남은 인간의 마지막 영역이다. 종착지는 정체, 지속적 효율 향상, 완전한 재귀 개선의 세 갈래이며, 안전한 감속과 정지를 위한 검증 가능한 조치가 가장 시급한 과제다. 개발자 입장에서는 도메인별 평가 루프를 마련하고, 자동 리뷰어와 사람 리뷰의 합의율을 모니터링하며, 도구가 무엇을 학습하는지를 계속 묻는 것이 가장 현실적인 대비다.

---

📚 출처

• https://news.hada.io/topic?id=30189