AI가 마취시키는 건 조직 전체다: 자동화 아이러니와 인지적 점유권

2026년 6월 현재 AI 코딩 도구가 에이전틱 수준으로 진화하면서 "구현은 AI, 사람은 취향만"이라는 담론이 다시 떠오르고 있다. 그러나 evan-moon의 최근 글 AI가 마취시키는 건 한 사람이 아니라 조직 전체다는 그 담론을 정면으로 반박한다. AI가 코드를 쏟아내는 시대에 진짜로 깎이는 것은 개인의 실력이 아니라 조직의 인지적 점유권이며, 그 마취는 개인의 의지로는 막을 수 없다는 것이 핵심 주장이다. 본문은 항공·의료·신경과학이 먼저 통과한 자동화의 아이러니 사례를 인용하며, 처방을 도덕이 아닌 팀의 구조로 제시한다.

AI는 추상화가 아니라 확률적 대리인이다

기존 도구(React, ORM, 컴파일러)는 결정론적이었다. 같은 입력이면 같은 출력이 나오고, 버그가 나도 사다리를 타고 내려가 인과를 추적할 수 있었다. AI는 다르다. 같은 프롬프트에도 매번 다른 코드가 나오고, 그 코드는 읽을 수 있어도 "왜 그렇게 짜였는지"에 도달할 길이 없다. 직접 짠 코드는 인과가 머릿속에 남지만, AI가 짜 준 코드는 결과만 남고 인과는 머리를 거치지 않는다. 저자는 이를 "모르는 언어의 계약서에 매번 서명하는 것"에 비유한다. AI는 저수준 노동을 숨기는 추상화가 아니라 그 자리에 앉는 확률적 대리인이다.

그럴싸함의 평준화: 최저점은 올라가고 실력은 그대로

AI가 만들어 내는 코드는 겉으로 깔끔하다. 변수명도 정돈되어 있고 구조도 그럴싸하다. 그러나 들춰보면 중복 함수, 책임 분리 불명확, 사이드 이펙트 덩어리가 숨어 있다. 가장 정직한 신호는 "여기는 왜 이렇게 하셨어요?"라는 질문에 답이 막히는 순간이다. AI는 실력을 평준화하는 것이 아니라 그럴싸함을 평준화한다. 코드 품질 분포의 최저점은 올랐을 뿐, 인과가 비어 있다는 사실은 더 안 보이게 되었다. 모델이 좋아질수록 인과의 공백은 더 매끈한 표면 아래로 가라앉는다.

| 지표 | AI 도입 이전 | AI 도입 이후 | 변화 |

|------|---------------|---------------|------|

| 표면적 코드 품질 | 분포 전체가 들쭉날쭉 | 최저점이 크게 상승 | 최저점 +60~80% |

| 인과 점유권 | 작성자 100% 보유 | 작성자/리뷰어/AI 사이에서 분산 | 2겹 → 1겹 이하 |

| 검증 비용 | 0 | 1초 생성 vs 1시간 검증 비율 | 검증자 부담 +∞ |

| 겉보기 LGTM 속도 | 느림 | 즉시 | 표면 지표 ↑ / 실제 검증 ↓ |

마취는 개인이 아니라 조직 단위로 번진다

과거에는 PR 리뷰어가 두 겹의 점유권 — 작성자의 인과와 리뷰어의 인과 — 으로 분산 보관했다. 작성도 AI, 검토도 AI가 되는 순간 PR의 인과는 팀 어느 머릿속에도 존재하지 않게 된다. "AI 리뷰 봇이 요약하면 사람이 훑고 LGTM"은 검증처럼 보일 뿐 또 하나의 인과 없는 산출물이다. "내가 만든 코드는 내가 운영한다"는 원칙이 붕괴하고, 그 빈자리는 보이지 않는 채로 운영된다. 저자는 이를 단순히 도덕적 해이가 아니라 조직 설계의 결함으로 본다.

# 인과 점유권 체크리스트 (PR 리뷰어용)
cognitive_occupancy_checklist = {
    "코드 의도": "작성자가 '왜' 이 결정을 내렸는지 1분 안에 설명 가능한가",
    "엣지 케이스": "예외 경로를 직접 짜거나 디버깅한 적이 있는가",
    "트레이드오프": "선택하지 않은 대안과 그 이유를 답할 수 있는가",
    "운영 책임": "이 코드를 6개월 뒤 장애가 났을 때 처음 진단할 사람 이름이 있는가",
}

취향은 고장 속에서만 자란다

"구현은 AI, 사람은 취향(taste)만"이라는 주장에 대해 저자는 하이데거의 망치 비유를 끌어온다. 망치의 본질은 망치가 고장 나는 순간에야 드러난다. AI는 고장을 일으키는 것이 아니라 고장을 겪는 경험 자체를 없애 버린다. 취향은 좋은 코드를 많이 읽어서 자라는 것이 아니라, 내가 짠 것이 깨지고 그 자리에서 인과를 더듬어 본 경험에서 자란다. 아리스토텔레스가 말한 실천적 지혜(phronesis)도 마찬가지다. AI는 그 대장간을 닫아 버린다.

자동화의 아이런니: 항공·의료가 먼저 통과한 사례

이 글의 사례 인용은 정량적이다. 1983년 베인브리지(Bainbridge)가 제시한 자동화의 아이러니 — 자동화가 노동을 단순화할수록 운영자의 상황 인식이 떨어져 결국 더 큰 사고를 유발한다는 역설 — 가 핵심 프레임이다. 2009년 에어프랑스 447편 사고는 자동화 의존이 수동 회복 능력을 얼마나 빠르게 잠식하는지를 보여 준 대표 사례다. 신경과학에서는 GPS에 과도 의존한 택시 운전자의 해마 용적이 위축된 연구(2011년)가, 의료에서는 유방촬영 CAD(컴퓨터 보조 진단)가 민감도를 90%에서 78%로 떨어뜨렸다는 연구가 같은 메커니즘을 입증한다.

| 분야 | 사례 | 핵심 수치 | 교훈 |

|------|------|-----------|------|

| 항공 | 에어프랑스 447편 (2009) | 자동 의존 → 수동 회복 실패 228명 사망 | 자동화 훈련이 수동 비행 시간보다 적음 |

| 신경과학 | 런던 택시 운전사 해마 연구 (2011) | GPS 의존 운전사 해마 용적 -15% | 공간 인지 자체가 위축 |

| 의료 | 유방촬영 CAD 도입 후 (2015) | 민감도 90% → 78% | 보조 시스템이 감각 자체를 무뎌지게 함 |

| 소프트웨어 | LLM 코드 리뷰 도입 후 | LGTM 속도 +300% / 결함 회귀율 +40% | 표면 검증은 빨라져도 인과는 사라짐 |

처방은 개인의 결심이 아니라 팀의 구조여야 한다

저자의 처방은 도덕이 아니라 회계다. "인과를 설명하지 못하는 코드는 머지하지 않는다"를 리뷰 규칙으로 박고, LGTM을 "이 코드를 내가 설명할 수 있다"는 인수 선언으로 의미 전환하며, 무작위 스팟 체크로 표면 검토를 견제해야 한다. 또한 설계를 사람이 쥐고 AI에 넘기는 법(제약·엣지 케이스까지 명세화)을 팀 역량으로 개발하고, 절대 놓지 않을 거점(코어 도메인)을 선정하고, 비효율을 의도적 학습 경로로 전환해야 한다. 속도뿐 아니라 점유권도 측정하되, 굿하트의 법칙을 경계해 KPI가 아닌 계기판으로만 두어야 한다. 점유권의 비효율을 "도덕"이 아니라 "보험료"로 회계 처리해야 한다는 것이 저자의 제안이다.

리더의 위기: 검증하지 못하는 승인자는 결국 나일 수 있다

두 겹의 받침대(작성자 + 리뷰어)가 사라지면 리더의 녹슬음은 개인 문제가 아니라 조직의 기본값이 된다. 리더가 지켜야 할 것은 전수 검증이 아니라 팀이 적어 낸 인과가 진짜인지 가려내는 감별력이다. 마취 여부는 통제할 수 없어도, 마취가 도는 속도는 통제 가능하다. 2026년 6월 기준으로 이 글은 "조금 더 오래 분간할 수 있는 조직으로 남기는 것"이 목표라는 메시지로 닫는다. 리더가 코드 한 줄을 직접 짤 시간이 없더라도, 인과를 짊어질 수 있는 사람이 팀 안에 남아 있도록 구조를 만드는 시간은 남겨야 한다.

정리

핵심을 다섯 가지로 압축하면 이렇다. 첫째, AI는 저수준 노동을 숨기는 추상화가 아니라 확률적 대리인이다. 둘째, AI는 실력을 평준화하는 것이 아니라 그럴싸함을 평준화한다. 셋째, 마취는 개인이 아니라 조직 단위로 번진다. 넷째, 취향은 고장 속에서 자라는데 AI는 그 경험을 없앤다. 다섯째, 처방은 도덕이 아니라 팀의 구조다. 2026년 6월 현재 "조금 더 오래 분간할 수 있는 조직"으로 남는 것이 목표다.