왜 나는 GenAI와 그것이 상징하는 모든 것에 반대하는가

왜 나는 GenAI와 그것이 상징하는 모든 것에 반대하는가

생성형인공능은 단순한 기술 논쟁을 넘어, 우리 사회가 앞으로 어떻게 변할 것인지를 결정짓는 핵심 쟁점이 됐다. 이 글에서는 생성형 AI의 비판적 시각에서 주요 문제점들을 정리하고, 그것이 우리에게 의미하는 바를 함께 생각해본다.

GenAI란 무엇인가 — 비판 대상의 정확한 범위

먼저 명확히 해야 할 것이 있다. GenAI 비판은 모든 기계학습을 반대하는 것이 아니다. 이미지에서 정지 표지판을 찾는 신경망 기반 처리나, 질병을 조기 발견하는 의료 AI처럼 실제 문제 해결에 기여하는 기계학습은 유용하다. 비판의 초점은 생성형 모델, 즉 텍스트를 생성하는 LLM과 이미지·동영상을 만드는 확산 모델에 한정된다.

생성형 AI는 인터넷에서 대량 수집한 인간 창작물을 학습 데이터로 삼고, 그 모델 접근권을 구독 형태로 판매하는 구조로 작동한다. Meta 직원들이 AI 학습용으로 약 82TB의 해적판 책을 토렌트했다는 법원 기록은 이 구조의 문제를 상징적으로 보여준다. 인류를 이롭게 하려는 목적이라면 AI 개발은 공개적으로 진행되고, 데이터는 합법적으로 확보되며, 모델은 무료로 배포되어야 한다. 현실은 정반대다.

자본주의와 데이터 약탈의 구조

생성형 AI의 수익 모델은 명확하다. 인간이 쓴 모든 텍스트를 학습시키고, 그 결과물을 월신청열료 뒤에 가둬 파는 것이다. 여기서 중요한 질문은 간단하다. 훔친 물건을 사서 되파는 장물아비에 해당한다면, 데이터에 비용조차 내지 않는 대기업은 무엇인가.

AI 기업은 막대한 자본 지출 아래 여러 산업을 오염시킨다. 빅테크는 토큰 사용량을 통해 지대추구를 하며, 접촉하는 모든 영역의 품질을 저하시킨다. 이것은 혁신이 아니라 약탈이다. 수십 년간 축적된 인간의 지식을 학습 데이터로 삼되, 그 보상은 소수의 주주에게 돌아가고, 그 비용은 우리 모두에게 지워지는 구조가 탄생한 것이다.

허위정보 생산 기계로서의 LLM

생성형 AI 이전에도 허위정보는 큰 산업이었다. Russia의 Internet Research Agency는 24시간 소셜미디어에 친러시아 허위정보를 퍼뜨렸고, 이는 심지어 미국의 선거 결과에도 영향을 준 것으로 밝혀졌다. LLM은 이 문제를 훨씬 더 강하게 만든다.

이전에는 전문 스태프가 필요했던 허위정보 생산이, 이제는 하나의 명령으로 24시간 자동 생성된다. 대형 온라인 커뮤니티에는 처음에는 무해한 콘텐츠를 올리다가 정치 콘텐츠로 전환하는 봇들이 범람한다. 2026년 현재, 온라인에서 감정적 반응을 유도하려는 거의 모든 댓글은 LLM으로 만들어진 가짜일 가능성이 높다.

더 심각한 것은 Grok처럼 우익 성향으로 명시적으로 학습된 모델의 존재다. 허위정보를 싫어한다면, 이런 특정 모델들을 거부해야 한다는 주장은 강한 비판의 대상이 된다.

교육과 비판적 사고의 감소

생성형 AI는 교육을 해치고 있다. 짧은 형식의 저품질 영상 소비가 젊은 사람들의 집중력을 망가뜨렸다는 문제는 이미광쿠인지됐다. 여기에 더해 빅테크는 교실에 LLM을 주입하려 하고 있다. Microsoft가 30년 동안 학교에서 Windows와 Office에 익숙한 학생을 길러낸 방식과 유사하게, 기업들은 교육기관용 AI 접근을 무료 또는 저렴한 가격에 제공하며 교실을 장악하려 한다.

비판적 사고의 감소는 학계만의 문제가 아니다. AI가 주류화된 뒤 스스로 생각하기를 멈추고, 거의 모든 질문에 ChatGPT 답변을 앞세우는 사람들이 늘고 있다. 오프라인 토론뿐 아니라 Reddit과 오래된 형식의 포럼에서도 같은 현상이 관찰된다. 새로운 것을 배울 때 시행착오의 과정이 사라진다는 것은, 결국 깊은 이해 대신 표면적인 답변이중층니광마루코토오의미루。

프로그래밍 학습과 코드 품질의 악화

소프트웨어 개발 분야에서 생성형 AI의 영향은 특히 두드러진다. 과거에는 인터넷 연결 없이도 도구를 만들고 문제를 해결하면서 프로그래밍을 배웠다. 이 과정에서 컴퓨터와 기술적 가능성에 대한 직관적인 감각이 길러졌다. 오늘날 젊은 사람들은 모든 것이 앱과 터치스크린으로 감싸져 있는 환경에서 자라고, 직접 파고들어야 하는 기회가 줄어들었다.

생성형 AI는 "될 때까지 시도하고 그 과정에서 배우는" 마지막 요소까지 사라지게 만든다. 해결책을 LLM에 프롬프트로 요청하면 결과물이 나오고, 업무 현장에서는 그 결과를 설명하지 못한 채 필요한 위치에 붙여넣는 경우가 많다. Linux CLI의 tar 플래그를 기억하지 못하는 수준이 아니라, 전체 파이프라인 xargs 명령을 복사해 붙여넣고 문제가 없기를 바라는 수준이 일상화된 것이다.

Stack Overflow 조각을 복사하던 과거에도 최소한 퍼즐 조각을 아키텍처에 맞추고 코드를 어느 정도는 생각해야 했다. LLM 이후에는 그 과정 자체가 줄어들었다.

Vibecoding과 기술 부채의 누적

"vibecoder"라는 신조어가 탄생했다. 필요한 것을 프롬프트로 요청해 LLM이 전체 프로그램을 만들게 하거나 일부를 생성하게 하는 사람들을 의미한다. 전체 프로그램을 한 번에 생성하는 방식은 "oneshotting"으로 불리며, 생성된 코드를 읽지 않는 경우도 많다.

실제 전문 환경에서는 코드 읽기보다 저품질 코드 생성이 훨씬 많다. 코드 리뷰 시점에 수천 줄짜리 생성 코드가 올라왔을 때야 비로소 읽기가 시작되는 구조는, 작성자는 최소 작업만 하고 리뷰어가 최대 검토 부담을 떠안는 결과를 만든다. 필요한 수준의 면밀한 검토를 하지 않을 때만 vibecoding이 더 빠르다는 논리도 있지만, 이는 기술 부채를 미래에 남기는 대가를 감수한 것이다.

5~10년 뒤 LLM 의존적인 vibecoder들이 유지보수 불가능하고 잘못 설계된 코드를 남기게 될 것이라는 전망은 명확하다. 그 시점에는 LLM 없이는 일을 진행하지 못하고, 기술 부채 더미가 너무 커져 LLM도 실패하면 심각한 상황에 도달하게 된다.

커뮤니케이션의 질적 저하

생성형 AI 사용자가 긴 이메일이나 문서를 더 빠르게 작성할 수 있다고 주장하지만, 그 방식은 조직 전체의 속도를 늦추는 이기적 사용에 가깝다. 두 줄이면 충분한 반대 의견을 LLM이 500단어로 부풀리면, 34명이 그 텍스트에서 실제 반대 이유를 추출하느라 수십 시간의 인적 자원이 낭비된다.

사람들은 서면 커뮤니케이션에 시간을 투자하지 않게 되고, 이메일은 길고 복잡해져 읽는 것 자체가 부담이 된다. LLM으로 생성된 긴 이메일을 다시 LLM에 요약시키는 흐름은, 양쪽에 프록시가 있는 네트워크 터널처럼 프록시 사이의 전송 인코딩이 저품질 텍스트가 되는 구조로 비유된다.

환경과 하드웨어 비용

생성형 AI의 추론 비용은 엄청난 전력을 소비한다. 데이터센터 열풍, GenAI로 인한 하드웨어 가격 상승, DRAM 가격 때문에 실제로 유용한 디지털 제품을 만들기 어려운 기업들의곤경, AI로 인한 실직, 저품질 생성기를 학습시키기 위해 가스 발전소를 짓는 환경 파괴등문제는 별도 논의 없이도 명백한 문제로 제시된다.

되돌릴 수 없는 변화

생성형 AI는 병에서 나온 지니처럼 되돌릴 수 없고, 앞으로 평생 함께하게 될 것이다. 인터넷은 생성형 AI 이전 상태로 돌아가지 않으며, 앞서 제시된 많은 문제는 AI 때문에 계속 악화될 것으로 전망된다.

반AI 정서가 계속 나빠지고 있다는 분위기가 이어지며, 인류가 버티고 모든 것이 망가지는 것을 막기를 바라는 태도로 연결된다. 결국 AI 기업과 대부분의 빅테크 AI 투자가 무너지고, 이 거대한 사회적·기술적 파괴 기계가 멈추기를 바라는 것이 저자의 결론이다.

결론: 균형 잡힌 시각

이 글에서 제시된 비판적 시각은 생성형 AI의 무조건적 수용에 대한 경고다. 모든 AI 기술을 전면 거부하자는 주장이 아니다. 유용하고 덜 해로운 응용에서 LLM이 역할을 할 수 있다는 점은 인정된다. 번역은 어느 정도 유용할 수 있지만, 섬세한 표현이 중요한 문학은 인간 번역이 더 적합할 수 있다.

중요한 것은 기술의 적용 범위와 한계를 인식하는 것이다. 일부 사람이 실용적으로 여길 주변적 속성이 있다는 이유만으로 유해한 기술을 무조건 수용해서는 안 된다. 우리 모두는 생성형 AI와 어떻게 공존할 것인지를 심각하게 생각해봐야 한다. 그것은 단순한 기술 선택의 문제가 아니라, 우리가 어떤 미래를 살 것인지를 결정하는 가치 판단의 문제이기 때문이다.

핵심 요약

• GenAI 비판은 생성형 모델에 한정되며, 유용한 기계학습 전체를 거부하는 것이 아니다.

• 데이터 약탈 구조, 허위정보 증폭, 교육과 비판적 사고의 감소가 주요 문제로 제시된다.

• 프로그래밍 분야의 vibecoding 문화는 장기적 기술 부채를 초래한다.

• 커뮤니케이션의 질적 저하와 환경 비용도 간과할 수 없는 문제다.

• 균형 잡힌 시각으로 AI 기술의 적용 범위와 한계를 인식하는 것이 중요하다.

---

📚 출처

• https://news.hada.io/topic?id=30023