자동화&툴 리뷰

오픈소스 AI는 반드시 이겨야 한다 — 운영의 자유를 지키는 인프라

노동1호 2026. 6. 15. 05:01

오픈소스 AI는 반드시 이겨야 한다 — 운영의 자유를 지키는 인프라

2026년 6월, AI는 업무·교육·과학·소프트웨어·창작·공공 서비스·국가 역량을 떠받치는 문명적 인프라로 자리 잡았다. 그런데 이 인프라의 접근이 소수 폐쇄 기업의 조건과 가격에 묶이면 어떻게 될까. opensourceaimustwin.com 선언문이 던지는 질문이다.

opensource ai infrastructure freedom

운영의 자유가 곧 실존적 문제

AI 접근이 폐쇄형 API, 원격 플랫폼, 변하는 약관, 불투명한 조정에 의존하지 않아야 한다는 건 단순한 기술 주장이 아니다. 지능 시스템을 허가 없이 연구·구축·수리·배포·감사·조정·교육·보존·실행할 수 있어야 한다. 이 능력은 운영의 자유와 직결되며, 잃어버리면 소프트웨어 자유뿐 아니라 일상의 의사결정 주권도 같이 잃게 된다.

소수의 폐쇄형 프런티어 연구소와 플랫폼 기업이 모델을 통제하면 지능 인프라는 인지의 구독 경제가 된다. 미국은 지능 인프라를 실행·검사·수정·벤치마크·교육·보존하는 자유에서 뒤처지지 말아야 하며, 실용적 태도는 미국 역량과 글로벌 오픈 표준의 결합이어야 한다.

오픈소스 AI가 유지해야 할 조건

오픈소스 AI는 사용 가능하고 이해 가능하며 재현 가능해야 한다. 로컬 배포가 가능하고 경제적으로 지속 가능하며 커뮤니티가 거버넌스를 맡을 수 있어야 한다. 오늘의 지배적 연구소, 해외 연구소, 하드웨어 업체, 클라우드 플랫폼, 오픈 가중치 모델 제공자가 방향을 바꾸거나 사라져도 오픈소스 AI는 계속 작동해야 한다.

이 조건을 만족하는 모델은 이미 존재한다. OLMo는 OSI 검증 단계를 통과했고, Pythia도 OSI 오픈소스 AI 시스템 요건을 충족한다. Lucie-7B는 학습 데이터셋·데이터 준비 코드·모델 가중치를 모두 공개 라이선스로 공개한 초기 다국어 LLM이다. NVIDIA-Nemotron-3-Nano-30B-A3B는 오픈소스 코드와 학습 데이터셋 대부분을 제공하며, Olmo-3.1-32B-Think는 모든 학습 데이터가 Hugging Face에 공개되어 있다. 누구나 비슷한 모델을 재현하고, 어떤 데이터를 학습에 쓸지 정하거나 학습 레시피를 수정할 수 있다.

로컬 실행과 전력의 현실

opensource ai infrastructure freedom

"AI는 자원을 많이 먹는다"는 주장은 최전선 모델을 학습할 때나 수억 명이 동시에 쓸 때는 맞다. 하지만 로컬 AI에 그렇게 말하면 계산을 잘못한 셈이다. 실제로 유용한 가장 작은 로컬 코딩 에이전트는 Qwen3.6 27B이고, 전력 제한이 걸린 NVIDIA 카드에서 280~300W 정도로 무난히 돌아간다. 하루 코딩에 쓰는 전기는 데스크톱 게이밍 머신으로 게임을 몇 시간 하는 것보다 적다.

학습 비용은 더 크지만, 27B 규모 모델 몇 개 정도는 산업 문명 전체에서 반올림 오차에 가깝다. 추론 전력 사용량은 백열전구 3개보다 적고, 학습 전력은 대형 산업 시설 하나 수준이지만 거의 전부 재생에너지로 운영할 수 있다. 작은 모델에는 생각을 많이 외주 줄 수 없어서 AI는 쉬고 사람이 생각하는 시간이 더 많다는 점도 운영의 자유를 지지한다.

분산 학습과 추론의 가능성

지구상의 모든 GPU 총합이 일부 프런티어 연구소의 역량을 압도한다. 문제는 효율적 분산 활용이다. AI 전용 하드웨어는 소비자용 GPU보다 빠르고 전력 효율도 좋으며 연결성도 뛰어나다. 그럼에도 Pluralis Research, Prime Intellect, Nous Research 같은 회사들이 분산 학습 비전을 추구하며 실제로 규모 있는 학습에 성공했다. 가장 큰 모델들조차 현재 프런티어 모델보다 1,000배 적은 연산량으로 학습됐다.

Nous의 DisTrO는 그래디언트 정보를 10,000배 압축해 분산 학습이 가능함을 보여줬다. Petals는 180B 모델에서 최대 4 tok/s를 달성했다. Teale.com은 Mac, Windows, Linux, Android, iOS, 심지어 HarmonyOS에서도 완전 분산 추론을 구동한다. 오픈소스·오픈 가중치 모델은 계속 좋아질 것이고, 결국 스마트폰이나 안경 하드웨어에서도 mythos급이 돌아가는 시점이 온다.

저작권·데이터 공급망·법적 틀

저작권 침해는 LLM과 AI 회사가 나쁜 이유로 자주 거론되지만, 그 쟁점에 결집하면 곁길로 새는 일이다. 실제 우려의 핵심은 학습 데이터 정점에 도달한 뒤의 발전이며, 대중은 기술 대기업들이 받은 막대한 공공 자금과 세금으로 지불된 인프라에 대한 권리를 요구해야 한다. 모든 국가는 "Frontier lab"에 최신 모델을 제외한 모델들을 일정 시간이 지난 뒤 오픈소스로 공개하도록 강제하는 법적 틀을 갖춰야 한다. 공개 범위에는 가중치, 학습 데이터, 방법론이 포함되어야 한다.

운영자용 가드레일과 결론

한 주체가 AI를 무기화하지 못하게 하는 유일한 방법은 모두에게 접근권을 주는 것이다. 정책 공간에는 정부가 접근과 독점을 모두 규제하는 방식도 포함되며, 보편 기본 AI 같은 토큰 예산 배분 모델도 검토할 만하다. 다만 API 운영에는 안전 통제가 따라야 한다. AGI 도달 가능성이 크든 작든, 인류 전체의 이익을 위해 폐쇄형 프런티어 독점은 막아야 한다. 2026년 6월 기준으로 오픈소스 AI는 단순한 라이선스 선택이 아니라 운영의 자유를 지키는 인프라 선택이다.