자율 진화하는 AI 웜의 등장: 사이버 보안의 새로운 게임 체인저

자율 진화하는 AI 웜의 등장: 사이버 보안의 새로운 게임 체인저

최근 토론토 대학교, 벡터 연구소, 케임브리지 대학교의 연구진이 고정된 익스플로잇 목록에 의존하지 않고 스스로 판단하며 전파되는 자율형 AI 웜(Worm)의 개념 증명(PoC) 모델을 공개해 보안 커뮤니티에 큰 충격을 던졌습니다. 이 웜은 오픈웨이트 소형 언어모델(LLM)을 감염된 기기에서 직접 구동하여, 각 타깃을 실시간으로 분석하고 공격 전략을 스스로 수립합니다.

기존 악성코드와 무엇이 다른가

전통적인 웜은 공격자가 사전에 작성한 하드코딩된 취약점 리스트를 바탕으로 동작합니다. 반면 이 AI 웜은 다음과 같은 능력을 갖추고 있습니다.

• 자율 분석: 조우하는 타깃의 OS, 서비스, 설정을 즉시 파악

• 전략 추론: 어떤 취약점을 어떤 순서로 활용할지 자체적으로 결정

• 즉석 익스플로잇 생성: 런타임에 공개 보안 권고문을 읽고 작동 가능한 공격 코드 제작

• 자가 치유: IP 차단 목록이나 VM 탐지 버그 같은 문제를 스스로 발견하고 우회

특히 인상적인 점은 학습 데이터 컷오프(Cutoff) 이후에 공개된 신규 취약점(Copy Fail, Dirty Frag, Marimo RCE 등)까지 스스로 학습해 공격에 활용했다는 사실입니다.

실험 결과: 33개 호스트 중 62% 감염 성공

연구진은 Linux 서버, Windows 기기, IoT 장치를 혼합한 33개 호스트의 격리 테스트 네트워크에서 15회 독립 실험(각 7일)을 진행했습니다. 평균 결과는 다음과 같습니다.

지표	평균값
정확히 식별한 취약점	31.3개
권한 상승에 성공한 호스트	23.1개
전파에 성공한 호스트	20.4개 (62%)
개별 익스플로잇 성공률	44%

개별 시도 성공률은 44%에 그쳤지만, 웜의 군집(Swarm) 아키텍처가 병렬·독립적 추론 경로로 이를 보완해 전체 네트워크의 62%를 장악했습니다.

상용 AI 통제를 우회하는 분산 추론

이 프로토타입이 특히 위험한 이유는 감염 기기 안에서 모델이 직접 호스팅된다는 점입니다.

1. GPU 하이재킹: 감염된 하드웨어 중 GPU가 탑재된 장치를 탈취해 연산 자원으로 활용

2. 계층형 추론 라우팅: 저사양 IoT 기기는 상류 감염 GPU 노드로 추론 쿼리를 전달

3. 안전 가드레일 우회: 공격자가 로컬 실행 환경을 완전히 통제하면 오픈웨이트 모델의 안전장치도 무력화

상용 AI 플랫폼이 구축한 통제 메커니즘으로는 이 새로운 위협을 막을 수 없으며, 오픈웨이트 모델의 양면성이 다시 한번 부각됩니다.

현재 모델의 한계와 미래 전망

연구진은 이 PoC가 기반 모델의 한계를 그대로 반영한다고 솔직히 인정했습니다. 웹 애플리케이션 구조, Windows 명령 환경, 정밀한 문자열 조작이 필요한 페이로드 구문 처리에서 실패가 집중되었습니다. 다만 이는 단일 GPU 세대의 코드 생성 한계일 뿐, 향후 LLM의 구조화 출력 능력이 향상되면 이 접근법 자체는 더 강력해질 전망입니다.

실무자가 즉시 취해야 할 방어 전략

연구진이 제시한 두 가지 핵심 권고사항입니다.

1. AI 지원 모의 침투 및 퍼징 도구 도입

적대적 세력이 취약점을 찾기 전에 자체 인프라의 악용 가능한 약점을 발견하고 패치해야 합니다. AI 기반 자동화 모의 침투 도구는 더 이상 선택이 아닌 필수입니다.

2. 네트워크 마이크로 세그멘테이션

웜의 확산을 실질적으로 억제하려면 다음과 같은 설계가 필수입니다.

• 제로 트러스트(Zero-trust): 경계 내부의 그 어떤 것도 신뢰하지 않고 모든 접근 요청에 대해 지속적 인증 요구

• 마이크로 세그멘테이션(Micro-segmentation): 침투 성공 시 피해 확산 범위를 최소 단위로 제한

• 상시 모니터링: 웜의 행동 시그니처를 네트워크 모니터링과 침입 탐지 시스템(IDS)으로 실시간 포착

정책과 업계의 시급한 협력

연구진은 "자율적 사이버 공격이 이론적 위험에서 입증된 실존 능력으로 넘어왔다는 실증적 증거"라고 강조하며, 연구자·업계·정책 입안자·일반 대중이 힘을 모아야 한다고 촉구했습니다. 캐나다 과학·보안·국방 당국에는 이미 발견 사실이 공유되었고, 구체적인 운영 세부 사항은 공개 논문에서 제외되었습니다.

요약

자율형 AI 웜은 더 이상 공상과학이 아닙니다. 오픈웨이트 LLM의 보편화, GPU 연산 자원의 탈취, 자율 추론의 결합으로 기존 보안 패러다임의 근본적 재설계가 요구됩니다. 개발자와 보안 실무자라면 지금부터 AI 기반 공격 도구를 직접 활용해 자신의 인프라를 검증하고, 네트워크 분할과 지속적 인증을 통한 방어 체계를 강화해야 합니다.

---

📚 출처

• GeekNews: 케임브릿지 대학교의 연구진들은 네트워크 전반에 걸쳐 적응하는 AI 웜을 구축하였습니다.

• Help Net Security 원문

---

📚 출처

• https://news.hada.io/topic?id=30204