2026년 8월, AI 보안 업계 한 편에서 흥미로운 진단이 나왔다. "보안이 더 강해질수록 법 집행기관은 어두워진다(Going Dark)"는 오래된 명제는 이제 AI 취약점 탐지라는 새로운 변수와 함께 다시 쓰여야 한다는 것이다. 이 글은 그 진단의 핵심 주장과 개발자/보안 실무자가 읽어야 할 시사점을 정리한다.
1. Going Dark — 논쟁의 새 좌표
과거의 Going Dark 논쟁은 엔드투엔드 암호화(E2EE)를 둘러싼 FBI vs 애플(2016), FBI vs 애플(2020) 같은 쟁점으로 축이 잡혔다. 그런데 이번 진단은 초점을 옮긴다. AI 코드가 소프트웨어 자체의 취약점을 자동으로 찾아 패치하는 시대가 오면, 표적 해킹 도구(gray-key, Pegasus, NSO 클라이언트)에 의존해 온 수사 기관의 역량 자체가 위협받는다.
저자 Bruce Schneier 식의 표현을 빌리자면, "스마트폰 잠금화면을 우회하기 위해 GrayKey 한 대 사는 것보다, 소프트웨어 결함을 자동으로 찾는 편이 국가 안보에 더 큰 파급력을 갖는다." 즉, 해킹 도구의 단가와 신뢰성이 동시에 떨어지는 구간이 온다는 뜻이다.
2. AI 취약점 탐지가 가져오는 양면성
긱뉴스 토론에서 반복적으로 등장한 두 측면은 다음과 같다.
- 방어자의 이득: 오픈소스 라이브러리, 펌웨어, 커널 CVE가 자동으로 추적되고 패치 제안까지 연결된다. 과거 수개월 걸리던
log4j,openssl급 사건의 탐지-패치 주기가 며칠 단위로 줄어든다. - 공격자의 이득: 동일한 AI 에이전트가 취약점 사일런트(0-day) 탐지에 쓰이면, 사례가 나가기도 전에 표적 기관만 그 사실을 알게 된다.
GrayKey류의 법 집행용 추출 도구는 점점 가격이 비싸지고 미국 DHS 일부 예산 회의에서도 거론된다. - 법 집행의 비대칭: 상대적으로 인력과 예산이 작은 수사국은 AI 자동 해킹 도구를 사들일 여력이 없다. 결국 수사 역량은 소수의 기술 선진국에 집중된다.
3. 코드 측면 — 어떤 형태의 자동화가 가능한가
개발자 입장에서는 두 가지 자동화가 즉시 와닿는다. 첫째, fuzz 결합 AI로 메모리 안전 버그를 사전에 잡아내는 패턴이고, 둘째, 위협 인텔리전스 피드를 단일 노트북에서 LLM으로 요약해 트리거를 만드는 패턴이다. 단순한 예시는 다음과 같다.
import requests, json, time, pathlib
FEEDS = [
"https://cveawg.mitre.org/api/cve/CVE-2026-XXXX",
"https://nvd.nist.gov/rest/json/cves/2.0?lastModStartDate=2026-08-01T00:00:00.000",
]
def fetch_feed(url: str) -> dict:
r = requests.get(url, timeout=10, headers={"User-Agent": "ai-triage/0.1"})
r.raise_for_status()
return r.json()
def summarize(blob: dict) -> str:
# 본문에서는 자리만 잡고, 실제 LLM 호출은 운영 단계에서 주입한다.
return blob.get("description", {}).get("description", [{}])[0].get("value", "")[:280]
def main() -> None:
out = [summarize(fetch_feed(u)) for u in FEEDS]
pathlib.Path("triage.md").write_text("\n\n".join(out), encoding="utf-8")
if __name__ == "__main__":
main()이 패턴은 ① 위협 피드 수집 → ② LLM 요약 → ③ 사람이 결정 의 3단 구조다. 자동화는 ①·②까지만 담당하고 ③을 사람이 계속 가져야 한다는 점이 355차 디자인 시스템 글에서 강조한 "자동화 + 사람의 결정" 균형과 같다.
4. 실무자가 챙겨야 할 신호 3가지
- 소프트웨어 의존성更新时间: npm/pip/cargo 의존성에서
patch레벨自動更新 비율이 떨어졌다면, 사일런트 0-day 노출 가능성이 커진 신호다. - 법執行기관 툴 가격 추이: Cellebrite/GrayKey 단가가 오르면, 그 차이는 곧 "다른 방법"으로 메꾼다는 의미다. 다른 방법은 보통 AI 기반 fuzz/심볼릭 실행의 형태로 나타난다.
- 정책 프레임의 이동: 미국은 2026년 7월 Safeguards Rule 보강안을, 영국은 Investigatory Powers Act 해석을 손봤다. 둘 다 "AI로 암호가 약해질 때, 어떤 절차가 필요한가"에 대한 답을 강구하는 단계다.
5. 시사점 — 개발자가 가져갈 한 가지
AI가 취약점을 자동으로 찾는 세상에서, 개발자의 가치는 더 빨라진 탐지 자체가 아니라 "탐지 결과를 어떤 우선순위로 적용할지"에 있다. 큐 대신 자동 분류기를 도입하고, 사람이 결정하는 노드를 명시적으로 코드에 남기는 설계가, Going Dark와 표적 해킹의 균형점을 잡는 가장 현실적인 방법이다.
6. 요약
- Going Dark는 더 이상 E2EE만의 주제가 아니라 AI 자동 취약점 탐지라는 새 축과 결합된다.
- GrayKey/Pegasus 같은 표적 툴의 단가와 신뢰성이 동시에 떨어지면서, 국가별 수사 역량 비대칭이 커진다.
- 실무자는 의존성 패치 속도, 툴 가격 추이, 정책 프레임 이동의 3개 신호를 함께 본다.
- 자동화는 큐·요약까지만 담당하게 하고, 사람의 결정 노드를 명시적으로 남긴다.
