Anthropic의 Defending Code Reference Harness - AI 자율 취약점 분석 프레임워크 가이드

Anthropic Defending Code Reference Harness - AI 자율 취약점 분석 프레임워크

Anthropic의 Defending Code Reference Harness - AI 자율 취약점 분석 프레임워크 가이드

Anthropic이 최근 깃허브에 공개한 "Defending Code Reference Harness"는 자사의 클로드(Claude)를 활용해 소프트웨어 취약점을 자율적으로 탐지하고 수정하도록 설계된 레퍼런스 구현체입니다. 단순한 코드 분석 도구가 아니라 여러 보안 팀과 협업하며 얻은 운영 노하우를 체계화한 프레임워크라는 점에서 업계의 주목을 받고 있습니다. 이 글에서는 이 프로젝트가 무엇인지, 어떤 구조로 동작하는지, 그리고 일반 개발자가 어떻게 활용할 수 있는지 정리합니다.

등장 배경과 프로젝트 성격

전통적인 보안 감사는 비용이 높고 주기가 길어 최신 코드 변경에 뒤처지기 쉽습니다. 클로드 코드(Claude Code)가 출시된 이후 보안 엔지니어들은 대규모 언어 모델이 정밀한 프로그래밍 언어 텍스트와 알려진 보안 패턴을 매칭하는 작업에서 강점을 보인다는 사실을 깨달았습니다. Anthropic은 이러한 현장의 학습을 모아 레퍼런스 형태로 공개하기로 했습니다.

중요한 점은 이 저장소가 제품이 아니라 레퍼런스 구현이라는 사실입니다. 현재는 유지보수되지 않으며 외부 기여도 받지 않습니다. Anthropic은 대신 관리형 대안으로 클로드 시큐리티(Claude Security)를 제공하며, 이 상용 서비스는 여러 프로젝트의 소스 코드에서 취약점을 찾고, 분류하고, 수정안을 만들고, 검증하는 전 과정을 운영합니다. 공개된 하네스는 그 운영 방식의 골격을 학습용으로 노출한 형태라 볼 수 있습니다.

핵심 구성 요소

이 프레임워크는 크게 두 가지 영역으로 나뉩니다.

1. 클로드 코드용 스킬(skills)

대화형으로 취약점 분석을 수행할 수 있도록 다음 6개의 스킬이 제공됩니다.

• /quickstart - 대상 코드베이스의 기본 점검 절차 안내

• /threat-model - 자산과 위협 표면 정의

• /vuln-scan - 정적 스캔을 통한 후보 취약점 추출

• /triage - 후보 목록 중 실제 위험이 큰 항목 분류

• /patch - 정적 분석 결과에 대한 패치 초안 작성

• /customize - 다른 언어, 다른 탐지기에 맞게 포팅

이 스킬들은 기본적으로 파일 읽기와 쓰기만 수행하므로 사용자가 클로드 코드에서 각 도구 사용을 검토하고 승인하면 샌드박스 없이도 실행할 수 있습니다.

2. 자율 참조 파이프라인 (harness/)

harness 디렉터리는 실제 자율 실행을 위한 파이프라인입니다. 흐름은 다음과 같습니다.

recon -> find -> verify -> report -> patch

각 단계는 다음과 같이 작동합니다.

• 빌드와 recon: 대상 프로젝트의 구조와 빌드 방식을 파악합니다.

• find: 격리된 컨테이너에서 의도적으로 잘못된 입력(malformed input)을 생성하고, ASAN(주소 새니타이저)이 포함된 바이너리가 3회 연속 크래시할 때까지 탐색을 이어갑니다. 기본 레퍼런스는 C/C++ 메모리 취약점 탐색에 맞춰져 있습니다.

• verify: 별도의 채점 에이전트가 새로운 컨테이너에서 개념 증명(proof of concept)만 받아 크래시를 재현해 진짜 버그인지 확인합니다.

• dedupe: 새 버그인지, 기존 버그의 더 좋은 예시인지, 단순 중복인지를 판정합니다.

• report: 취약점 클래스와 도달 가능성, 권한 상승 경로, 심각도를 담은 구조화된 익스플로잇 가능성 분석을 작성합니다.

• patch: 수정안을 만든 뒤 빌드 성공, 원래 개념 증명 비크래시, 테스트 통과, 우회 가능성 재탐색을 차례로 검증합니다.

자율 파이프라인과 그 결과에 대한 /patch는 대상 코드를 실제로 실행하므로 명시적으로 우회하지 않는 한 gVisor 샌드박스 밖에서는 실행을 거부합니다. 스크립트 scripts/setup_sandbox.sh로 gVisor와 에이전트 이미지를 준비하고, Docker와 ANTHROPIC_API_KEY(또는 CLAUDE_CODE_OAUTH_TOKEN) 환경 변수가 필요합니다.

권장 사용 흐름

Anthropic이 제안한 5일 도입 플랜은 다음과 같습니다.

• 1일차: 위협 모델 작성 + 정적 스캔으로 후보 패치 생성

• 2일차: C/C++ 라이브러리에서 실행 검증이 끝난 findings 확보

• 3~5일차: 자기 서비스용 targets/<your-service>/ 디렉터리를 자체 포팅

자체 스택에 포팅할 때는 어떤 신호가 finding인지, 개념 증명의 형태는 무엇인지, 빌드와 실행 방식은 어떻게 정의할지를 먼저 명확히 해야 합니다. C/C++ 참조는 ASAN 크래시 시그니처, 크래시 입력 파일, clang+ASAN 기반 Dockerfile을 기준으로 삼습니다. 이 일반 구조, 프롬프트, 샌드박싱 방식은 재사용할 수 있지만 모든 코드베이스에서 그대로 동작하지는 않으므로 /customize로 언어와 탐지기에 맞게 조정하는 것이 핵심입니다.

비용과 운영 고려사항

공개된 정보에 따르면 에이전트당 분당 캐시되지 않은 입력 토큰 약 1만, 출력 토큰 약 2천을 예상해야 합니다. 계정의 ITPM 한도까지 병렬성을 키울 수 있으며, 대략 10만 ITPM당 에이전트 10개 수준입니다. 코드를 작성하는 것보다 코드를 안전하게 만드는 데 더 많은 토큰이 필요하다는 업계 관측이 있으며, 보안 감사를 정규 보안 계약의 약 10분의 1 비용으로 수행할 수 있다는 분석도 있습니다. 다만 오탐이 적지 않으므로 최종 결정에는 여전히 보안 전문가의 검토가 필요합니다.

한계와 주의점

자율 분류(triage)와 패치는 여전히 열린 문제입니다. /patch의 검증 전략이 기준을 끌어올렸지만, 심각도와 우선순위는 환경별로 다르게 판단해야 하며 검증된 패치가 항상 업스트림에 즉시 반영될 수 있는 것은 아닙니다. 또한 하네스가 아무 결과도 반환하지 않았다고 해서 "버그가 없다"고 단정할 수 없으므로, 도구의 한계를 이해하고 사람의 검토를 결합하는 운영이 필수입니다.

전망

Anthropic이 특정 활용 사례용 하네스를 지속적으로 만들고 제품화하고 있다는 점은 시사점이 큽니다. 단순히 모델의 원시 출력물을 판매하는 것이 아니라, 도구와 운영 노하우를 서비스로 묶어 제공하는 방향으로 이동하고 있다는 뜻입니다. 보안처럼 맥락 의존성이 강하고 검증 비용이 큰 영역일수록 이런 접근이 두드러질 전망이며, 개발자 입장에서는 공개된 레퍼런스를 자기 환경에 맞게 포팅하면서 학습할 가치가 충분합니다.

요약

Defending Code Reference Harness는 클로드로 자율 취약점 발견과 수정을 수행하기 위한 레퍼런스 구현입니다. 클로드 코드용 6개 스킬과 gVisor 기반의 자율 파이프라인을 제공하며, C/C++ 메모리 취약점 탐색에 기본을 두고 있습니다. 제품이 아닌 학습용 골격이므로 /customize로 자기 스택에 맞게 포팅하는 것이 핵심이며, 실제 운영에서는 전문가의 검토를 반드시 결합해야 합니다.

---

📚 출처

• https://news.hada.io/topic?id=30207