사이버보안 연구자들이 Anthropic의 Fable 가드레일에 불만을 표하고 있음 — 키워드 기반 차단의 현주소

도입 — 강력하지만 손이 많이 가는 보안 AI

앤트로픽이 화요일에 공개한 신규 모델 Fable은 강력한 사이버보안 모델 Mythos의 제한된 공개 버전입니다. 출시 직후 IBM X-Force의 Valentina "Chompie" Palmiotti를 비롯한 다수의 사이버보안 연구자와 전문가가 온라인에서 제약을 비판하기 시작했습니다. "Fable은 사이버보안과 조금이라도 관련될 수 있는 요청은 거부한다", "블로그 글 읽기 같은 무해한 작업조차 막힌다"는 지적이 쏟아진 것입니다. 본문은 가드레일의 작동 방식과 업계 반응, 그리고 우리가 배울 수 있는 시사점을 정리합니다.

Fable 가드레일의 작동 원리

Fable은 키워드 기반 가드레일을 채택하고 있습니다. 프롬프트에 "사이버보안" 어휘 범주에 속하는 단어가 감지되면 채팅이 즉시 중단되고 "사이버보안 또는 생물학 주제이기 때문에 안전 조치를 표시했다"는 안내가 출력됩니다. 가드레일에 막히면 자동으로 Claude Opus 4.8로 폴백되도록 설계되어 있어 사용자는 더 약한 모델로 응답을 받게 됩니다.

앤트로픽 측은 Fable이 멀웨어 개발이나 소프트웨어 침해에 악용될 위험을 제한하기 위한 조치라고 해명했습니다. 생물학 관련 제약도 생물무기 개발 우려에서 출발한 것입니다. 즉 악용 위험을 줄이기 위한 의도된 제약이지만, 그 경계가 너무 넓게 설정됐다는 비판을 받고 있습니다.

연구자들이 겪는 실제 불편 사례

사이버보안 베테랑 Matt Suiche는 "보안 코드 작성을 요청하면 Fable은 이를 소프트웨어 엔지니어링 모범 사례가 아닌 사이버보안 작업으로 간주해 등급을 낮춘다"고 말했습니다. 또 다른 연구자는 코드 리뷰 요청조차 Fable의 가드레일을 작동시킨다고 X에서 불평했습니다. Palmiotti의 사례는 더 극적인데, 그저 보안 블로그 글을 읽는 작업조차 거부당했다고 합니다.

질량분석기 소프트웨어를 만드는 연구자는 입력 파일 파서 리팩터링조차 거절당하는 경험을 공유했습니다. 스마트홈(Zigbee, Home Assistant) 로그 분석에서도 트리거가 발동해 Opus 4.8로 자동 다운그레이드됐다고 토로하는 사례도 있었습니다. 즉 "보안"이라는 단어 자체가 트리거가 되는 over-blocking 현상이 빈번합니다.

업계 시각 — 부족하게 잡는 게 낫다는 입장

Tolmo(AI 사이버보안 스타트업) 기술 스태프인 Suiche는 비교적 너그러운 입장입니다. "아직 초기 단계이며 가드레일을 조정 중인 만큼 이해할 만하다", "앤트로픽과 다른 프런티어 모델 기업들이 신세대 사이버보안 기업들과 더 협력하면서 가드레일이 시간이 지나며 발전할 것"이라는 전망입니다.

업계의 일반적 합의는 "부족하게 잡는 것보다 더 많이 잡는 편이 낫고, 이후 가드레일을 완화하는 것이 낫다"는 원칙입니다. 오픈 초기 모델의 보수적 운영은 일견 합리적이지만, 과도한 over-blocking은 사용자 신뢰를 갉아먹는 역효과를 만듭니다.

별도의 검증 프로그램 — Cyber Verification Program

모델 내부 가드레일 외에도 앤트로픽은 사이버보안 전문가에게 Cyber Verification Program 신청을 요구합니다. 승인되면 사이버보안 작업에 Claude를 사용할 때 제약이 줄어듭니다. OpenAI도 Trusted Access for Cyber라는 유사 프로그램을 운영하고 있어, 프런티어 모델 기업들은 공통적으로 신원 검증 기반의 우회 경로를 마련하고 있습니다.

다만 인증 절차의 진입 장벽과 승인 소요 시간이 실무 사용성을 떨어뜨린다는 점은 여전히 과제로 남아 있습니다. 연구자가 급한 보안 분석을 해야 할 때 인증 심사를 기다릴 여유가 없는 경우가 많기 때문입니다.

결론 — 가드레일 균형점 찾기가 핵심

이번 Fable 가드레일 논란은 강력한 보안 모델과 실사용성 사이의 균형점이 어디인지를 묻습니다. Fable은 광범위한 비판 여론을 받아 사과했습니다. 앤트로픽은 "안전장치를 보이도록 바꾸고 있다", "잘못된 절충이었다"고 말했습니다. 균형은 분명히 필요합니다. 다만 핵심 이슈는 여전합니다.

• 토큰 단위로 비싸게 과금하면서 더 약한 모델로 조용히 다운그레이드하는 행위*는 상용 서비스로 용납되기 어렵습니다. 사용자는 자신이 어떤 모델의 어떤 응답을 받는지 알 권리가 있습니다. over-blocking은 도구 가치를 훼손합니다. 도구 가치는 사용자 신뢰에서 나옵니다. 신뢰가 깨지면 도구도 무의미해집니다.

개발자 관점에서 얻을 수 있는 교훈은 명확합니다. AI 모델을 실무에 도입할 때는 가드레일 트리거 범위와 다운그레이드 정책을 사전에 테스트해야 합니다. 인증된 우회 경로가 있는지 확인해야 합니다. 정당한 사용 사례가 차단될 때의 에스컬레이션 절차가 있는지 검토해야 합니다. 강력하지만 손이 많이 가는 보안 AI는 결국 실사용성을 잃으면 무의미해집니다.