미토스급 AI ‘페이블 5’ 공개한 앤트로픽…편의보다 안전 선택한 이유는?

앤트로픽(Anthropic)이 기존에 제한적으로만 공개했던 미토스(Mythos) 아키텍처 기반의 강력한 AI 모델 2종을 선보였다. 일반 사용자에게 폭넓게 제공되는 클로드 페이블 5(Claude Fable 5)와, 사이버 보안 및 인프라 분야의 일부 파트너에게만 제공되는 클로드 미토스 5(Claude Mythos 5)다.

앤트로픽은 페이블 5를 지금까지 일반에 공개한 모델 가운데 가장 뛰어난 성능을 갖춘 모델이라고 소개했다. 소프트웨어 엔지니어링, 과학 연구, 비전 분석, 복잡한 지식 기반 업무 전반에서 기존 클로드 모델을 능가한다는 설명이다. 또한 작업이 길어지고 복잡해질수록 성능 우위가 더욱 커져, 사용자가 세부 지시나 지속적인 감독 없이도 더 큰 규모의 프로젝트를 AI에 맡길 수 있다고 밝혔다.

앤트로픽 제품 관리·연구·랩 부문 총괄인 다이앤 펜(Dianne Penn)은 기존에 기술 공개를 제한했던 위험 요소를 노출하지 않으면서도 미토스급 지능을 폭넓게 제공하는 것이 목표였다고 설명했다.

펜은 월스트리트저널과의 인터뷰에서 “우리는 이 수준의 지능을 일반 사용자에게도 안전한 방식으로 제공할 수 있기를 원했다”라고 밝혔다.

보호 장치, 예상보다 광범위할 수도

앤트로픽은 지난 4월 미토스를 공개하면서 취약점 탐지와 공격형 사이버 보안 분야에서의 강력한 역량이 잠재적 위험을 초래할 수 있다고 판단해 약 50개 기관으로 접근 대상을 제한했다. 불과 일주일 전에는 미토스 접근 권한을 150개 조직으로 확대한다고 발표한 바 있다.

현재 앤트로픽은 보다 광범위한 공개를 지원할 수 있을 만큼 강력한 보호 장치를 개발했다고 설명한다. 이 보호 체계는 사이버 보안, 생물학, 화학, 모델 증류(model distillation) 관련 질의 등 특정 범주의 요청을 감지하면 상대적으로 성능이 낮은 클로드 오퍼스 4.8(Claude Opus 4.8)으로 자동 전환하는 방식으로 작동한다.

앤트로픽에 따르면 이러한 전환은 전체 세션의 5% 미만에서 발생한다. 즉, 대부분의 사용자는 일반적인 활용 과정에서 사실상 미토스급 모델 성능을 이용하게 된다는 의미다.

그러나 일부 보안 연구자에 따르면 초기 테스트 결과, 사이버 보안 관련 보호 장치가 예상보다 폭넓게 적용되고 있는 것으로 나타났다. 글로벌 사이버 보안 교육기관 SANS 인스티튜트의 최고 AI 책임자(CAIO)이자 연구 총괄인 롭 T. 리(Rob T. Lee)는 CIO.com 자매지 CSO와의 인터뷰에서 사고 대응, 위협 탐지, 기본적인 디지털 포렌식 업무 등 일상적인 보안 작업을 수행하는 과정에서도 요청이 자동으로 페이블 5에서 오퍼스 4.8로 전환됐다고 밝혔다.

이 같은 결과가 추가 검증에서도 확인된다면, 앤트로픽의 분류 시스템이 정상적 보안 활동과 악의적 활동을 구분하기보다 사이버 보안 관련 요청 전반을 폭넓게 식별하고 있음을 의미할 수 있다.

앤트로픽은 이러한 보호 체계를 의도적으로 보수적으로 설계했다고 설명했다. 정상적인 요청이 오퍼스 4.8로 전환되는 오탐(false positive)이 발생할 수 있지만, 시스템을 지속적으로 개선하는 과정에서 편의성보다 안전성을 우선시하기로 했다는 입장이다.

이번 발표에서 앤트로픽은 이러한 보호 장치가 필요한 이유에 대해서도 자세히 설명했다. 회사는 미토스급 AI 시스템이 악의적인 행위자에게 실질적인 지원을 제공할 수 있는 수준에 도달했다고 주장한다. 과거 AI가 주로 정보를 제공하는 역할에 머물렀다면, 최신 모델은 공격형 사이버 보안 활동을 포함한 복잡한 업무 프로세스의 일부를 직접 수행할 수 있을 정도로 발전했다는 설명이다.

이 같은 위험에 대응하기 위해 앤트로픽은 잠재적으로 위험한 요청을 식별하는 AI 기반 분류 시스템을 개발했다. 공격적 사이버 작전, 고급 생물학 연구, 화학 관련 위험, 또는 경쟁 모델 개발을 위한 역설계 시도가 감지되면 해당 요청은 오퍼스 4.8로 자동 전환된다.

앤트로픽은 광범위한 내부·외부 테스트를 진행한 결과, 보호 장치를 지속적으로 우회할 수 있는 효과적인 탈옥(jailbreak) 기법은 발견되지 않았다고 밝혔다.

코딩·분석·자율 업무 성능 향상 강조

앤트로픽은 이번 발표에서 특히 소프트웨어 엔지니어링 분야에서의 성능 향상을 강조했다.

예를 들어 결제 기업 스트라이프(Stripe)는 테스트 과정에서 페이블 5를 활용해 5,000만 줄 규모의 루비(Ruby) 코드 저장소 전체 마이그레이션 작업을 단 하루 만에 완료한 것으로 알려졌다. 스트라이프는 해당 작업을 수작업으로 수행했다면 두 달 이상의 엔지니어링 노력이 필요했을 것으로 추산했다.

앤트로픽은 또한 페이블 5가 단순히 소프트웨어의 작동 여부만 평가하는 것이 아니라 실제 운영 환경에서 요구되는 품질 기준 충족 여부까지 측정하는 코딩 평가에서 최고 수준의 성능을 기록했다고 밝혔다.

이와 함께 금융 분석, 문서 추론, 차트 해석, 비전 분야에서도 성능 향상이 있었다고 설명했다. 앤트로픽에 따르면 페이블 5는 복잡한 과학 도표에서 정보를 정확하게 추출할 수 있으며, 스크린샷만으로 웹 애플리케이션의 소스 코드를 복원하는 등 고도화된 시각 추론 작업도 수행할 수 있다.

사이버 방어 조직에 접근 확대

앤트로픽은 일부 사용자에게는 클로드 미토스 5도 제공할 예정이다.

미토스 5는 기본적으로 페이블 5와 동일한 모델이지만 일부 보호 장치가 제거된 버전이다. ‘프로젝트 글래스윙’을 통해 사이버 보안 조직과 핵심 인프라 운영 기관은 사이버 보안 관련 제한이 해제된 버전에 접근할 수 있게 된다. 앤트로픽은 미국 정부와 협력해 구축한 신뢰 기반 접근 프로그램을 통해 향후 접근 대상을 단계적으로 확대할 계획이라고 밝혔다.

회사는 미토스 5가 현재 공개된 AI 모델 가운데 가장 강력한 사이버 보안 역량을 갖추고 있다고 평가했다. 앤트로픽은 그동안 미토스급 시스템이 소프트웨어 취약점 탐지, 익스플로잇 개발 지원, 복잡한 다단계 사이버 보안 업무 수행 능력을 보유하고 있다고 강조해 왔다.

하지만 바로 이러한 역량 때문에 이전 버전의 접근을 제한할 수밖에 없었다는 점도 함께 언급했다.

이번 조치는 AI 업계 전반에서 나타나고 있는 흐름을 보여준다. AI 기업들은 점점 더 강력해지는 모델을 상용화하는 동시에 가장 위험한 기능이 무분별하게 확산되지 않도록 하는 방안을 모색하고 있다. 방어 조직과 연구자, 기업에는 상당한 이점을 제공하면서도 동시에 악용 가능성을 내포한 모델을 어떻게 배포할 것인지가 업계의 주요 과제로 떠오르고 있다.

“AI가 보안 기본 원칙을 대체할 수는 없다”

보안 책임자들에게 이번 발표는 조직이 점점 더 강력해지는 AI 시스템에 얼마나 빠르게 적응할 수 있는지에 대한 중요한 질문을 던진다. 이제 과제는 첨단 AI 모델에 접근하는 것 자체가 아니라 이를 보안 운영에 통합해 실질적인 성과를 창출하는 데 있다.

보호 장치가 얼마나 적절하게 설계됐는지에 대한 문제 역시 개별 업무를 넘어선 의미를 갖는다. 조직이 이러한 모델을 실제 운영 환경에서 효과적으로 활용할 수 있는지와 직결되기 때문이다.

시스코(Cisco)의 수석 부사장이자 최고 보안·신뢰 책임자인 앤서니 그리에코(Anthony Grieco)는 조직이 더 강력한 모델에 대한 접근뿐 아니라 이를 효과적으로 활용하면서도 견고한 보안 기본 원칙을 유지하는 데 집중해야 한다고 설명했다.

그리에코는 CSO에 보낸 성명에서 “최첨단 AI 개발 속도는 보안 환경을 실시간으로 변화시키고 있으며, 방어 조직은 상황이 정리될 때까지 기다릴 여유가 없다”라고 밝혔다.

이어 “클로드 미토스 5, 클로드 페이블 5, GPT-5.5-사이버 또는 앞으로 등장할 새로운 혁신 모델이 무엇이든 이제 과제는 첨단 AI에 대한 접근 자체가 아니다”라며 “조직이 적절한 통제 체계와 인프라, 에이전트 기반 운영 논리를 통해 AI를 실제 업무에 적용하고, 속도를 명확한 판단과 행동으로 전환하는 것이 중요하다”라고 설명했다.

다만 그리에코는 AI를 기본적인 보안 수칙의 대체재로 여겨서는 안 된다고 경고했다.

그는 “AI는 방어 조직의 역량 상한선을 높여줄 수 있지만, 그 성과가 실제 보호 효과로 이어질지는 결국 보안 복원력이 결정한다”라고 말했다.

또한 AI 모델이 소프트웨어 엔지니어링과 분석, 보안 운영을 가속화하더라도 조직은 패치 관리, 다중인증(MFA), 네트워크 세분화, 제로 트러스트 아키텍처와 같은 기본적인 보안 원칙을 지속적으로 실행해야 한다고 강조했다.
dl-ciokorea@foundryco.com