“단일 AI 모델=새로운 단일 장애 지점”…앤트로픽 접근 차단이 던진 경고

앤트로픽을 선택한 CIO들은 그동안 자사 AI 모델이 군사적 살상 체계(kill chain)나 대규모 감시 시스템에 자율적으로 활용되지 않도록 제한하는 윤리적 AI 공급업체와 협력하고 있다고 생각했다. 그러나 이제 이들 고객은 앤트로픽이 가장 강력한 AI 모델에 대한 접근 권한이 회사 측이 “근거가 빈약하다”고 주장하는 이유만으로도 미국 정부에 의해 차단될 수 있다는 사실을 마주하게 됐다.

앤트로픽은 지난 금요일 블로그를 통해 미국 정부가 자사 직원을 포함한 외국 국적자의 최상위 AI 모델 사용을 금지하도록 명령했다고 밝혔다.

앤트로픽은 “이번 명령의 결과로 규정을 준수하기 위해 모든 고객에 대해 페이블 5와 미토스 5를 즉시 비활성화해야 한다”라고 설명했다.

앤트로픽에 따르면 미국 정부는 국가안보 우려를 이유로 해당 모델에 대한 접근을 중단하는 수출통제 지침을 발령했다. 서비스 중단을 지시한 공문은 미국 동부시간 기준 금요일 오후 5시 21분에 전달됐으며, 구체적인 우려 사항은 명시되지 않았다고 회사 측은 밝혔다.

앤트로픽은 “정부는 페이블 5를 우회하거나 이른바 ‘탈옥(jailbreaking)’할 수 있는 방법이 발견됐다고 판단한 것으로 이해하고 있다”라며 “해당 기법 시연을 검토한 결과, 이미 알려져 있던 소수의 경미한 취약점을 확인하는 수준에 불과했다”라고 밝혔다.

탈옥

앤트로픽은 특정 코드베이스를 읽고 소프트웨어 취약점을 수정하도록 모델에 지시하는 방식의 제한적이고 보편적이지 않은 ‘탈옥(jailbreak)’ 기법이 존재할 수 있다는 통보를 받았다고 밝혔다.

회사는 “정부 지침의 근거가 된 것으로 보이는 보고서를 검토한 결과, 해당 사례에서 나타난 수준의 기능은 다른 AI 모델들에서도 널리 제공되고 있다는 점을 확인했다”라며 “오픈AI의 GPT-5.5를 포함한 여러 모델이 동일한 수준의 기능을 제공하고 있으며, 시스템을 보호하는 보안 담당자들이 매일 활용하는 기능이기도 하다”라고 설명했다.

이번 수출통제 조치의 취지는 기업과 정부가 의존하는 IT 시스템에 대한 국가 주권 차원의 통제 우려를 다시 부각시킨다. 그러나 명령의 구체적인 내용과 이에 대한 앤트로픽의 광범위한 대응은 신원 관리 측면에서 새로운 의문을 제기한다.

일반적으로 사용자의 국적 정보는 로그인 자격 증명과 연결되지 않는다. 설령 국적 정보가 등록돼 있더라도 계정에 접속한 이후 실제 키보드를 사용하는 사람이 어느 국적인지 확인하기는 사실상 어렵다.

컨설팅 기업 액세스 파트너십(Access Partnership)의 AI 총괄 매튜 맥더모트는 이번 결정이 유럽 CIO에게 경고 신호로 받아들여질 것이라고 분석했다.

맥더모트는 “핵심 업무를 미국의 최첨단 AI 모델에 의존한다는 것이 무엇을 의미하는지 보여주는 사례”라며 “이제는 모델의 정확성이나 보안성만 평가해서는 충분하지 않다. 어떤 정부가 어떤 조건에서 해당 서비스를 중단시킬 수 있는지도 함께 고려해야 한다”라고 지적했다.

이어 “핵심 업무 프로세스, 코드 지원 도구, 사이버 방어 시스템을 단일 미국 AI 모델에 직접 연결해 놓은 조직은 새로운 단일 장애 지점(single point of failure)을 발견한 셈”이라고 평가했다.

옴디아(Omdia)의 수석 애널리스트 릭 터너도 같은 견해를 나타냈다.

터너는 “유럽 조직의 관점에서 이번 사태는 AI 경쟁에서 유럽이 상대적으로 취약한 위치에 있다는 사실을 다시 한번 보여준다”라며 “현재 이용 가능한 최첨단 AI 모델의 대부분은 미국 기업이 소유한 폐쇄형 모델이거나 중국이 주도하는 오픈소스 모델”이라고 설명했다.

이어 “미국 정부가 필요하다고 판단하면 언제든 이들 모델에 대한 접근을 차단할 수 있다는 점을 보여준 만큼, AI 주권 확보의 필요성을 뒷받침하는 사례가 됐다”라고 분석했다.

관성

시장 분석 기업 PAC(Pierre Audoin Consultants)의 수석 애널리스트 토머스 로이너는 AI 서비스 시장이 아직 초기 단계임에도 불구하고 기업의 시스템 구매 결정에는 강한 관성이 존재하기 때문에 앤트로픽 고객들이 다른 공급업체로 이동할 가능성은 크지 않다고 전망했다.

로이너는 “이미 앤트로픽을 사용하고 있다면 다른 플랫폼으로 전환할 가능성은 매우 낮다”라며 “마이크로소프트 중심 환경으로 시작한 기업이 결국 마이크로소프트 중심 환경으로 남는 경우가 많은 것과 같은 이치”라고 설명했다.

영국 AI 보안 기업 QL 시큐리티(QL Security)의 매니징 디렉터 제이슨 할로웨이(Jason Holloway)는 이번 미국 정부의 조치가 오히려 앤트로픽 기술력에 대한 신뢰를 보여주는 신호로 해석될 수 있다고 평가했다.

할로웨이는 “이번 결정은 앤트로픽이 경쟁사보다 앞서 있다는 사실을 보여주는 사례인 만큼 회사에는 오히려 긍정적인 효과가 될 수 있다”라고 말했다.

그는 현재 앤트로픽 수준에 도달한 기업은 없다고 평가했다.

할로웨이는 “오픈AI도 자체 모델을 보유하고 있지만 아직 일반에 공개되지는 않았다”라며 “향후 공개될 경우 동일한 규제 대상이 될 가능성도 있다”라고 전망했다.

또한 이번 사태가 오래 지속되지는 않을 것으로 내다봤다.

할로웨이는 “며칠이 걸릴 수도 있고 몇 주가 걸릴 수도 있지만 결국 페이블과 미토스는 다시 제공될 것”이라고 예상했다.
dl-ciokorea@foundryco.com