“양심상 수용 불가” 앤트로픽 CEO 공개 성명···AI 군사 활용 놓고 美 국방부와 전면 갈등

아모데이는 26일 공식 성명을 통해 앤트로픽이 그동안 미 국방부와 정보기관에 AI 모델을 적극 제공해왔다고 강조했다. 그에 따르면 앤트로픽은 최첨단 AI 개발 기업 중 최초로 자사 모델을 미국 정부의 기밀 네트워크에 배치했으며, 국립연구소(National Laboratories)에도 처음으로 도입했다. 또한 국가안보 고객을 위한 맞춤형 모델을 제공해왔다. 현재 자사 AI 모델 ‘클로드(Claude)’는 국방부와 정보기관 전반에 걸쳐 정보 분석, 모델링 및 시뮬레이션, 작전 기획, 사이버 작전 등 핵심 임무 분야에 광범위하게 활용되고 있다는 설명이다.

아모데이는 앤트로픽이 미국의 AI 우위를 지키기 위해 수억 달러의 매출을 포기하면서까지 중국 공산당(CCP) 연계 기업의 클로드 사용을 차단하고, CCP가 후원한 사이버 공격을 막았으며, 반도체 수출 통제를 지지해왔다고 밝혔다.

앤트로픽은 두 가지 활용 분야에 대해서는 명확히 반대 입장을 고수하고 있다. 첫째는 대규모 국내 감시다. 아모데이 CEO는 합법적인 해외 정보 및 방첩 임무에 AI를 활용하는 것은 지지하지만, 미국 자국민을 대상으로 한 대규모 감시는 민주주의 가치와 양립할 수 없다고 밝혔다. 특히 현재 법 체계가 AI의 급격한 발전을 충분히 반영하지 못하고 있어, 공개적으로 구매 가능한 이동 기록, 웹 활동, 사회적 관계 데이터 등을 AI로 통합 분석할 경우 개인의 삶을 전방위적으로 파악하는 것이 가능해진다는 점을 우려했다.

둘째는 완전 자율 무기다. 우크라이나에서 사용되는 ‘부분적’ 자율 무기는 민주주의 방어에 필수적이라고 인정하면서도, 현재의 최첨단 AI 시스템은 완전 자율 무기를 구동할 만큼 충분한 신뢰성을 갖추지 못했다고 판단했다. 인간의 개입 없이 표적을 선정하고 교전까지 수행하는 완전 자율 무기에는 아직 기술적 한계가 있다는 설명이다. 이러한 시스템이 적절한 통제 장치 없이 운용될 경우 군인과 민간인을 위험에 빠뜨릴 수 있으며, 전문 군인이 발휘하는 판단력을 대체하기 어렵다고 지적했다. 아모데이는 국방부에 신뢰성 향상을 위한 공동 연구개발(R&D)을 제안했으나, 국방부가 이를 수용하지 않았다고 전했다.

성명에 따르면 국방부는 ‘모든 합법적 용도’에 동의하고 상기 안전장치를 제거하는 AI 기업과만 계약하겠다는 방침을 밝혔다. 나아가 앤트로픽이 안전장치를 유지할 경우 시스템에서 퇴출하겠다고 경고하고, ‘공급망 리스크’로 지정하거나 국방물자생산법(Defense Production Act)을 발동해 안전장치 제거를 강제하겠다고 위협한 것으로 알려졌다.

아모데이는 “이러한 위협이 앤트로픽의 입장을 바꾸지는 않는다. 양심상 국방부의 요구를 수용할 수 없다”고 밝히면서도, 국방부가 재고해주기를 희망한다고 덧붙였다. 만약 앤트로픽이 퇴출될 경우에는 진행 중인 군사 작전에 차질이 없도록 다른 공급업체로의 원활한 전환을 지원하겠다는 뜻도 밝혔다.
jihyun.lee@foundryco.com