전력망·수도·통신망이 AI를 품는다…앤트로픽, 150개 인프라 기업에 글라스윙 문 열어

앤트로픽은 3일 AI 기반 취약점 탐지 프로그램인 ‘프로젝트 글래스윙(Project Glasswing)’에 150개 기업을 추가로 참여시킨다고 발표했다. 새롭게 참여하는 기업은 전력, 수도, 의료, 통신, 하드웨어 등 국가 핵심 인프라 분야를 중심으로 구성됐다.

분석가와 보안 업계는 이번 조치를 긍정적으로 평가했다. 취약점 탐지에 참여하는 기업이 많을수록 더 많은 보안 결함을 발견할 수 있기 때문이다. 다만 업계가 더 주목하는 문제는 현실적인 과제인 ‘병목 현상’이다.

프로젝트 글래스윙과 주요 AI 기업들이 추진하는 유사 프로젝트가 취약점 발견 건수를 현재보다 10배 이상 늘릴 경우, 공급업체들이 이를 적시에 분류하고 패치할 수 있을지가 새로운 과제로 떠오르고 있다. 공급업체들은 그동안 알려진 보안 취약점을 수정하는 데도 느린 대응으로 지적받아 왔다. 최근에는 마이크로소프트(MS)가 보안 연구원과 공개적으로 충돌하기도 했다. 해당 연구원은 MS의 대응이 지나치게 늦다고 판단해 취약점을 공개했다.

설령 공급업체들이 증가하는 취약점 처리 속도를 따라간다고 해도, 기업 보안관제센터(SOC)가 쏟아지는 패치를 모두 소화할 수 있을지는 또 다른 문제다. 또한 자동화 기술을 활용해 패치를 생성할 경우, 최고정보보호책임자(CISO)들이 이를 별도의 수동 검증 없이 배포할 만큼 신뢰할 수 있을지도 불확실하다. 일반적으로 CISO는 자동화 결과를 쉽게 신뢰하는 편이 아니다.

앤트로픽은 신규 참여 기업 발표 블로그를 통해 “참여 기업들의 공통점은 코드베이스가 공격받을 경우 치명적인 결과를 초래할 수 있다는 점”이라며 “대부분의 파트너는 대규모 공격이 발생할 경우 1억 명 이상의 사람에게 영향을 미칠 수 있으며, 이는 국가 안보와 국제 안보 모두에 중대한 파급효과를 가져올 것으로 보고 있다”고 설명했다.

이어 “이번 확장은 AI가 모든 소프트웨어를 더욱 안전하게 만들고, AI가 사이버보안의 핵심 전제를 어떻게 바꿀 수 있는지 업계가 대비하도록 지원하기 위한 장기 전략의 다음 단계”라고 밝혔다.

프로젝트 글래스윙은 지난 4월 7일 처음 공개됐다. 초기 참여 기업으로는 아마존웹서비스(AWS), 애플, 브로드컴(Broadcom), 시스코, 크라우드스트라이크, 구글, JP모건체이스, 리눅스 재단, 마이크로소프트(MS), 엔비디아, 팔로알토네트웍스가 참여했으며, 이후 옥타(Okta)도 참여 사실을 확인했다.

패치 개발 병목 현상

패치 병목 문제는 해결하기 쉽지 않은 과제다. 아무리 규모가 큰 공급업체라고 해도 보안 취약점을 수정하고 패치를 배포하는 데 투입할 수 있는 자원에는 현실적인 한계가 있기 때문이다.

AI 보안 기업 코니퍼스AI(Conifers.ai)의 CEO 톰 핀들링은 “가장 큰 문제는 적응력”이라며 “취약점이나 보안 약점이 발견되면 방어 조직은 공격자가 동일한 정보를 악용하기 전에 이를 검증하고 우선순위를 정한 뒤 수정해야 한다. 특히 검증 단계가 매우 중요하다”고 설명했다.

핀들링은 이어 “직접 해당 도구를 테스트해 본 결과 상당수의 오탐(False Positive)이 발견됐다”며 “이는 기업이 모든 탐지 결과를 즉시 조치해야 하는 사안으로 간주할 수 없다는 의미”라고 말했다.

그는 또한 “기업은 의미 있는 신호와 불필요한 노이즈를 신속하게 구분할 수 있어야 하며, 실제 문제를 중심으로 프로세스와 개발 워크플로, 패치 운영 체계를 조정해야 한다”고 강조했다.

핀들링은 “기업이 주목해야 할 가장 중요한 지표는 발견된 취약점 수 자체가 아니라 신뢰할 수 있는 문제가 확인된 이후 얼마나 빠르게 대응할 수 있는지일 수 있다”며 “일부 조직의 경우 이러한 대응 주기가 여전히 수개월에 달한다”고 설명했다.

이어 “이 대응 시간을 얼마나 단축하느냐에 따라 AI 기반 취약점 탐지가 실제로 보안 방어력을 향상시킬지, 아니면 보안 노이즈의 양과 속도만 증가시키는 결과로 이어질지가 결정될 것”이라고 분석했다.

해결이 아닌 대응의 문제

컨설팅 기업 액셀리전스(Acceligence)의 저스틴 그라이스 CEO는 프로젝트 글래스윙의 참여 기업 확대가 보안 취약점 문제가 줄어들고 있다는 사실보다, 그 문제가 어떻게 변화하고 있는지를 CISO들에게 보여주는 사례가 될 수 있다고 평가했다.

그라이스는 “사이버보안이 취약점 발견의 문제로 여겨져 왔다는 것은 잘 알려진 사실”이라며 “하지만 AI는 그동안의 진짜 문제가 취약점 발견이 아니라 대응과 해결(remediation)이었다는 점을 보여주고 있다”고 설명했다.

이어 “업계는 이미 취약점 검증, 우선순위 지정, 패치 개발, 테스트, 배포를 충분히 빠르게 수행하는 데 어려움을 겪고 있다”며 “보안팀이 취약점 탐지를 담당하고 IT 부서나 사업 부서가 실제 패치를 담당하는 구조라면 상황은 더욱 악화될 수 있다”고 말했다.

그라이스는 “AI가 인간보다 10배, 100배 빠르게 취약점을 찾아낼 수 있다면 병목 현상은 단순히 다음 단계로 이동할 뿐”이라며 “기업은 실제로 대응할 수 있는 수준을 훨씬 넘어서는 취약점을 인지하게 되는 난처한 상황에 직면할 수 있다”고 분석했다. 이어 “AI는 사이버보안을 가시성(Visibility)의 문제에서 실행(Execution)의 문제로 바꾸고 있다”고 진단했다.

또한 우려스러운 전망도 내놨다. 그라이스는 “AI는 기업을 더욱 안전하게 만드는 동시에 더 큰 부담을 안길 수도 있다”며 “기업은 전례 없이 높은 수준의 위험 가시성을 확보하게 되겠지만, 동시에 그 위험 규모가 실제로 얼마나 큰지도 확인하게 될 것”이라고 말했다.

자동화 신뢰 확보가 관건

IDC의 AI 보안 부문 연구 책임자인 그레이스 트리니다드는 기업이 직면한 병목 현상을 해결하기 위해서는 광범위한 자동화가 필요하다고 평가했다. 다만 사이버보안 담당자들의 신뢰 부족을 고려하면 공급업체들은 각 패치의 신뢰도를 수치화해 제시할 수 있는 엄격한 체계를 마련해야 한다고 강조했다.

트리니다드는 “패치에 신뢰도 점수를 함께 제공하는 것은 새로운 개념”이라며 “기업은 자사 환경에 영향을 미치는 취약점을 식별하고 우선순위를 정한 뒤 적절히 대응할 수 있어야 한다”고 설명했다.

이어 “우리는 아직 준비되지 않은 새로운 역량을 익히고 있다. 바로 자동화 기술을 어떻게 신뢰할 것인가의 문제”라며 “현재와 같은 속도로 움직여야 하는 상황에서는 신뢰가 깨지는 사례도 발생할 수 있다”고 말했다.

또한 “신뢰도 평가는 반드시 투명성을 기반으로 해야 한다”며 “사람에게 설명할 수 없을 정도로 복잡한 방식으로 신뢰도를 산정해서는 안 된다”고 강조했다.

트리니다드는 앤트로픽이 신규 참여 기업 150곳 모두가 프로젝트 접근 권한을 얻기 전에 보안 요건을 충족해야 한다고 밝힌 점도 언급했다.

하지만 그는 “어떤 보안 요건인지 아무도 알지 못한다”며 “이 같은 설명만으로는 신뢰를 높이기 어렵다”고 지적했다.

한 가지 대안으로는 보안 업체가 스스로를 평가하는 것이 아니라 신뢰할 수 있는 제3자 기관을 활용하는 방안이 제시된다.

기업용 소프트웨어 기업 워크데이(Workday)는 이미 유사한 접근법을 도입했다. 워크데이는 미터 ATLAS(MITRE ATLAS)와 같은 공개 표준을 활용하는 독립 검증 서비스를 통해 자사 플랫폼에서 운영되는 AI 에이전트의 보안성과 규정 준수 여부를 검증하고 있다. 현재는 보안 검증에 초점이 맞춰져 있지만, 향후 신뢰도 평가에도 같은 개념을 적용할 수 있을 것으로 보인다.

참여 기업 확대가 불러온 보안 우려

프리랜서 기술 분석가 카미 레비는 프로젝트 글래스윙이 참여 기업 150곳을 추가로 확대하는 것이 궁극적으로 얼마나 효과를 낼 수 있을지에 대해 보다 회의적인 시각을 보였다.

레비는 “프로젝트 글래스윙의 핵심 목적은 앤트로픽이 엄격한 검증을 거친 소수의 공급업체와 긴밀히 협력해 기존 보안 기술과 프로토콜로는 대응하기 어려운 새로운 유형의 대규모언어모델(LLM) 보안 위협에 대한 방어 체계를 구축하는 데 있었다”고 설명했다.

이어 “참여 대상을 수백 개 기업으로 확대하면 더 많은 전문가의 지식을 활용해 방어 체계를 강화할 수 있다는 장점이 있다”면서도 “동시에 정보 유출 가능성에 대한 상당한 우려도 함께 커진다”고 지적했다.

특히 “이는 이미 동일한 모델과 관련해 두 차례의 정보 유출 사례를 보고한 기업에서 나온 결정”이라고 언급했다.

레비는 “이상적인 상황이라면 앤트로픽은 이번 대규모 확장 발표와 함께 코드가 잘못된 사람의 손에 넘어가지 않도록 내부 보안 프로토콜을 강화하는 별도의 계획도 공개했어야 한다”고 말했다.

이어 “훨씬 더 많은 연구자를 참여시키는 것은 잠재적 공격자들에게 공격 대상이 크게 늘어날 것이라는 신호를 줄 수 있으며, 향후 보안 침해에 대한 우려를 해소하지도 못한다”고 분석했다.
dl-ciokorea@foundryco.com