시스코의 파운데이션 AI(Foundation AI) 팀이 AI 모델 허브 플랫폼인 허깅페이스와 손잡고 AI 생태계 전반의 보안을 강화하고 악성코드 대응 역량을 높이기 위한 협업에 나섰다.
시스코의 보안 및 AI 엔지니어링 부문 디렉터 하이럼 앤더슨과 파운데이션 AI팀의 AI 연구원 앨리 포다이스는 5일 시스코 공식 블로그를 통해 “이번 협력 확대의 일환으로, 시스코 파운데이션 AI는 허깅페이스에 업로드되는 모든 공개 파일을 대상으로 하는 통합 악성코드 탐지 플랫폼을 제공하게 된다. 여기에는 AI 모델 파일은 물론 기타 파일도 포함된다”며 “이는 최신 클램AV(ClamAV) 엔진 기반의 맞춤형 탐지 기능으로 구동된다”고 밝혔다.
시스코는 올해 4월 파운데이션 AI를 공식 출범시켰다. 이 조직은 로버스트 인텔리전스(Robust Intelligence) 인수 이후 시스코 보안 조직 내에서 신설된 팀으로, AI 공급망 보안을 위한 오픈소스 모델과 도구 개발에 주력하고 있다. 클램AV는 시스코 탈로스(Talos)가 만든 오픈소스 기반 악성코드 스캐너로, 이메일 게이트웨이, 파일 및 웹 서버를 겨냥한 악성코드, 트로이목마, 바이러스 등 다양한 위협을 탐지한다.
앤더슨과 포다이스는 “허깅페이스가 오픈소스 AI에서 중심적인 역할을 하고 있다는 점과, 시스코가 보유한 종합적인 악성코드 탐지 역량이 결합되면, AI 모델에 대한 보다 엄격한 검증, 취약점의 조기 탐지, 위협 정보 공유가 가능해진다”라며 “이를 통해 AI 생태계 전반의 신뢰와 보안을 한층 더 강화할 수 있다”라고 설명했다.
시스코에 따르면, 현재 허깅페이스는 평균 7초마다 새로운 AI 모델이 등록되며, 전 세계 개발자들이 사용할 수 있는 모델 수는 약 190만 개에 이른다. 이처럼 폭발적인 확장세는 혁신을 가속하는 한편, AI 공급망에 대한 보안 필요성도 함께 높이고 있다. 이들은 “AI 공급망 리스크는 이제 AI 라이프사이클 전반에 스며들고 있다”며 “취약한 소프트웨어 종속성과 악성 또는 백도어가 포함된 모델 파일, 오염되었거나 규정을 준수하지 않는 데이터셋까지, 문제의 복잡성이 커지면서 개별 기업이 단독으로 대응하기 어려운 상황”이라고 분석했다. 이어 “AI 생태계 보안을 효과적으로 확보하려면 커뮤니티 전반의 긴밀한 협력이 필수적”이라고 표현했다.
이번 협력을 통해 시스코 파운데이션 AI와 허깅페이스는 “AI 모델 악성코드 대응을 대중화한다”고 선언하며, 두 가지 주요 기능을 소개했다.
- AI 모델 내 악성코드 탐지 기능, 클램AV에서 제공 : 이 기능은 누구나 무료로 사용할 수 있도록 공개한다. 기존의 전통적인 악성코드 탐지 기능 외에도, 클램AV는 이제 .pt, .pkl 등 일반적인 모델 파일 포맷에서 역직렬화(deserialization) 리스크를 밀리초 단위로 탐지할 수 있다.
- 클램AV, 바이러스토털에서도 AI 모델 위험 탐지에 집중: 클램AV는 허깅페이스와 바이러스토털(VirusTotal) 양쪽 모두에서 악성 AI 모델을 탐지할 수 있는 유일한 안티바이러스 엔진이다. 바이러스토털은 업로드된 모델을 분석하는 인기 있는 위협 인텔리전스 플랫폼이다.
시스코–허깅페이스 간 이전 협력 사례
시스코 파운데이션 AI와 허깅페이스의 초기 협업은 AI 공급망 보안 분석 모델 ‘케르베로스(Cerberus)’ 개발로 이어졌다. 파운데이션 AI팀의 제품 매니저 네이선 창에 따르면, 케르베로스는 허깅페이스에 등록되는 AI 모델을 분석하고, 그 결과를 표준화된 위협 정보 피드로 제공해 시스코 보안 제품이 AI 공급망에 대한 접근 정책을 수립하고 적용할 수 있도록 지원한다.
창에 따르면, 케르베로스는 시스코의 시큐어 엔드포인트(Secure Endpoint)와 시큐어 이메일(Secure Email) 솔루션과도 연동돼 있다. 이를 통해 알려진 악성 파일을 읽기, 쓰기, 수정 과정에서 자동으로 차단하며, AI 공급망 보안과 관련된 악성 아티팩트가 포함된 이메일 첨부파일도 탐지·차단할 수 있다. 또한, 시스코 시큐어 액세스(Secure Access)의 웹 게이트웨이와 통합되어, 보안 위협이 있는 AI 모델의 다운로드를 차단하거나, 승인되지 않은 출처에서 제공되는 모델의 다운로드를 막는 기능도 제공한다.
앤더슨과 포다이스는 “시스코 시큐어 액세스 사용자들은 허깅페이스 저장소 접근을 제어하고, AI 모델 내 위협 요소에 대한 차단 정책을 구성할 수 있다”며 “라이선스 위험이 있는 모델이나 민감 조직 또는 정치적으로 민감한 지역에서 유래한 모델에 대해서는 컴플라이언스(규정 준수) 정책을 적용해 관리할 수 있다”고 설명했다.
시스코 파운데이션 AI
시스코가 파운데이션 AI를 처음 공개한 시점은 올해 4월이었다. 당시 시스코의 최고 제품 책임자(CPO) 지투 파텔은 이를 “사이버보안 조직의 혁신을 가속하기 위해 구성된 AI 및 보안 전문가 팀”이라고 소개했다. 그는 사이버보안에 특화된 업계 최초의 오픈 가중치 추론 모델 공개 사실도 함께 강조했다.
파텔은 공식 블로그에서 “파운데이션 AI 시큐리티 모델은 80억 개의 파라미터를 갖춘 오픈 가중치 기반 대형언어모델(LLM)로, 사이버보안을 염두에 두고 처음부터 설계된 모델”이라고 설명했다. 이어 “보안 전문가들이 일상적으로 접하는 언어, 논리, 업무 흐름 등을 반영한 정제된 데이터셋을 기반으로 사전 학습이 이뤄졌다”고 밝혔다.
그는 “고객은 이 모델을 자체 보안 AI 기반으로 활용하거나, 필요에 따라 자사 폐쇄형 모델과 통합해 사용할 수 있다”며 “이 추론 프레임워크는 모든 베이스 모델을 보안 특화 AI 추론 모델로 변환할 수 있게 해준다”고 전했다.
dl-ciokorea@foundryco.com
Read More from This Article: 시스코, 허깅페이스와 손잡고 AI 모델 악성코드 대응 나서
Source: News