AI 개발 생태계에 보안 ‘주의보’···아마존 Q 확장 도구에 악성코드 삽입

한 해커가 아마존의 AI 코딩도구 ‘Q’를 사용하는 비주얼스튜디오 코드(Visual Studio Code, 이하 VS 코드)  확장 프로그램에 시스템 파괴 명령어를 삽입했고, 이 확장 프로그램은 공식 업데이트를 통해 사용자들에게 배포됐다고 복수의 외신이 전했다.

이 해커는 AI 에이전트가 파일 시스템과 클라우드 도구에 접근해 시스템 정리 프로그램처럼 작동하도록 지시하는 코드를 삽입했으며, 그 목표는 사용자 데이터와 클라우드 리소스를 삭제하는 것이었다. 사이버보안 전문 매체인 404미디어에 따르면, 침입을 감행한 해커는 “훨씬 더 큰 피해를 줄 수도 있었지만, 이번 공격은 아마존의 ‘AI 보안 쇼’에 대한 항의로 일부러 이 정도만 실행했다”FK고 주장했다.

공격 대상은 95만 건 이상 다운로드된 아마존 Q의 VS 코드 확장 프로그램이었다. 해커는 검증되지 않은 깃허브 계정을 통해 6월 말 풀 리퀘스트를 제출했고, 이후 관리자 권한을 획득한 것으로 알려졌다. 7월 13일 저장소에 악성 코드를 삽입했고, 아마존은 이를 인지하지 못한 채 7월 17일 버전 1.84.0을 배포했다.

AWS 대변인은 “AWS SDK for .NET과 AWS 툴킷 for VS 코드의 오픈소스 저장소에서 알려진 문제를 악용하려는 시도를 신속히 차단했으며, 고객 리소스에는 영향이 없었다”라고 설명했다. 이어 “두 저장소의 문제는 완전히 해결됐으며, 고객은 추가 예방 차원에서 최신 빌드인 1.85 버전을 사용하면 된다”라고 밝혔다.

AI 코딩 도구의 악용

이번 사건은 생성형 AI 도구의 보안성과 이를 개발 환경에 통합하는 과정에서의 위험성에 대한 우려를 다시 부각시켰다. 사이버보안 전문가 수닐 바르키는 “이번 해킹이 관련 위험성을 강조하려는 의도였을 수 있지만, 본질적으로는 강력한 AI 도구가 보호 장치나 모니터링, 거버넌스 체계 없이 악의적 행위자에게 악용될 수 있다는 AI 생태계의 심각하고 증가하는 위협을 드러낸다”라고 설명했다. 그는 “코드 도우미처럼 AI 시스템이 침해되면, 공격자는 소프트웨어 공급망에 악성 코드를 삽입할 수 있고, 사용자는 자신도 모르게 보안 취약점이나 백도어를 전달받게 된다”라고 지적했다.

IDC 아시아태평양 사이버보안 서비스 부문 수석 연구원 삭시 그로버는 “특히 보안 거버넌스가 부족한 상태에서 오픈소스 코드가 엔터프라이즈급 AI 개발 도구에 통합될 경우, 그 위험성은 더욱 커진다”라고 분석했다. 이어 “이번 사례에서는 공격자가 깃허브 워크플로를 악용해 악성 시스템 프롬프트를 삽입했고, 이로 인해 AI 에이전트의 런타임 행동이 사실상 재정의됐다”고 설명했다.

압박받는 데브섹옵스 체계

이번 사건은 소프트웨어 공급 파이프라인 전반의 보안 실패, 특히 프로덕션 단계에서 코드 검증과 감시에 대한 허술함을 여실히 보여줬다고 전문가들은 분석했다.

기업 보안팀 입장에서는 모델 드리프트(model drift), 프롬프트 인젝션(prompt injection), 의미 조작(semantic manipulation) 등 AI 특화 위험 요소를 다루기 위해 데브섹옵(DevSecOps) 실천 방안에 AI 기반 위협 모델링을 통합할 필요성이 커졌다는 지적이다.

IDC의 삭시 그로버는 “기업은 해시 기반 검증이 적용된 불변 릴리즈 파이프라인을 도입하고, CI/CD 워크플로에 이상 탐지 메커니즘을 통합해 비인가 변경 사항을 조기에 포착해야 한다”라며 “예방적 제거 조치라 하더라도 개발자 커뮤니티와의 신뢰를 위해 투명하고 신속한 사고 대응 체계를 갖추는 것이 필수”라고 강조했다. 그는 특히 “AI 에이전트가 시스템 수준의 자율성을 갖고 동작하는 사례가 늘고 있는 만큼, 이러한 대응 전략은 더욱 중요하다”라고 조언했다.

더 나아가 이번 보안 침해는 주요 클라우드 사업자조차 AI 개발 도구에 있어 데브섹옵스 성숙도가 아직 부족하다는 사실을 드러냈다.

컨설팅 기업 콘피디스(Confidis)의 설립자 겸 CEO인 키스 프라부는 “AI 도입 속도가 너무 빨라 데브섹옵스가 이를 따라잡기 힘든 상황”이라며 “아마존의 대응에서 얻을 수 있는 핵심 교훈은 보안 침해를 조기에 식별하고 관련 이해관계자와 신속히 소통할 수 있도록 거버넌스와 검토 체계를 구축하는 것”이라고 설명했다.

사이버미디어리서치(CyberMedia Research) 산업연구 부문 부사장 프라부 람은 “조직은 엄격한 코드 리뷰 절차, 도구 행위에 대한 지속적인 모니터링, 최소 권한 원칙의 철저한 적용, 공급업체의 투명성 책임 부여 등을 통해 방어 체계를 강화해야 한다”라고 말했다. 이어 “이런 조치들은 복잡한 소프트웨어 공급망 보안과 전 생애주기 개발 보안 확보라는 지속적 과제를 해결하는 데 핵심적인 역할을 한다”며 “궁극적으로 데브섹옵스 성숙도를 높이고 다층 방어 체계를 마련하는 것이 오늘날 진화하는 위협 환경에 효과적으로 대응하는 데 필수”라고 분석했다.
dl-ciokorea@foundryco.com