“AI가 스스로 움직이는 랜섬웨어 곧 등장할 것” 보안 전문가 경고

최근 AI를 활용해 처음부터 끝까지 자율적으로 랜섬웨어 공격을 설계 및 실행할 수 있는 개념 증명(proof of concept, PoC)이 공개돼 논란이 됐다. 하지만 전문가들은 준비된 CISO에게 심각한 위협이 되지 않을 것이라고 설명했다.

보안기술연구소(Institute for Security and Technology, IST)의 디지털 보안 디렉터 테일러 그로스만은 새로운 도구에 대한 방어책이 의외로 단순하다며, “철저하고 반복적인 기본 사이버 위생 실천”이라고 설명했다.

그로스만은 “앞으로의 흐름을 인지하는 것이 분명 도움이 되지만, 이미 해야 할 보안 과제가 매우 많다. 이런 방어 조치 상당수는 AI 기반 랜섬웨어 대응에도 효과적일 수 있다”라고 말했다.

그로스만은 설명한 새로운 도구란 최근 뉴욕대학교 보안 연구진이 발표한 논문에서 언급된 랜섬웨어 프로토타입을 의미한다. 뉴욕대 보안 연구진은 대규모 언어 모델(LLM)을 활용해 자체적으로 동작하는 랜섬웨어를 개발했다고 주장해 논란을 일으킨 바 있다.

뉴욕대 연구진은 논문에서 “기존 악성코드와 달리 이 프로토타입은 바이너리에 삽입된 자연어 프롬프트만 필요로 한다. LLM이 실행 시점에 악성 코드를 동적으로 합성해 실행 환경에 적응하는 폴리모픽 변종을 생성하며, 시스템은 인간 개입 없이 정찰, 페이로드 생성, 맞춤형 협박까지 폐쇄 루프 형태의 공격 캠페인을 수행한다”라고 밝혔다.

연구진은 차세대 악성코드를 ‘랜섬웨어 3.0(Ransomware 3.0)’이라고 명명했다.

보안업체 이셋(ESET)은 바이러스 검사 플랫폼 바이러스토탈(VirusTotal)에서 해당 연구 흔적을 확인하고 이를 “최초로 알려진 AI 기반 랜섬웨어”라고 규정했다. 이후 뉴욕대 연구 결과가 실제 공격이 아닌 개념 증명임을 해명했지만, 여러 IT 매체가 이를 실제 공격 사례로 오해해 보도하면서 논란이 확산됐다.

뉴욕대의 이번 연구는 충분히 예상된 결과였다. 이미 여러 보안업체가 위협 행위자가 악성코드 제작에 AI를 활용할 것이라고 경고해왔기 때문이다. 예를 들어 약 1년 전 IST는 AI의 사이버보안 활용에 따른 긍정적, 부정적 영향을 분석한 보고서를 발표했다. 이어 지난 6월 CSO는 북한 연계 해킹 조직이 실시간 영상통화에서 AI 생성 딥페이크를 활용했다고 보도했다. 또 지난달 앤트로픽(Anthropic)은 사람의 개입 없이 수행되는 생성형 AI 공격을 발견했다고 밝혔다.

그로스만은 IST에서 랜섬웨어 태스크포스(Ransomware Task Force)를 지원하는 역할을 맡고 있으며, 해당 태스크포스는 정보보안 전문가들을 위한 랜섬웨어 대응 지침을 제시해 왔다. 그로스만은 뉴욕대 개념 증명 연구를 위협적이라고 보는 대신 예상된 결과일 뿐이라고 평가했다.

그로스만은 현재까지 해당 기술이 대학 연구실 환경에서만 작동한다고 지적하면서도, 실제 위협 행위자가 활용할 수 있는 도구가 머지않아 등장할 것이라고 내다봤다. 그는 오히려 이런 도구가 기술적 전문성이 부족한 사람들까지 손쉽게 랜섬웨어 공격에 가담할 수 있게 만들 것이라는 점에 주목했다.

미국 기반 사이버보안·AI 전문가 조셉 스타인버그 역시 이번 연구 결과가 놀랍지 않다는 입장을 보였다.

스타인버그는 “뉴욕대 연구진이 개념 증명을 내놓긴 했지만, 실제로는 범죄자들이 먼저 이런 방식을 활용할 가능성도 있다. 이미 AI가 스캐닝, 악성코드 작성, 가치 있는 자원 식별 등 다양한 기능을 수행하는 사례를 확인했다. 따라서 누군가 AI를 통해 이런 기능을 자동화했어도 납득할 만하다”라고 말했다.

그로스만은 CISO들에게 인터넷 보안센터(Centre for Internet Security)와 미국 국립표준기술연구소(NIST)가 제시한 프레임워크에 따라 보안 통제를 꾸준히 이행할 것을 권장했다. 그러면서 “현재 시점에서 AI 기반 자율형 랜섬웨어 공격 도구가 기존 랜섬웨어 모델을 근본적으로 바꿀 가능성은 낮다”라고 설명했다.

그로스만은 “이번 뉴욕대 연구가 여러 측면에서 위협적으로 보일 수 있지만, 방어 차원에서 여전히 조직들이 우선시하지 않는 조치가 많다는 점을 상기할 좋은 기회”라며 “이미 활용 가능한 도구가 존재하는 만큼, 무엇을 할 수 있는지에 대한 인식 제고가 필요하다”고 말했다.
dl-ciokorea@foundryco.com