칼럼 | 사람 해커의 시대 지났다···AI 사이버 공격의 종류와 대응책

AI 전면전

수년 동안 사이버 보안은 불균형한 싸움이었다. 공격자는 고도의 기술과 끈기를 바탕으로 긴 시간 정찰을 수행해야 했지만, 방어자는 방화벽과 안티바이러스, 정기적인 패치 등 ‘정적인 성벽’을 쌓는 것만으로도 충분했다.

하지만 지금은 다르다.

기업이 AI를 활용해 업무 효율을 높이고 보안 역량을 강화하는 동안, 공격자 역시 같은 기술로 더 빠르고 정교하며 탐지하기 어려운 공격을 실행하고 있다. 과거에는 공격자가 방어자보다 며칠 정도 앞서 움직이는 수준이었지만, 이제는 그 속도가 눈에 띄게 빨라져 위협을 탐지하고 대응할 수 있는 시간이 거의 사라지고 있다. 기업은 이제 사람 해커가 아니라, 자율적으로 움직이는 AI 기반 공격자와 맞서고 있다.

AI에 기반한 새로운 위협 환경 3가지와 함께, 기존의 정적 방어 체계가 더 이상 유효하지 않은 이유를 소개한다.

위협 1. 초개인화된 피싱과 사회공학 공격

사회공학(Social Engineering)은 이전부터 보안 체계의 가장 약한 지점으로 여겨졌다. 이제 생성형 AI는 그 약점을 ‘무기화’하고 있다.

위협 수준

생성형 AI는 맥락을 이해하는 능력을 바탕으로 매우 설득력 있고 상황에 맞는 피싱 이메일을 대규모로 작성할 수 있다. ‘계정이 정지되었습니다’라는 단순한 문구 대신, 공격자의 에이전트는 실제 비즈니스 거래를 언급하고, 동료의 평소 문체를 흉내 내며, 특정 업무 이벤트에 정확히 맞춘 메시지를 작성할 수 있다. 높은 수준의 맞춤화는 공격의 위력을 크게 높여 피해자가 의심하거나 대응할 수 없게 만든다.

영향력

이제 사람이 피싱 이메일을 구별하기는 거의 불가능해졌다. 공격 성공률 역시 급격히 높아지고 있다. 최근 연구에 따르면, AI가 만들어낸 피싱 공격은 모든 사용자 수준에서 전문 레드팀을 능가했으며, 2023년부터 2025년 사이 진행된 한 연구에서는 AI 기반 피싱의 성공률이 사람 대비 55% 이상 높게 나타났다.

대표 사례: 딥페이크 CEO 사기

2020년, 한 범죄 그룹은 글로벌 기업의 CEO 음성을 AI로 복제해 회사 매니저에게 전화를 걸었다. 그들은 실제 CEO의 목소리로 거액의 송금을 지시했고, 매니저는 이를 믿고 그대로 송금했다. AI 음성은 실제 인물과 구분하기 어려울 만큼 사실적이었으며, ‘긴급한 상황’이라는 맥락이 더해져 의심을 피할 수 있었다. 이 사건은 딥페이크와 AI 기반 사칭 기술이 사회공학 공격에서 얼마나 강력한 무기로 자리 잡았는지를 보여준다.

위협 2. AI가 만들어내는 변종 악성코드

수년 동안 보안팀은 시그니처 기반 탐지에 의존해 왔다. 즉, 이미 알려진 위협을 데이터베이스에 기록하고, 동일한 패턴이 발견되면 이를 탐지하는 방식이었다. 하지만 이제 AI 기반 공격자는 코드의 규칙 자체를 재정의하고 있다.

위협 수준

자율형 AI 에이전트는 몇 시간 만에 수백만 개에 이르는 고유한 악성코드 변종을 만들어낼 수 있다. 이런 다형성(Polymorphic) 악성코드는 탐지를 피하기 위해 시그니처, 파일명, 암호화 키를 지속적으로 변경한다. 공격자는 단순한 프롬프트 입력만으로 문법적으로 완전하고 난독화 수준이 높은 악성 페이로드를 생성할 수 있어, 알려진 위협에 의존하는 기존 시그니처 기반 방어체계를 쉽게 무력화한다.

영향력

이제 악성코드는 ‘움직이는 표적’처럼 끊임없이 형태를 바꾸고 있다. 정적인 보안 도구로는 사실상 방어가 불가능해졌으며, 결과적으로 기존의 안티바이러스 솔루션은 무용지물이 되고 있다. 이 같은 패러다임 전환은 단순한 패턴 발견을 넘어, 행위 기반 분석과 AI 중심의 탐지 체계로 전환해야 한다는 과제를 제시한다.

대표 사례: 실제 트렌드 및 연구 결과

최근 기술 발전으로 공격자는 악성코드의 동작 방식을 미세하게 조정하는 AI 모델을 개발할 수 있게 됐다. 이를 통해 마이크로소프트 디펜더(Microsoft Defender)나 크라우드스트라이크(CrowdStrike) 같은 기존 AI 및 머신러닝 기반 탐지 시스템을 손쉽게 우회할 수 있다. 더욱이 최신 악성코드는 생성형 AI를 활용해 실행 중에도 코드 경로, 파일명, API 호출 등을 실시간으로 바꾸며 새로운 형태로 진화할 수 있다. 이로 인해 시그니처 기반은 물론, 행위 기반 탐지 방식조차 점점 더 무력화되고 있다.

위협 3. 자동화된 정찰 에이전트

모든 공격은 시스템과 사용자, 인프라에 대한 정보 수집, 즉 정찰 단계에서 시작된다. 지금까지는 이런 작업에 사람이 직접 관여해야 했지만, 이제는 AI 에이전트가 대규모로 정찰을 자동화하고 속도를 빠르게 높이고 있다. 다시 말해 AI는 킬체인의 초기 전 과정을 자동화하고 있다.

위협 수준

공격자의 에이전트는 인터넷을 자율적으로 크롤링해 조직의 공격 표면을 스캔하고, 사람이 직접 개입하지 않아도 악용할 취약점을 찾아낼 수 있다. 특히 에이전트는 외부에 공개된 자산을 찾아내고 관련 자료를 수집한 뒤, 열려 있는 포트를 확인하고 사용 중인 시스템과 소프트웨어를 파악한다. 또한 실행 중에 새로 발견한 정보에 따라 작전을 조정하기도 한다.

영향력

이런 변화로 사이버 공격의 진입 장벽이 크게 낮아졌다. 이제 숙련되지 않은 해커도 고도화된 표적형 공격을 손쉽게 실행할 수 있다. 자율형 정찰 에이전트는 방어팀이 대응하기 전에 조직의 시스템을 분석하고, 구조를 파악해 데이터베이스화한다. 만약 기업의 보안 체계가 여전히 사람 공격자만을 대상으로 한다면 오늘날의 위협에는 대비하지 못하고 있는 셈이다.

대표 사례: AI 에이전트 취약점 공격

GB해커스에 따르면, 세일즈포스(Salesforce)는 2025년 에이전트포스 AI(Agentforce AI)가 간접 프롬프트 인젝션 공격을 받는 등 심각한 보안 사고를 겪었다. 공격자는 일반적인 데이터 입력 절차로 자율형 에이전트를 조작해 승인되지 않은 명령을 수행하도록 했고, 이로 인해 대규모 고객 데이터 유출 위험이 발생했다. 이 사건은 운영 중인 AI 에이전트가 새로운 공격 표면으로 노출될 수 있음을 명확히 보여줬다. 세일즈포스는 즉시 시스템을 패치하고, 모든 AI 플랫폼에 ‘신뢰된 URL 검증’ 기능을 도입해 데이터가 신뢰할 수 없는 경로로 전송되지 않도록 보안 체계를 강화했다.

선제적 방어를 위한 원칙

AI 기반 공격이 등장함에 따라 기업의 보안 전략도 근본적으로 변화해야 할 시기다. 이제 정적인 방어 체계로는 안전을 보장할 수 없다. 공격자만큼이나 지능적이고 유연한 방어 체계를 구축해야 한다.

방어 체계 구축을 위한 3가지 핵심 전략은 다음과 같다.

• AI 기반 위협 인텔리전스. 공격자의 AI 캠페인을 탐지하고 분석하기 위해 반드시 AI를 활용해야 한다. 이미 발생한 공격에 대응하는 데 그치지 않고, 공격자의 다음 움직임을 예측하는 역량을 갖추는 것이 핵심이다.
• 지속적 취약점 관리(CVM). 자사의 AI 에이전트를 활용해 네트워크 전반을 지속적으로 스캔하고 취약점을 실시간으로 제거해야 한다. 자동화된 공격자보다 앞서기 위한 가장 효과적인 방법은 악용될 수 있는 취약점을 사전에 제거하는 것이다.
• AI 보안 강화. AI 기반 공격에 맞서는 가장 강력한 방어는 ‘자체 AI 보안’을 강화하는 것이다. 이를 위해서는 자사 AI 시스템에 대한 견고한 거버넌스와 제로 트러스트 원칙을 기반으로 한 보안 체계를 구축해야 한다.

행동을 위한 조언

보안 전략을 전면적으로 재정비할 필요가 있다. 여전히 사람의 판단과 정적인 시그니처기반 탐지에 의존하고 있다면, 이미 한참 뒤처져 있다고 볼 수 있다.

지금 당장 시행하기

• 보안 및 리스크 관리팀과 긴급 회의를 열어, AI 기반 사회공학 공격과 변종 악성코드로 인한 재정적 피해 가능성을 정량적으로 분석해야 한다.
• 사이버 방어의 미래는 기계 대 기계의 전쟁이다. 조직은 이 싸움을 맞이할 준비가 되어 있는가?

dl-ciokorea@foundryco.com