북한·이란, AI로 제재 회피… IT 거버넌스 새 위협 부상

영국 국방·안보 싱크탱크인 왕립합동군사연구소(RUSI)가 발표한 ‘회피 알고리즘: AI 기반 확산금융의 부상(Algorithms of Evasion: The Rise of AI-Enabled Proliferation Financing)’ 보고서는 향후 3~5년 동안 제재 회피 및 확산금융(PF)이 AI 지원형(AI-assisted) 단계에서 AI 기반형(AI-enabled) 단계로 진화함에 따라 정부와 민간 기업 모두 탐지 및 대응 체계를 신속히 강화해야 한다고 경고했다.

해당 보고서는 확산금융을 대량살상무기(WMD)의 획득·개발 또는 거래를 위해 자금이나 금융 서비스를 활용하는 행위로 정의했다. 보고서는 “북한과 이란이 현재 제재 회피 활동을 지원하기 위해 AI 모델을 개발하고 운영하고 있다”고 밝혔다.

주요 조사 결과에 따르면 AI는 이미 고품질 위조 문서를 대량 생산할 수 있으며, 보고서가 ‘광범위한 페이퍼컴퍼니 네트워크를 관리하는 세부 행정 업무’라고 표현한 작업도 자동화할 수 있는 수준에 도달했다. 또한 AI 기반 시스템은 블록체인 거래 패턴을 실시간으로 분석해 암호화폐 믹싱 전략을 동적으로 조정함으로써 탐지 도구를 효과적으로 회피할 수 있는 것으로 나타났다.

보고서는 또 “정교한 위조 신분증을 생성할 수 있는 생성형 AI와 같은 도구가 북한의 서방 기업 대상 피싱 공격 수행을 지원하고 있다”고 설명했다.

보고서 저자인 왕립합동군사연구소 금융·안보센터 선임연구원 아론 아널드는 이메일 인터뷰에서 최근 1년 동안 북한이 AI를 활용해 사이버 작전을 지원하고 고도화하는 사례가 증가한 것이 연구의 계기가 됐다고 밝혔다. 특히 북한은 탄도미사일과 핵무기 프로그램의 자금 확보를 위해 피싱 공격에 AI를 활용하고 있다고 설명했다.

아널드는 제재 회피 활동의 피해자가 되는 것을 막아야 하는 기업 IT 관리자들에게 “전통적인 인간 중심 보안 경계가 자동화 기술에 의해 우회되는 환경에 적응해야 한다는 의미”라고 설명했다.

이어 “IT 관리자들은 방어형 AI를 도입하고, 행위 기반 분석 기술을 활용하며, API나 MCP(Model Context Protocol) 사용량이 급증할 경우, 금융 시장에서 흔히 사용되는 ‘서킷 브레이커(circuit breaker)’를 적용해야 한다”며 “임직원 교육을 강화하고, 특히 원격 채용 과정에서 신원 확인 절차를 더욱 엄격하게 운영할 필요가 있다”고 조언했다.

AI 지원형과 AI 기반형의 차이, 왜 중요한가

시장조사업체 그레이하운드 리서치(Greyhound Research)의 수석 애널리스트 산치트 비르 고기아는 RUSI 보고서가 중요한 이유에 대해 “현재 일어나고 있는 구조적 변화를 정확히 짚어냈기 때문”이라고 평가했다.

고기아는 “AI가 제재 회피 수법을 새롭게 만들어내고 있는 것은 아니다”라며 “이미 효과가 입증된 방법을 더 빠르고 더 크게 확장할 수 있게 만들고 있다”고 설명했다.

그는 위조 문서, 가짜 신원, 페이퍼컴퍼니, 차명 소유 구조, 암호화폐 자금세탁 등 제재 회피에 사용되는 기법 자체는 새로운 것이 아니라고 지적했다. 이어 “달라진 것은 이러한 수법을 조합하는 속도와 품질, 규모, 그리고 상호 연계성”이라고 분석했다.

고기아는 특히 AI 지원형(AI-assisted) 활동과 AI 기반형(AI-enabled) 활동의 차이를 구분하는 것이 핵심이라고 강조했다.

그는 “AI 지원형 제재 회피는 이메일 작성, 문서 정교화, 더욱 설득력 있는 가짜 프로필 생성, 제안서 번역, 규제 문서 요약, 그럴듯한 취업 지원서 작성 등 개별 업무에 AI를 활용하는 방식”이라며 “반면 AI 기반형 제재 회피는 훨씬 심각한 단계”라고 설명했다.

공격자와 방어자 사이의 ‘구조적 비대칭성’

고기아는 AI 기반형 제재 회피가 단순한 자동화를 넘어 전체 시스템을 조율하기 시작한다는 점에 주목했다.

그는 “AI 기반형 접근법은 신원 정보와 문서, 소유 구조, 결제 경로, 클라우드 접근 권한, 암호화폐 지갑, API 호출, 실행 시점 등을 하나의 체계로 연결한다”며 “중요한 것은 AI가 문서 위조를 돕는지 여부가 아니라, 기만 행위 전체를 AI가 지휘하기 시작하는지 여부”라고 말했다.

그는 이러한 이유 때문에 기업 경영진이 이번 보고서의 경고를 심각하게 받아들여야 한다고 강조했다.

고기아는 “많은 조직은 여전히 공격자가 대부분 인간이고, 선형적으로 움직이며, 비교적 느리게 행동한다고 가정한다”며 “하지만 그런 가정은 더 이상 유효하지 않다”고 지적했다.

이어 “AI는 공격자가 더 적은 오류로 더 많은 시도를 수행할 수 있게 해준다. 더 다양한 채널과 언어를 활용하고, 더 정교한 문서를 만들며, 대부분의 기업 검토 프로세스가 감당하기 어려울 정도의 인내심까지 갖출 수 있다”며 “이는 천재 범죄자가 마법 같은 기술을 발견한 이야기가 아니다. 평범한 통제 체계가 산업화된 수준의 기만 기술과 맞닥뜨리는 이야기”라고 설명했다.

현재 가장 명확하게 확인되는 사례는 신원 사기, 문서 위조, 합성 인물 생성, 원격 근무자 사칭, 피싱, 사회공학 공격, 암호화폐 거래 은닉, 업무 프로세스 악용 등이라고 그는 분석했다.

고기아는 “완전 자율형 제재 회피 네트워크도 등장할 가능성이 있다”며 “위협적인 개념이지만 아직 일상적으로 나타나는 수준은 아니다”라고 평가했다.

그는 이러한 구분이 매우 중요하다며 “고도화된 자율형 AI 에이전트 시나리오에만 집착하면서 원격 채용, 벤더 온보딩, 결제 승인, 문서 검토 과정의 허점을 방치한다면 기업은 가장 평범한 방식으로 공격에 무너질 수 있다”라고 조언했다.

고기아는 보고서가 공격자와 방어자 간 ‘비대칭성’ 문제도 정확히 짚어냈다고 평가했다.

그는 “공격자는 생태계 전반에서 학습할 수 있다”며 “공개 정보를 수집하고, 유출된 데이터를 재활용하며, 규제 집행 패턴을 분석하고, 온보딩 절차를 시험하고, 공공 조달 데이터를 검토하며, 법원 문서를 분석하고, 컴플라이언스 기준을 탐색하면서 지속적으로 행동 방식을 고도화할 수 있다”고 설명했다.

반면 방어자는 개인정보 보호 규정, 분산된 데이터 환경, 설명 가능성 요구사항, 국가별 관할권 제한, 보수적인 운영 모델, 단절된 기술 환경 등 다양한 제약에 묶여 있다고 지적했다.

고기아는 “공격용 AI는 광범위한 데이터를 바탕으로 학습하지만 방어용 AI는 단편적인 정보에 의존하는 경우가 많다”며 “이것이 바로 구조적 비대칭성”이라고 말했다.

또한 현재의 규제 환경 역시 문제를 더욱 복잡하게 만들고 있다고 분석했다.

그는 “규제 기관들은 여전히 서로 다른 언어를 사용하고 있다”며 “예를 들어 유럽연합(EU) AI법은 고위험 AI에 대한 의무를 강화하는 방향으로 움직이고 있고, 미국 국립표준기술연구소(NIST) 스타일의 프레임워크는 위험 관리와 투명성, 거버넌스를 강조하고 있다”고 설명했다.

제재 대응이 아닌 ‘신뢰 아키텍처’의 문제

고기아는 국제자금세탁방지기구(FATF)가 국가 차원의 위험 평가와 확산금융 방지 통제를 요구하는 반면, 금융 규제기관은 모델 리스크와 책임성, 운영 복원력에 초점을 맞추고 있다고 설명했다.

그는 “이들 접근 방식 가운데 불필요한 것은 없다”면서도 “문제는 범죄자들이 규제 체계에 맞춰 움직이지 않는다는 점”이라고 지적했다.

이어 “범죄자들은 규제 업무 흐름에 따라 조직을 운영하지 않는다”며 “오직 원하는 결과를 달성하는 데 초점을 맞춘다”고 말했다.

고기아는 이러한 현실이 기업에 중요한 시사점을 준다고 강조했다.

그는 “기업은 완벽하게 정리된 글로벌 규제 체계가 마련되기를 기다릴 수 없다. 그런 규칙은 제때 등장하지 않을 것”이라며 “최고정보책임자(CIO), 최고정보보호책임자(CISO), 컴플라이언스 책임자, 그리고 이사회는 지금 당장 실행 가능한 거버넌스 모델을 구축해야 한다”고 설명했다.

이어 “이를 위해 개인정보 보호를 고려한 분석 체계와 통제된 데이터 환경, 감사 추적 체계, 법적 보호 장치, 명확한 AI 모델 리스크 책임 체계가 필요하다”고 덧붙였다.

고기아는 기업 IT 관리자가 이 문제를 단순한 제재 심사나 제재 대상 선별 문제로 접근해서는 안 된다고 강조했다.

그는 “이 상황은 신뢰 아키텍처(trust architecture)의 문제로 봐야 한다”며 “불편한 진실은 AI가 단순히 더 정교한 피싱 이메일을 작성하거나 더 그럴듯한 위조 문서를 만드는 데 그치지 않는다는 점”이라고 말했다.

이어 “AI는 기업의 업무 프로세스 전반에 걸쳐 신뢰와 정당성을 인위적으로 만들어내는 데 활용되고 있다”고 경고했다.

결국은 ‘AI 군비 경쟁’으로 향하나

보고서 저자인 아론 아널드는 사이버 범죄자들이 이미 새로운 AI 기술과 활용 방식을 발견하고 있으며, 향후 이러한 기술이 합법적인 기업 환경에서도 활용될 가능성이 있다고 전망했다.

아널드는 “역사를 돌아보면 범죄자들은 어려운 문제를 해결하기 위해 새로운 방법을 개발해 왔고, 이후 그 기술이 법 집행 기관에 채택된 사례가 적지 않다”며 “현재의 금융 범죄 대응 정책 상당수도 범죄자가 시스템을 악용하거나 새로운 기술을 활용해 범죄를 저지른 데 대한 대응 과정에서 만들어졌다”고 설명했다.

이어 “이번 사례에서도 규제 당국과 범죄 조직 사이에 ‘AI 군비 경쟁’이 벌어질 가능성이 가장 높다고 본다”고 전망했다.

고기아 역시 “범죄자들이 기업에 AI를 발명하는 방법을 가르쳐 주는 것은 아니다”라며 “그들은 기업의 신뢰 체계에서 어디에 균열이 발생하고 있는지를 보여주고 있다”고 말했다.

이어 “기업이 진지하게 받아들여야 할 교훈은 바로 그 지점”이라고 강조했다.
dl-ciokorea@foundryco.com