AI 시대 보안, 무엇부터 해야 하나…화이트해커 박찬암 대표가 짚은 핵심 과제

8일 과학기술정보통신부와 한국인터넷진흥원(KISA) 등 정부 기관이 주최·주관한 제15회 정보보호의 날 행사에서 열린 세미나에 연사로 나선 박찬암 스틸리언 대표는 ‘주요 AI 위협과 보안 우선순위’를 주제로 AI 시대 보안 환경의 변화와 정보보호 조직의 우선 대응 과제를 설명했다. 그는 “AI는 새로운 기술이지만 보안의 핵심은 결국 권한 관리와 공급망 관리, 그리고 사람의 검증”이라고 설명했다.

박 대표가 먼저 강조한 부분은 AI가 해커의 공격 속도를 근본적으로 바꾸고 있다는 점이다. 과거에는 기업 내부망에 침투하기 위해 문서 편집기나 메신저 등 다양한 소프트웨어를 분석하고 취약점을 찾는 데 상당한 시간이 필요했으나 이제 AI를 활용하면서 이러한 작업이 크게 빨라졌다는 것이다.

박 대표는 “예전에는 취약점을 찾기 위해 최소 4주 정도가 걸렸지만 지금은 하루도 채 걸리지 않는다”며 “AI 시대에는 기업 내부에 설치된 모든 소프트웨어가 훨씬 중요한 공격 대상이 된다”고 설명했다.

그는 이어 보안 업계가 가장 먼저 점검해야 할 영역으로 내부 소프트웨어와 공급망 보안을 꼽았다. 박 대표는 “고객사에서는 ‘벤더가 만든 제품 아니냐’는 반응이 자주 나온다”면서도 “회사 시스템에 설치된 순간부터 그 소프트웨어는 더 이상 벤더의 문제가 아니라 기업 시스템의 일부”라고 강조했다. 결국 서드파티 소프트웨어의 취약점 역시 기업 보안 조직이 직접 관리해야 할 영역이라는 의미다.

이와 관련해 그는 국가정보원이 지난 5월 1일 발표한 국가 사이버보안 기본지침도 소개했다. 해당 지침은 소프트웨어 도입 시 제조사에 취약점 시정과 기술 지원을 요구할 수 있는 권한을 명시하고 있는데, 이는 반대로 운영 기관의 책임 역시 그만큼 커졌다는 의미라고 해석했다. 그는 “이제는 서드파티 문제를 벤더 책임으로만 돌릴 수 없는 시대”라고 말했다.

다음으로는 AI 에이전트 시대의 권한 관리를 핵심 과제로 제시했다. 최근 기업들은 MCP(Model Context Protocol) 기반 AI 에이전트를 활용해 메일을 읽고 문서를 분석하며 내부 시스템과 다양한 업무를 연결하고 있다. 하지만 AI 에이전트가 처리하는 업무가 많아질수록 권한 관리가 새로운 보안 리스크가 된다는 것이 박 대표의 설명이다.

그는 AI 에이전트가 외부 문서를 읽고 내부 시스템과 연동하는 모든 단계가 잠재적인 공격 경로가 될 수 있다고 설명했다. 악성 문서를 통한 프롬프트 오염, 과도한 권한을 가진 에이전트를 이용한 내부 정보 유출 등도 충분히 현실적인 시나리오라고 진단했다. 특히 그는 퇴사자나 외주 인력에게 남아 있는 잔여 권한처럼 과거에는 작은 문제로 끝났던 사안들도, AI가 이러한 요소들을 자동으로 엮어내면서 큰 사고로 확대될 수 있다고 지적했다.

박 대표는 “AI를 도입할 때는 기능보다 권한을 먼저 설계해야 한다”며 “MCP 전체 프로세스를 하나의 공격 경로라고 생각하고 접근해야 한다”고 말했다.

로컬 AI 테스트 환경도 정보보호 리더가 놓치기 쉬운 사각지대로 언급됐다. 최근 기업에서는 라마(LLaMA) 계열 모델 등 다양한 오픈소스 AI를 개인 PC나 업무용 PC에 설치해 검증하는 사례가 빠르게 늘고 있다. 하지만 이러한 과정에서 서버나 포트가 개방되는 경우가 적지 않으며, 이 지점에서 취약점이 발견되면 곧바로 침투 경로가 될 수 있다는 설명이다.

박 대표는 “2024년 원격 코드 실행(Remote Code Execution) 취약점이 발견됐을 당시 인터넷에 노출된 서버가 1,000대 이상이었는데, 2026년 최근에는 동일한 대상에서 30만 대 이상이 노출된 상태로 확인됐며 “AI를 테스트하는 행위 자체도 새로운 보안 위험이 될 수 있다”고 말했다.

이어 그는 보안 운영 방식도 바뀌어야 한다고 강조했다. AI를 활용한 공격이 늘면서 보안 담당자가 처리해야 하는 경고(Alert)가 과거보다 10배, 많게는 100배까지 증가해 모든 취약점을 동일한 기준으로 대응하는 것이 사실상 불가능해졌기 때문이다.

이 같은 상황에 대한 해법으로 박 대표는 취약점 심각도를 나타내는 CVSS(Common Vulnerability Scoring System)만으로는 우선순위를 결정하기에 부족하다고 진단했다. 대신 실제 악용 가능성을 예측하는 EPSS(Exploit Prediction Scoring System), 미국 정부의 KEV(Known Exploited Vulnerabilities) 목록 등을 함께 활용해 취약점 대응 우선순위를 정해야 한다고 제안했다.

예를 들어 CVSS 점수가 7.5점이라면 크리티컬 등급까지는 아니어서 우선순위에서 밀리기 쉽다. 그러나 동일한 취약점이 KEV 목록에 등재돼 있고 실제 랜섬웨어 공격에 악용된 사례가 있으며, EPSS 기준 공격 발생 확률이 두 달 사이 1%에서 90%까지 급등했다면 대응 우선순위는 완전히 달라진다는 설명이다. 그는 “이런 요소를 함께 봐야 실제로 먼저 패치해야 할 취약점을 가려낼 수 있다”고 말했다.

박 대표는 “AI 슬롭(AI Slop)으로 불리는 방대한 노이즈 속에서 무엇을 먼저 패치할지 결정하는 기준 자체가 이제는 보안 담당자의 핵심 역량이 된다”고 강조했다.

AI 시대 활용할 수 있는 기술적인 대응 방향도 소개했다. 박 대표는 사람과 AI 공격자의 행동 패턴 차이를 분석해 자동화 공격을 탐지하는 방식, AI 공격자에게 의도적으로 계산 부하를 부과해 공격 속도를 늦추는 PoW(Proof of Work) 챌린지 방식 등을 새로운 방어 기법으로 제시했다. 마우스 움직임과 키보드 입력, 스크롤 패턴 등을 분석해 비정상 접근을 걸러내는 것이 대표적이다. 그는 “공격을 100% 차단하는 것보다 일부라도 걸러내 보안팀의 부담을 줄이는 것이 현실적인 전략”이라고 말했다.

발표를 마무리하며 그는 AI 시대에도 기술만으로는 보안을 완성할 수 없다고 강조했다. 박 대표는 “AI로 넓고 빠르게 위협을 살펴볼 수는 있지만, 결국 검증하고 확인하는 것은 사람의 몫”이라며 “사람은 아직도 중요하다”고 말했다.

한편 박찬암 대표는 10대 시절부터 국내외 해킹 대회에서 입상하며 화이트해커로 이름을 알렸으며, 경찰청 등 정부 기관의 사이버보안 자문을 맡아왔다. 현재는 보안 기업 스틸리언의 대표이사를 맡고 있다.
jihyun.lee@foundryco.com