칼럼 | AI에 보안 맡겨도 될까?··· CISO의 ‘에이전틱 AI’ 대비 방법

CISO들은 지금까지 AI를 보안 프로세스에 통합하는 과정에서 효율성 향상과 엄격한 테스트 및 보안 프로토콜 준수 사이의 균형을 맞추는 데 어려움을 겪어왔다. 이제 또 다른 혁신이 등장했다. 바로 에이전틱 AI다. AI의 다음 단계로 이해되는 에이전틱 AI는 CISO, CIO 및 팀이 사이버 위협에 대응하는 방식을 재정의할 기회와 과제를 동시에 제공한다.

지난해 9월 RSA에 조직 내 AI 활용에 대한 CISO의 관점과 기업의 AI 생산성 향상 방안을 논의했을 당시, 에이전틱 AI라는 용어가 막 등장하고 있었다. 불과 몇 달 만에 에이전틱 AI 분야가 빠르게 발전하고 AI 자율성에 관심이 집중되고 있다. 오늘날 에이전틱 AI는 CIO와 CISO의 전략적 로드맵에도 포함되고 있다.

보안 코파일럿에서 에이전틱 AI로

지난해만 하더라도 업계의 관심은 보안 코파일럿에 집중됐다. 이는 위협 탐지를 강화하고, 사고 대응을 간소화하며, 보안 워크플로우를 최적화하도록 설계된 AI 어시스턴트를 의미한다. 보안 코파일럿은 기업 보안 프로세스와 전략에 자동화를 도입하여 조직이 사이버 위험에 대응하는 방식을 변화시켰다.

이제 에이전틱 AI가 주목받고 있다. 이전보다 더 자율적이고 적응력이 높은 에이전틱 AI 접근 방식은 더 복잡한 보안 작업을 수행하고, 새로운 위협을 예측하며, 실시간으로 방어를 동적으로 조정할 수 있다. 또한 사람이 거의 개입하지 않고 특정 목표에 도달하기 위해 독립적으로 결정 및 조치를 취하도록 설계됐다. 주요 차이점은 에이전틱 AI가 결정을 내릴 때 기존 AI처럼 사람의 승인과 지침에 의존하는 대신 고급 추론, 적응력 및 학습 능력을 활용해 복잡한 작업을 독립적으로 수행한다는 점이다.

대규모 언어 모델(LLM)의 역량과 실시간 데이터 처리를 결합해 능동적으로 활동하는 ‘에이전트’의 발전은 놀랍지만, 여전히 의문이 남아있다. AI가 전체 프로세스를 담당하게 될까? 그렇다면 사람의 개입 부재가 예상치 못한 문제를 일으킬 수 있을까? 예를 들어, 에이전틱 AI가 합법적인 비즈니스 거래를 사기로 판단하여 중단하거나 차단할 수 있을까? 또는 에이전트가 실수로 악용될 수 있는 취약점을 만들 수 있을까?

에이전틱 AI의 잠재력 이해하기

CISO에게 에이전틱 AI는 혁신적인 기회이자 전략적 전환점일 수 있다. 사이버 위협이 속도와 정교함을 더해가는 가운데, CISO는 자원 제약이나 직원의 번아웃을 관리하면서 조직의 회복력을 유지하거나 강화해야 한다는 압박을 받고 있다. 여기서 에이전틱 AI가 중요한 역할을 할 수 있다. 의사결정을 자동화하고, 진화하는 위협에 적응하며, CISO가 사후 대응적 방어자에서 비즈니스 연계 보안 전략의 설계자로 발전할 수 있도록 지원하기 때문이다.

그러나 이는 결코 쉬운 일이 아니다. 우선 CISO는 거버넌스 정책과 함께 신뢰성 및 규정 준수 문제를 해결해야 한다. 사람이 실제로 과정을 감독하지 않고도 어떻게 감독 역할을 맡을 수 있을까? AI 의사결정은 투명한 프레임워크와 사람의 감독이 동반되지 않으면 신뢰를 약화시킬 수 있다.

크라우드스트라이크(Crowdstrike)와 엔비디아(NVIDIA)는 최근 보안 분야의 에이전틱 AI를 위한 파트너십을 발표했다. 양사는 “더 지능적인 자동화를 제공하고, 실시간 의사결정을 가능하게 하며, 보안 팀이 전례 없는 속도와 정확성으로 위협에 대응할 수 있도록 정밀도를 향상시키는 것”을 목표로 한다고 밝혔다.

양사는 에이전틱 AI 보안 자동화를 통해 더 빠르고 정확한 위협 탐지, 최적화된 대응 시간과 운영 비용 절감을 통한 더 자율적인 SOC 운영, 그리고 기업 보안 팀이 실제 위협에 대한 더 정확한 데이터를 얻을 수 있게 될 것이라고 설명했다.

기존 보안 기업과 신규 업체들이 에이전틱 AI 개념을 내세우고 있지만, CISO들은 보다 신중하게 접근하고 있다. 필자가 주기적으로 대화하는 AI에 정통한 어느 보안 임원은 “현재 에이전틱 AI는 실제보다 과대광고에 가깝지만, 미래에는 엄청난 잠재력을 가지고 있다”라고 진단했다. 이 임원과 그의 팀이 수행한 테스트에 따르면, 에이전틱 시스템은 아직 인간의 입력과 지시를 포함하는 전통적인 솔루션보다 의미 있는 방식으로 성능을 발휘하지 못하고 있다.

또 다른 보안 임원은 SOC(Security Operations Center)의 노이즈 수준을 줄이는 데 있어 에이전틱 AI의 잠재력을 언급했지만, 가까운 시일 내에 에이전트 기반 솔루션을 도입할 계획은 없다고 말했다.

한편 기본에서 중간 복잡성 작업(보안 영역 외의 사용 사례 포함)에서 에이전틱 AI의 활용 가능성을 높게 보는 이들도 있었다. 이들은 고가치 및 복잡성이 높은 작업에는 적합하지 않다고 언급했다. 여러 의견과 규제 관련 질문을 종합해 볼 때, 조직들은 가까운 시일 내에 완전 자동화된 방어 환경으로 이동하지 않을 것이라고 밝혔다. 그러나 AI 시장은 이전의 혁신 흐름보다도 더 빠르게 움직이고 있다.

SOC 운영 개선

보안 전문가들의 의견을 고려해 가까운 시일 내 도입될 가능성이 높은 사용 사례를 살펴본다. SOC(보안 운영 센터)에서 탐지 및 해결을 자동화하는 에이전틱 AI 솔루션이다. 이는 매일 수천 개의 위협 알림을 받지만 자원이 부족한 부서에 큰 도움을 줄 수 있다. 구체적으로는 다음과 같은 방식으로 SOC 분석가를 지원할 수 있다.

• 경고 자동화: 분석가가 수천 개의 경고를 분류하는 대신, 에이전틱 AI가 각 경고를 평가하고 여러 소스의 데이터를 상호 연관시켜 우선순위가 지정된 완전한 조사 보고서를 제공할 수 있다. 이는 작업 시간을 며칠에서 몇 분으로 단축할 수 있다.
• 위협 탐지: 에이전틱 AI는 대규모로 위협 인텔리전스를 분석하여 상황별 통찰력으로 실제 위협과 오탐을 구별할 수 있다.
• 효율성 확장: 에이전틱 AI는 로그 분석 및 사고의 상관 관계를 자동화할 수 있다. 이를 통해 SOC는 인력을 추가하지 않고도 더 많은 업무량을 관리할 수 있다. 가트너는 분석가의 역할을 AI 감독 및 전략적 이니셔티브로 전환함으로써 2026년까지 40%의 효율성 향상을 예측했다.
• 더 빠른 대응: 에이전틱 AI는 자율적으로 의심스러운 네트워크 행동을 표시하고 실시간으로 손상된 장치를 격리할 수 있다. 이는 위협을 더 빠르게 억제하는 데 도움이 된다.

따라서 CISO가 에이전틱 AI를 배포하면 자동화된 공격에 동등한 속도로 대응하는 더 효율적이고 효과적인 SOC를 구현할 수 있을 것으로 기대되고 있다.

헬프데스크 운영 자동화

에이전틱 AI의 또 다른 사용 사례는 기업 헬프데스크 발전이다. 헬프데스크는 IT와 보안 모두에 중요하지만, 반복적인 티켓과 사용자 요청으로 인해 종종 부담이 가중된다. 이로 인해 지연이 발생하고 자원에 부담이 생긴다. 에이전틱 AI는 다음과 같은 방식으로 이 영역을 개선할 수 있다:

• 반복 작업 자동화: 에이전틱 AI는 인간의 개입 없이 비밀번호 재설정 및 소프트웨어 문제 해결과 같은 일상적인 문제를 해결한다. 이는 티켓 양과 대기 시간을 줄이고 회사 헬프데스크 직원이 다른 프로젝트에 집중할 수 있게 한다.
• 사용자 경험 제공: 에이전틱 AI는 일반적인 사용자 요구에 맞춰 24시간 내내 맞춤형 해결책을 제공한다.
• 보안 경고 표시: 에이전틱 AI는 자동으로 피싱 보고서나 장치 이상을 표시하고 SOC에 보고한다. 이는 다양한 보안 문제에 대한 CIO와 CISO 팀 간의 협력을 강화할 수 있다.

헬프데스크가 자동화되면 CIO와 CISO에게 큰 도움이 될 수 있다. 에이전틱 AI는 사소한 문제가 심각한 침해로 발전하기 전에 처리할 수 있다. 이러한 모든 잠재적 이점에도 불구하고, 에이전틱 AI는 아직 도입 초기 단계에 있다. 높은 가능성을 지닌 분야지만, 위험과 우려가 없는 것은 아니다. 내년 이맘때 시장이 어느 수준으로 나아갈지 지켜볼 만하다. 앞서 언급했듯이, 1년 전에는 코파일럿에 대해서만 이야기했고, 에이전틱 AI는 논의 대상이 아니었다.
[email protected]