“예측·분석·자가 치유까지” 현대 IT를 지탱하는 AIOps 도구 톱 14

AI가 처음으로 강력한 역할을 발휘한 분야는 AI를 만들어낸 컴퓨팅 시스템 내부였다. 컴퓨터 시스템은 하드코딩된 수치로 구성돼 데이터 기반 머신러닝 알고리즘을 적용하기에 최적의 구조이다. 자율주행차는 안개, 보행자, 비 같은 변수에 신경 써야 한다. 반면 기계 내부는 정확한 값으로 구성돼 선명한 결정을 내린다. 항상 단순하지는 않지만 눈보라 속에 차량을 운전하는 일보다 훨씬 쉽다.

AI가 가장 큰 기회를 제공하는 분야는 데이터가 풍부한 백오피스 실무인 데브옵스 영역이다. 운영 담당 조직은 AIOps라는 이름으로 제공되는 다양한 자동화·효율화 도구와 플랫폼을 활용해 최신 AI 알고리즘을 기반으로 IT 인프라를 유지한다.

AIOps 플랫폼이 수행하는 역할

AIOps의 기본 기능 가운데 일부는 클라우드 인스턴스에 소프트웨어를 더 빠르게 배포하도록 속도를 높이는 작업이다. 데브옵스 조직이 수행하는 모든 업무는 부하를 감시하고 수요를 예측하며 요청이 급증하면 인스턴스를 자동으로 확장하는 더 똑똑한 자동화 기능으로 강화됐다.

AIOps 도구는 머신 부하를 예측하고 실제 수치가 예상과 달라지는지 지속적으로 감시했다. 이상 징후는 이메일, 슬랙 메시지, 그리고 편차가 충분히 크면 호출기 알림으로 이어지는 경보로 전환됐다. AIOps 스택의 상당 부분은 경보를 관리해 사소한 문제로 회의나 밤시간을 방해하지 않도록 조정하는 기능에 사용됐다.

이런 비정상 활동 탐지 기능은 보안 강화에도 활용되며, 더 복잡한 영역인 만큼 AIOps 도구가 보안 조직과 데브옵스 조직 양쪽에서 사용됐다.

고급 AIOps 도구는 근본 원인 분석 기능을 제공해 현대적인 기업용 애플리케이션에서 문제가 여러 시스템을 어떻게 연쇄적으로 흔드는지 흐름도를 자동 생성했다. 과부하가 걸린 데이터베이스는 API 게이트웨이를 느리게 하고, 이로 인해 웹 서비스까지 멈춘다. 이렇게 자동 생성된 워크플로우 카탈로그는 문제의 연결 고리를 문서화해 근본 원인을 더 빠르게 찾는 데 도움이 됐다.

최근에는 완전한 자동 운영을 목표로 하는 자가 치유 시스템에 대한 논의가 확대됐다. 일부 관리자는 AIOps에 지나친 권한을 부여하는 데 불안감을 느끼고, 또 다른 관리자는 시스템이 더 많은 IT 티켓을 스스로 해결하는 능력에 관심을 보였다.

생성형 AI : 진화하는 AIOps 인터페이스

일부 AIOps 플랫폼은 생성형 AI를 통합해 운영 인력이 자연어 기반 대화형 방식으로 도구와 상호작용하도록 지원했다. 대화 내용은 여전히 인프라 구조에 대한 매우 기술적인 세부 사항을 포함하지만, SQL 같은 형식 언어가 아니라 사람의 언어로 이루어진다.

이 변화에 대한 반응은 엇갈렸다. 일부 사용자는 이를 통해 충분한 교육을 받지 않은 인력도 IT 환경을 관리할 수 있다고 보았다. 반면 배포 구조의 세부 기술 논의가 중심이 되는 만큼 자연어 인터페이스가 제공되어도 본질적으로 크게 달라지지 않을 것이라고 보는 의견도 있다. 그럼에도 생성형 AI에 회의적인 사용자조차 자연어 기반 대화 기능 자체의 매력은 인정하는 분위기이다.

AIOps 플랫폼 선택 시 고려사항

이번 조사에 포함된 상당수 도구는 오랜 역사를 가진 모니터링 시스템을 기반으로 구축됐다. 초기에는 복잡한 기업 스택에서 발생하는 이벤트를 추적하는 도구였고 이후 AI 기능이 추가됐다. 일부 도구는 AI 연구에서 출발해 외연을 확대한 경우도 있다. 어떤 출발점을 가졌든 AIOps 플랫폼을 평가하는 조직이 가장 먼저 확인해야 할 요소는 데이터를 수집하는 커넥터의 범위이다.

AIOps 플랫폼의 통합 수준은 도구마다 차이가 크다. 대부분 기본적인 데이터 수집 경로는 제공하지만, 일부 커넥터는 다른 도구보다 더 뛰어난 연결성을 제공한다. AIOps 도입을 검토하는 조직은 각 플랫폼이 기업 내부 데이터베이스와 서비스와 얼마나 잘 연동되는지 반드시 확인해야 한다.

현재 사용 가능한 주요 AIOps 플랫폼

기업 IT 인프라를 원활하게 유지하는 작업을 단순화하는 대표 AIOps 도구 14종을 소개한다.

빅판다(BigPanda)

빅판다는 비정상 행동을 탐지하고 문제 해결에 배정된 조직의 업무를 조율하는 데 초점을 맞춘다. 빅판다 플랫폼은 주요 클라우드 서비스 업체와 통합되는 근본 원인 분석과 사전 이벤트 탐지 기능을 제공한다. L1 오토메이션 기능은 문제가 발생한 이후 수행해야 하는 작업 일부를 자동화해 AI 기반 자동화가 더 빠르고 똑똑한 결정을 내리도록 지원한다. 빅판다는 지라나 서비스나우 같은 시스템에 티켓을 생성하고, 경보를 전송하며, 근본 원인을 겨냥한 롤백 전략을 포함한 워크플로우 계획을 제공해 IT 업무 흐름을 단순화한다. 목표는 확장되는 기업 스택을 이해하는 스마트 지식 그래프를 구축하고 안정적 운영을 위한 지능형 계획을 제공하는 것이다.

BMC 헬릭스(BMC Helix)

ITSM 전문가는 종종 문제 해결과 스택 진화를 관리하기 위해 BMC 헬릭스 플랫폼을 활용한다. BMC의 AI 기반 솔루션은 근본 원인 분석과 더불어 팀 구성원 누구나 문제를 진단하고 해결하도록 돕는 대화형 인터페이스에 중점을 둔다. BMC 헬릭스 플랫폼은 AIOps나 백엔드 워크플로우에만 집중하지 않고, 고객 서비스 관리나 보안 운영(SecOps)처럼 외부 대응을 지원하는 통합 제품도 함께 제공한다.

데이터독(Datadog)

데이터독은 워치독이나 비츠 같은 AI 도구를 성능 관리 제품군에 추가해 성능 저하가 시작될 때 데브옵스 조직이 더 지능적인 경고를 받도록 지원한다. 이 도구에는 계절성과 시간대에 따라 조정된 기록 데이터를 기반으로 성능을 예측하는 머신러닝 기반 옵션이 포함된다. 지연시간, RAM 사용량, 네트워크 대역폭 같은 지표가 기준에서 벗어나면 경보가 발생한다. 데이터독은 사람이 개입할 필요성을 줄이기 위해 도구가 자율적으로 행동하는 에이전트형 서비스를 확대하고 있다. 또한 오류를 제거하기 위해 코드를 분석하고 심지어 재작성하는 기능도 미리보기 형태로 제공한다. 이 도구는 데이터독 보안 탐지 시스템과 통합돼 있으며, 가상머신, 클라우드 인스턴스, 서버리스 환경에서도 작동한다.

디지테이트 이그니오(Digitate ignio)

디지테이트의 이그니오 AIOps 플랫폼은 폐쇄 루프 자동화에 중점을 두어 IT 및 비즈니스 운영에 민첩성과 복원력을 제공한다. 이 플랫폼은 내부 및 외부 비즈니스 상태를 모두 모니터링하며, 특히 클라우드 환경에서 비용 최적화에 집중한다. 디지테이트는 이 자동화 도구 모음이 전체 문제의 40%를 사전에 처리하고 일반 구성에서 수작업을 60% 줄일 수 있다고 주장한다. 수백 개의 통합 기능을 지원하며, 다른 기능을 추가하기 위한 로우코드 도구도 제공한다. 디지테이트는 ERPOps나 조달 과정에서 워크로드를 관리하고 문제를 추적·해결하는 기능을 갖춘 제품도 제공한다.

다이나트레이스(Dynatrace)

다이나트레이스의 핵심 전략 기술은 분석, AI, 자동화이다. 머신러닝과 LLM은 클라우드 기반 VM, 컨테이너, 기타 서버리스 환경을 추적하는 포괄적 모니터링 도구에 포함된다. 로그 파일, 이벤트 보고서, 기타 트리거가 입력되고, 다이나트레이스는 이를 정확한 AI 기반 결과라고 부른다. 핵심에는 특정 이벤트 또는 이벤트 묶음을 감시하도록 구성할 수 있는 에이전트 모음이 포함된다. 중심에 있는 AI인 데이비스(Davis)는 결정론적 AI로, 흐름도와 트리를 구성해 이상이나 장애의 근본 원인을 정확하게 찾아낸다. 데이비스는 텔레메트리를 저장하는 데이터 레이크하우스 그레일, 엔터프라이즈 토폴로지를 맵핑하는 스마트스케이프, 수집된 정보를 통합하는 오토메이션엔진과 함께 작동한다. 적절히 구성하면 인스턴스 재부팅 같은 수정 작업을 스스로 트리거해 사람의 개입을 기다리지 않고 문제의 원인을 해결할 수 있다.

깃허브 코파일럿(GitHub Copilot)

대부분 AIOps 도구는 이미 실행 중인 소프트웨어를 지원하도록 설계됐다. 깃허브 코파일럿은 더 이른 단계에서 시작해 코드가 작성될 때 도움을 준다. 깃허브는 “에디터를 가장 강력한 가속기로 만들라”라고 홍보한다. 이 도구는 프로그래머가 입력하는 내용을 지켜보며 완성된 코드를 제안한다. 방대한 양의 오픈소스 코드로 학습한 코파일럿의 제안은 일정 수준의 현실을 기반으로 한다. 새 코드의 최종 저자가 누구인지, AI를 신뢰할 수 있는지, 수많은 오픈소스 개발자에게 어떤 방식의 공로나 인정이 필요한지는 여전히 논쟁거리다. 답은 “그럴 수도 있다” 정도로 모호하다. 더 큰 질문은 코파일럿이 사용자의 코드를 얼마나 잘 이해하며 자동완성보다 실제로 얼마나 더 나은가이다. 이에 대한 답은 대부분의 경우 코파일럿이 더 잘 안다고 할 수 있다.

IBM 왓슨 클라우드 팩(IBM Watson Cloud Pak for AIOps)

IBM은 왓슨 브랜드 AI와 클라우드 제품군을 통합해 AIOps용 왓슨 클라우드 팩을 출시했다. 이 도구는 클라우드 모니터링 소프트웨어가 수집한 데이터를 대상으로 자동 근본 원인 분석 기능을 제공한다. IBM은 AI가 사건 대응을 혼란스러운 책임 공방이 아니라 통합적이고 정보 기반의 해결 과정으로 바꿔준다고 설명한다. 왓슨은 이벤트 스트림을 지속적으로 감시하고, 사전에 설정한 심각도 수준에 도달하면 기본 경보나 자동화된 대응을 수행하도록 구성할 수 있다. IBM은 이 기능을 네트워크, 비즈니스, RPA 등 다른 클라우드 팩 제품군과 통합했다.

로직모니터(LogicMonitor)

로직모니터는 데이터베이스와 데이터 레이크에서부터 네트워크와 가상머신에 이르기까지 기업 스택 전반에서 텔레메트리를 수집하는 하이브리드 확장 플랫폼이다. 이 플랫폼은 클라우드 서비스 전체와 온프레미스 장비 깊숙한 곳까지 도달한다. 3,000개 이상의 통합된 수집기로 확보한 데이터는 표준 규칙과 에이전트형 AI 모음으로 분류·분석·모니터링되어 이상 징후를 탐지한다. 플랫폼에는 근본 원인 분석 기능과 과거 데이터를 기반으로 동적으로 조정되는 임계값에 따라 경보를 생성하는 시스템이 포함된다. 초기 경보 기능은 과거 데이터를 확장해 지연시간, 대역폭 등 지표의 임계값을 계산하는 예측 모듈에 기반한다. 로직모니터는 조직이 실제 이상 행동에 집중하도록 ‘경보 피로’와 ‘경보 폭주*를 최소화하는 데 중점을 둔다.

무그소프트(Moogsoft)

델 테크놀로지스에 인수된 무그소프트는 뉴렐릭, 데이터독, AWS 클라우드와치, 앱다이내믹스 같은 주요 성능 모니터링 도구와 통합되는 전문 AIOps 솔루션이다. 무스소프트는 이벤트의 중복을 제거하고, 다른 소스의 컨텍스트 데이터를 결합해 강화한 뒤, 상관 분석을 거쳐 경보를 생성하는 파이프라인을 제공한다. AI 엔진은 설명 기능을 위해 생성형 AI를 적용하고, 새로운 경보를 과거 행동과 비교해 배치하기 위해 다양한 통계 및 클러스터링 알고리즘을 사용한다. 목표는 사람이 경보를 이해하는 데 겪는 어려움을 줄이기 위한 ‘노이즈 감소’이다.

뉴렐릭(New Relic)

뉴렐릭은 문제가 발생하면 스플렁크, 그라파나, AWS 클라우드와치 같은 여러 클라우드 추적 도구로부터 수집한 성능 데이터를 AI 엔진으로 분석한다. 다양한 잠재적 심각도의 이벤트에 대해 민감도 수준을 유연하게 설정할 수 있다. 예를 들어, 저우선순위 오류는 15분 동안 여러 번 발생할 때만 경보를 울리도록 구성할 수 있다. 반면 서버 장애 같은 고우선순위 이벤트는 즉시 호출기 알림을 보낸다. 이슈 로그는 모든 이벤트를 추적하며, AI가 경보를 생성하는 과정에서 취한 논리적 단계를 정리한 상관관계 결정 보고서를 포함한다. 고객은 분석과 조회를 위해 과거 데이터를 저장하는 방식을 폭넓게 커스터마이즈할 수 있다. 목표는 평균 탐지 시간(MTTD)을 최소화하고, 이어서 평균 조사 시간(MTTI)과 평균 해결 시간(MTTR)을 줄이는 데 필요한 지원을 제공하는 것이다.

페이저듀티(PagerDuty)

이름만 보면 페이저듀티는 사람을 깨워 IT 문제를 해결하게 하는 도구처럼 보인다. 이는 과거 이야기이다. 페이저듀티는 이제 사람을 호출하기 전에 일부 결정을 자동화하는 AI 기반 서비스다. 이 시스템은 내부 문제든 고객 지원 포털을 통해 제기된 문제든 대부분의 인시던트 대응 절차를 자동화하는 데 집중한다.

서비스나우(ServiceNow)

서비스나우가 구축한 플랫폼은 기업 내 모든 업무를 처리할 AI 에이전트 컬렉션 제공에 집중하며, 그중 일부는 AIOps 범주에 속한다. 예를 들어 IT 운영 관리(ITOM) 제품군은 머신러닝과 워크플로우 자동화를 결합해 과거 지식을 기반으로 면밀히 감시하고 신속하게 대응한다. AI 컨트롤 타워는 모든 에이전트를 중앙 허브와 연결해 클라우드 안정성 같은 기본 질문부터 거버넌스와 관리 같은 더 복잡한 질문까지 처리하도록 지원한다. 목표는 기업 스택 전반에 걸쳐 사실상 모든 영역을 포괄적으로 제어하는 것이다.

사이언스로직(ScienceLogic)

사이언스로직의 스카이러 원(Skylar One) 플랫폼은 지능형 감시자 모음을 제공해 엔터프라이즈 클라우드를 감시하고 필요할 경우 개입하도록 설계됐다. 이 제품은 복잡한 하이브리드 환경을 대상으로 완전한 모델을 구축해 AI와 관리자에게 어떤 기능이 작동하고, 어떤 기능이 작동하지 않는지 이해하는 데 필요한 컨텍스트를 제공한다. 플랫폼에는 전통 방식으로 워크플로우를 자동화하기 위한 로우코드 도구와 문제 해결 조언을 제공하는 AI 기반 도구 스카이러 어드바이저(Skylar Advisor)가 포함된다. 스카이러 애널리틱스(Skylar Analytics)를 사용하는 실시간 대시보드는 관리자에게 상황을 빠르게 파악할 수 있는 시각적 지표를 제공한다.

스플렁크 앱다이내믹스(Splunk AppDynamics)

스플렁크 옵저버빌리티 포트폴리오는 기업 스택을 감시하고 성능을 평가하며 해당 성능이 다양한 비즈니스 지표에 어떤 영향을 미치는지 분석하도록 설계됐다. 앱다이내믹스는 복잡한 스택을 모니터링하고 근본 원인을 추적하며 가장 중요한 문제를 가능한 한 빠르게 해결하는 방법을 제안한다. 온프레미스, 클라우드, 하이브리드 환경에서 커스텀 및 상용 소프트웨어 모두에서 작동한다. 스플렁크 AI 어시스턴트는 머신러닝을 활용해 행동 분석 등에서 수집한 과거 기준값과 다른 지표를 추적하는 대화형 인터페이스를 제공한다. 이 시스템은 이벤트가 시스템 장애로 이어지는 연쇄 과정을 학습해 흐름도를 생성하고 근본 원인을 파악한다. 커스텀 머신러닝으로 구축한 에이전트형 아키텍처는 MCP(Model Control Protocol) 같은 개방형 표준과 연동할 수 있다. 앱다이내믹스는 판매 실적처럼 측정 가능한 비즈니스 성과와 지표의 상관관계를 강화하고, 개방형 표준 기반 자동화 링크를 통해 반복적인 문제 해결을 지원하는 자가 치유 방식을 강조한다.
dl-ciokorea@foundryco.com