칼럼 | AI옵스 도입, 먼저 ‘IT 인프라’를 살펴봐야 한다

인프라 분야에서 디지털 유산(또는 ‘레거시’)는 매우 중요한 역할을 한다. 자체 데이터센터의 인벤토리는 중장기적으로 사용 가능한 기술을 결정하는 핵심 요소다. 이때 얻는 지식은 경영진이 현실을 직시하는 데 도움이 된다. 이를테면 AI에 대해 큰소리치던 사람들도 기존 IT 인프라를 살펴본 후에는 금세 조용해지곤 한다.

인프라 차원에서 인공지능은 주로 AI옵스(AIOps, IT 운영을 위한 인공지능)로 활용된다. IT 운영을 최적화하기 위한 AI와 머신러닝 방법론을 의미하는 AI옵스는 IT 프로세스 자동화를 용이하게 하고, 이상 징후를 감지하며, IT 인프라 문제를 사전에 해결할 수 있게 해준다. 전반적으로는 복잡한 시스템의 모니터링과 관리를 더 효율적으로 만들고, 수동 개입을 줄이며, 대응 시간을 개선하는 데 유용할 수 있다.

레거시 시스템의 과제

아보닥(Avodaq)의 마크 슈미트는 처음부터 시작할 수 있는 스타트업과 달리 대기업이 현대화와 최적화에 더 어려움을 겪는다고 설명했다. 슈미트는 “특히 하드웨어 중심의 인프라는 기업에 많은 과제를 안겨준다. AI와 옵저버빌리티 같은 미래 주제를 개발하려면 먼저 현대적인 아키텍처와 데이터 관리 플랫폼이 필요하다. 그래야만 기업은 엄청난 양의 데이터를 관리할 수 있다”라고 말했다.

레거시 인프라를 AI 준비 상태로 만들기 위해서는 여러 과제 극복이 필요하다. 이런 IT 환경은 이질적이며 오래된 구성 요소와 최신 구성 요소가 혼재돼 있어 통합이 어려울 수 있다.

대표적인 예로 비즈니스 핵심 애플리케이션용 메인프레임과 새로운 애플리케이션이 운영되는 클라우드 기반 마이크로서비스의 조합이 있다. 수십 년 된 메인프레임은 안정적으로 작동하지만 현대적 데이터 프로토콜과 통합이 어려운 독점 기술을 사용한다. 반면 마이크로서비스는 빠른 확장, 도커(Docker)나 쿠버네티스(Kubernetes) 같은 컨테이너 환경, API 통합이 필요하다. 두 환경은 모니터링, 로깅, 데이터 분석 측면에서 요구사항이 달라 AI옵스 구현을 복잡하게 한다. AI옵스 시스템은 두 환경의 데이터를 집계 및 분석해 전반적으로 지능적인 의사 결정을 내릴 수 있어야 한다.

하지만 현재 표준화된 파일 형식이 부족해 운영 데이터 통합과 분석이 어려운 상황이다. 또한 기존 아키텍처에 대한 명확한 문서화와 깊은 이해가 부족한 경우가 많다.

스톰리플라이(Storm Reply)의 콜랴 헨켈 박사는 “대부분은 인프라의 일부만 클라우드로 이전하며, 지속적 운영을 담당하는 팀이 작업을 맡는 경우가 많다. 이를 위해서는 기업 내 코드형 인프라 지식 구축이 필요하다. 이 접근법으로 서버를 빠르게 프로비저닝하고 유지 관리할 수 있다. 목표는 자동화를 통해 동일한 팀으로 더 많은 성과를 달성하는 것”이라고 설명했다.

단계적 현대화의 중요성

조직 저항과 전문 지식 부족은 자동화된 인프라로 가는 길을 방해하는 요소다. 헨켈에 따르면, 관리자의 연령 구조와 문서화 부족이 현대화를 복잡하게 만든다. 종종 서버와 그 기능에 대한 개요가 부족해 운영 위험을 초래할 수 있다.

따라서 현대화는 버튼 하나로 시작할 수 없다. EY의 토비아스 베르크스는 “IT 인프라 최적화는 인센티브나 트리거가 있을 때만 수행된다. 예를 들면 IT 운영의 안정성 문제나 비용 절감 가능성 등이 있다. 문제가 명백할 때만 의사결정자가 AI옵스 도입을 고려한다”라고 언급했다.

이런 과제를 극복하려면 신중한 계획과 단계적 구현이 필수다. 베르크스는 전체 조직에 부담을 주지 않도록 분산된 개별 프로젝트를 점진적으로 도입할 것을 권장했다. 그는 “AI옵스 솔루션 도입의 절대적 요건은 좋은 데이터베이스다. 많은 기업이 도입 과정에서 큰 어려움을 겪고 있어 AI옵스를 독립 솔루션으로 도입하거나 시범적으로 사용한다. 이를 통해 경험을 쌓고 포괄적 도입을 위한 기반을 마련하고 싶어 한다”라고 설명했다.

AI옵스의 실질적 이점

장점이 분명하더라도 도입을 추진하려면 내부적으로 적절한 스토리가 필요하다. IBM 킨드릴(Kyndryl)의 베네딕트 에른스트는 비용으로 인한 ‘충격 가능성’을 미리 예상하는 것이 이상적이라고 말했다. 그는 “비용에 대한 논증은 매우 중요하다. AI옵스 도입이 처음에는 투자이기 때문이다. 조직은 이를 통해 현재 문제를 얼마나 빠르게 감지하고 해결할 수 있는지 질문해야 하며, 빠른 해결이 운영 비용과 다운타임에 미칠 영향을 파악해야 한다”라고 조언했다.

또한 에른스트는 자주 간과되는 측면에 대해 언급했다. 그는 “궁극적으로 AI옵스 도입은 직원 측면에서도 잠재력을 드러낸다. 인프라 수동 개입이 적을수록 직원은 정말 중요한 일에 집중할 수 있다. 이런 이유로 개방형 통합 플랫폼은 다양한 플랫폼에서 자동화와 AIOps를 활용하는 데 유용하다고 본다”라고 말했다.

스톰리플라이의 헨켈은 AI옵스를 더 큰 조화를 위한 도구로 봤다. 그는 “AI옵스 도입은 부서 간 책임 전가의 종말을 의미한다. 데이터베이스, 서버, 운영 체제 등 다양한 오류 원인이 있어 과거에는 오류의 원인을 정확히 찾기 어려웠다. AI옵스는 모든 영역에 걸쳐 상세한 분석을 제공하고 인프라 평가에 조화를 가져올 수 있다”라고 설명했다.

전반적으로 전문가들은 AI옵스 구현 성숙도에는 큰 격차가 있다고 지적했다. 특히 “자연스럽게” 발전한 IT 환경에서는 신중한 계획과 기본 데이터베이스 구축이 중요하다. 의사 결정 수준에서 행동 압력을 알리는 명확한 트리거가 가장 효과적이다. 한 번에 전체 도입을 하기보다는 급한 요구가 있는 영역에 AI옵스를 먼저 도입해 가시적인 효과를 빠르게 달성하고 초기 이점을 창출하는 것이 바람직하다. 이는 내부의 저항을 줄이고 경영진 지원을 확보하는 데 도움이 된다.

Florian Stocker는 커뮤니케이션 에이전시 ‘메디엔스튀어머(Medienstürmer)’의 대표다.
[email protected]