칼럼 | 우리 조직이 AI 챗봇을 도입하지 않은 이유

이런 경험이 있었다. 어느 날 갑작스레 열린 회의에서 상사는 “비용 절감을 위해 AI 챗봇 도입을 검토해야 한다. 경영진이 큰 관심을 보이고 있다”고 말했다. 나는 이미 준비돼 있었다. 수년간 운영 효율성을 다져온 끝에 이렇게 응답했다. “현재 도입 가능한 챗봇은 모두 비용이 더 많이 듭니다. 상대적으로 저렴한 제품도 투자 회수 기간이 4년이나 걸리고, 비즈니스 지원 역량을 오히려 떨어뜨립니다. 경영진을 위한 요약 슬라이드도 준비해뒀습니다.”

지원 서비스를 더 빠르고 저렴하게 제공하는 것이 진짜 목표인가, 아니면 단지 겉으로 드러난 증상만 해결하려는 것인가?

이 질문에 대한 필자의 해답은 지난 10년 동안 IT 직원 생산성 서비스를 이끌고, IT를 전통적인 제품 부서처럼 운영하는 제품 중심 조직 전환에 깊이 관여한 경험에서 비롯됐다. 필자는 IT를 하나의 비즈니스처럼 바라보고 운영해 왔다. 이러한 경험은 상장사와 사모펀드 소유 소프트웨어 기업에서 구독 기반 모델로 전환하는 과정을 두루 거치며 축적된 것이다. 특히 사모펀드 환경에서는 운영 효율성과 재무 최적화가 필수적인 조건이었고, 이러한 기반 위에서 AI 챗봇은 당시 우리 조직에 적합한 해법이 아니라고 판단하게 됐다.

운영 효율성, 티 나지 않는 경쟁력

2015년, 필자는 한 상장된 SaaS 기업에 합류해 협업 서비스를 총괄했고, 글로벌 1만 1,000명 규모 조직에 ‘급진적 협업(radical collaboration)’을 구현했다는 평가를 받았다. 이는 제품 중심 조직으로의 전환을 지원하고, 필자 스스로 선도적으로 그 방식을 실천하며, 각 서비스를 하나의 소규모 비즈니스처럼 운영했기 때문에 가능했다. 또한 그래픽 디자인과 MBA 교육을 접목해 IT 서비스를 창의적으로 마케팅하고 전달하는 데 활용했다.

이 시기 필자는 ‘설명서 없는 서비스(No instructions!)’라는 원칙을 만들었다. IT 서비스를 이용하는 직원이 마찰 없는 경험을 누릴 수 있어야 한다는 철학에서였다. 수십억 명이 설명서 없이 스마트폰을 사용하는 세상에서, IT 서비스라고 달라야 할 이유가 없다는 생각이었다. 물론 고급 기능을 원한다면 도움말이나 문서가 필요하겠지만, 그것은 더 이상 기본 지원이 아니라 예외적인 경우다.

AI 챗봇이 불필요하다는 결론에 이르게 된 결정적인 성과는, 2019년부터 합류한 사모펀드 소유 소프트웨어 기업에서 나왔다. 필자는 이곳에서 IT 직원 생산성 부문을 이끌며, IT 인프라 조직의 상당 부분을 담당했다. 입사 후 몇 주 만에 L1, L2, L3 팀이 지원 티켓 처리에 압도당하고 있다는 사실을 알게 됐다. 가장 숙련된 오피스365 엔지니어에게 시간을 어떻게 쓰는지 물었을 때, 그의 대답은 충격적이었다. 전체 시간의 80%를 L1과 L2 티켓 처리에 쓰고 있다는 것이었다. 동시에 대형 프로젝트도 여러 개 진행 중이었기에, 이 구조는 지속 가능하지 않았다.

필자는 이를 해결하기 위해 두 가지를 동시에 추진해야 한다고 판단했다. 단순히 발생한 문제에 그때그때 대응하는 방식에서 벗어나, 전략적이고 제품 중심의 운영 모델로 한 번에 전환해야 했던 것이다. 첫 번째는 팀별로 제품과 서비스를 전담하게 하여, RACI 모델에서 설명하는 바와 같이 처음부터 끝까지 책임을 부여하는 방식이다. 두 번째는 서비스 지원 구조를 최적화해 적절한 사람이 적절한 업무를 수행하게 만드는 것이었다. 이 글에서는 후자인 ‘좌측 이동(shift-left)’ 전략에 초점을 맞추겠다. 이는 본질적으로 L3 티켓을 L2로, L2를 L1으로 단계적으로 이관하는 구조다.

당장의 목표는 엔지니어 자원을 확보해, 티켓 발생의 근본 원인을 제거하는 데 집중할 수 있도록 하는 것이었다. 이를 실행에 옮기기 위해 우리는 월간 서비스 리뷰(Monthly Service Review, MSR) 회의 구조를 전면 개편했다. 기존의 단순 보고 중심 회의는 집중도 떨어지는 다중작업 시간이었다면, 이제는 논의와 정렬을 위한 실질적인 워크세션으로 전환했다. 이를 통해 근본 원인 제거와 서비스 단순화를 우선순위로 삼고, 바로 실행 가능한 과제에 스프린트 자원을 투입했다.

초기에는 스프린트 자원이 거의 없었지만, 의외로 많은 사람이 자기 업무를 효율화할 수 있는 일이라면 시간을 따로 내서 참여했다. 그 결과, 티켓 발생 자체를 줄일 수 있었고, 이것은 화려하지도 쉬운 일도 아니었지만 전략적인 움직임이었다.

2년 동안 우리 기업은 L1 티켓을 55%, 전체 티켓 수를 29%(인력 변동 조정 반영 기준) 줄였다. L3 엔지니어와 아키텍트는 전략적 과제, 혁신, 아키텍처, 보안, 멘토링에 집중할 수 있게 되었고, L2 팀은 L3 엔지니어와 협업할 시간이 확보되면서 경력 성장을 위한 기회를 얻었다. 또한, 해외 IT 헬프데스크를 담당하던 L1 외부 관리 서비스 제공업체(MSP)에 대한 지출도 줄일 수 있었다. 우리는 해당 업체와 함께 전달 모델을 개선했고, 이들은 우리의 좌측 이동(shift-left) 전략을 적극 지원했다. 그 결과, 기존의 단순 지원 수준을 넘는 인력으로 구성할 수 있었고, 계약 조건도 조정할 수 있었다.

우리는 여기서 멈추지 않았다. 서비스나우(ServiceNow) 내 비대해진 지식 문서를 정비했고, 오래된 문서는 삭제하고 남은 자료는 명확성과 사용자 경험을 중심으로 다시 작성했다. 이 과정에서도 데이터 기반 접근 방식과 “설명서 없는 서비스”라는 원칙을 유지했다. 조회 수가 높은 문서는 해당 문서가 아예 필요 없도록 서비스를 개선할 여지가 있는지를 중심으로 분석했다.

제품 소유와 운영 효율성에 대한 자부심이 조직 내 문화로 자리 잡자, 팀에서 자발적인 아이디어가 쏟아졌다. 예를 들어 자산 반납을 위한 셀프서비스 기능은 L2 티켓 업무량을 6% 줄였고, IT 직원에게 서비스나우를 통해 커뮤니케이션 모범 사례를 교육한 결과, 티켓 상태 문의 전화가 70% 줄었다. 특히 인수합병(M&A) 발표를 계기로 전체 인력의 약 30%에 해당하는 2,000대의 노트북 운영체제를 전면 재설치하는 프로젝트를 비즈니스와 공동으로 추진할 수 있었다.

이전부터 노트북 자동 프로비저닝 시스템을 도입해 두었기에, 전체 작업은 사용자당 평균 3시간이면 끝났고 상당수는 셀프서비스 방식으로 진행됐다. 덕분에 이 대규모 작업을 10주 만에 마무리할 수 있었고, 비밀번호 재설정 티켓도 크게 줄었다. 이제 셀프서비스 솔루션이 전 세계에서 제약 없이 작동했기 때문이다.

이처럼 탄탄한 기반이 갖춰지고 팀의 성과에 대한 자부심이 커지자, 필자는 업계 평균과 비교해 우리 수준이 어떤지 묻기 시작했다. 그 결과, 시간, 품질, 비용의 관점에서 IT 지원 서비스를 추가로 최적화하는 프로젝트를 주도하게 됐다. 우리는 IT 지원을 계층과 서비스 단위로 나눠 주요 지표를 분석했다.

이 분석을 통해 여전히 최적화되지 않았고 비용이 과도하게 소요되는 일부 영역이 드러났다. 특히 싱가포르와 샌프란시스코 베이 에어리어 본사 같은 일부 사이트에서는 현장 IT 인력과의 비공식 관계에 의존한 지원 구조가 문제였다. 현장 지원 요청은 대부분 고참 L2 기술자가 맡고 있었고, 이들이 L1 수준의 티켓 업무에 주로 투입되고 있었다.

이 같은 문화를 바꾸는 일은 쉽지 않았다. 하지만 우리는 성공했다. 사용률을 기준으로 기술 지원 창구 운영 시간을 제한하자는 명확한 근거를 마련했고, 사람들이 가장 많이 찾는 시간대에만 운영하도록 조정했다. 동시에 L1 IT 헬프데스크가 신속하고 효과적으로 처리한 대표적인 티켓 사례를 중심으로 이메일, 포스터, 디지털 사이니지, 그리고 무엇보다 L2 기술 지원 인력을 통한 구전 방식으로 대대적인 홍보를 진행했다.

문제는 ‘지원’이 아니다

AI 혁신의 물결이 닥쳤을 때, 경영진은 L1 외부 관리 서비스(MSP)를 AI 챗봇으로 대체할 수 있느냐고 물었다. 그러나 필자의 1페이지 요약 슬라이드는 오히려 비용이 더 많이 든다는 사실을 보여주었고, 이는 경영진에게 실망을 안겼다. ROI가 긍정적으로 나온 단 하나의 벤더조차도 회수 기간이 4년 이상이었고, 대규모 이니셔티브나 시스템 전환, 집중 지원(hyper-care)과 같은 업무를 담당하던 MSP 인력을 상실하게 되는 치명적인 단점이 있었다.

이 순간 필자는 확신을 얻었다. AI는 문제를 ‘해결’하는 것이 아니라, 잘못 설계된 IT 서비스의 ‘증상’을 완화하는 도구라는 사실이다. 구체적으로 말하면, AI 챗봇은 지원 효율 지표를 개선하고 티켓 처리 비용을 낮추지만, 그 핵심은 인간보다 더 빠르고 정확하게 도움말(Knowledge Base)나 자주 묻는 질문(FAQ)을 찾아주는 것에 불과하다. 이는 혁신적이거나 전환적인 변화가 아니라, IT 지원의 점진적인 개선에 불과하다.

만약 AI 챗봇이 IT 지원 경험을 크게 향상시켰다면, 그것은 그만큼 기존 IT 서비스가 사용자 경험을 고려하지 않고 설계됐다는 반증일 수 있다. 결국 몇 년이 지나면 또다시 같은 질문이 반복될 것이다. “IT 지원 비용을 어떻게 절감할 수 있을까?”, “왜 직원들은 여전히 IT 서비스에 불만을 갖고 있을까?” 그 이유는 분명하다. 진짜 문제는 ‘지원’이 아니라, 바로 ‘서비스 설계’에 있기 때문이다.

물론 대규모 조직의 경우, 티켓량이 많은 상황에서 잘 설계된 지원 전략의 일부로서 AI 챗봇이 효과를 낼 수도 있다. 하지만 대부분의 중견기업에서는 IT 서비스를 사용자 중심으로 정교하게 설계하고, IT 지원을 최적화하면 AI 챗봇의 ROI는 쉽게 무너진다.

필자가 몸담았던 기업의 사례에서도 알 수 있듯, 근본적인 문제를 해결하는 일은 결코 단기간에 이루어질 수 있는 일이 아니었다. 이는 수년에 걸친 여정이었고, 전략적 기획과 지속적인 실행 노력이 필요했다. 특히 사모펀드 환경의 강도 높은 비용 절감 요구 속에서 우선순위를 유지하는 일은 더욱 어려웠다. 그러나 결국 우리는 진짜 문제를 해결했고, 그 덕분에 AI 챗봇 전략 자체가 필요하지 않게 됐다.
dl-ciokorea@foundryco.com