일문일답 | 고객센터에 AI를 도입하려면?··· 알로리카 CEO가 말하는 현실 전략

포춘 500대 기업을 고객으로 둔 고객 경험 솔루션 기업 알로리카는 고객 서비스 분야에서 AI 혁신을 선도하고 있다. 고객사의 요구를 직접적으로 해결하면서 동시에 상담원의 역량을 높이는 솔루션을 개발해왔다. 글로벌 사업 기반을 바탕으로, 알로리카는 AI를 활용해 기업과 고객 간의 연결 방식을 변화시키고 있다.

CIO로 입사해 현재는 공동 CEO로 활동 중인 마이크 클리프턴은 상업용 AI 제품 개발과 내부 생산성 향상이라는 두 축에 집중하고 있다고 설명했다. 그는 최근 알로리카에서 얻은 경험을 바탕으로 AI를 통한 실질적 가치 창출 방법을 공유했다.

Q: 알로리카(Alorica)는 고객사에 상업용 AI 제품을 제공하는 동시에 내부 생산성 향상을 위한 AI도 적극적으로 활용하고 있다. 어떤 AI 제품을 개발하고 있나?

A: 알로리카의 핵심 사업은 고객 경험이다. 전화, 채팅, 웹 등 고객이 제공하는 모든 채널을 통해 매끄럽고 만족스러운 경험을 제공하는 일을 의미한다. 알로리카는 지속적으로 제품을 발전시키며 가치를 유지하고 있다. 예를 들어 음성 영역에서는 고객에게 빠르고 명확한 발음으로 필요한 정보를 제공하고, 자동화 수준을 높이는 데 주력하고 있다.

우리가 개발한 제품 중 ‘리볼트(ReVoLT)’는 실시간으로 음성을 72개 언어로 번역하는 기능을 제공한다. 또 다른 제품인 ‘에이전트 어시스트(Agent Assist)’는 통화를 실시간으로 듣고 질의 엔진을 작동시켜 상담원에게 적절한 안내를 제공한다. 이를 통해 상담원이 제품이나 지원 정보를 외울 필요 없이 바로 대응할 수 있게 돕고 있다.

Q: 고객 서비스 산업은 생성형 AI를 활발히 적용하는 분야다. 그 이유는 무엇일까?

A: 컨설팅 업체들은 이 산업의 생산성이 정량적으로 측정되기 때문이라고 설명한다. 생성형 AI처럼 대규모 기능을 도입하면 그 효과가 즉시 드러나므로 투자를 정당화할 수 있다. 예컨대 고객 서비스 상담원은 통화 시간에 따라 비용이 발생하기 때문에, 우리는 최초 통화 해결률과 SLA 관리 차원의 시간 추적을 면밀히 분석하고 있다. 새로운 기술을 도입할 때는 이렇게 측정 가능한 환경에 적용하는 것이 가장 빠른 방법이다. 효과를 바로 파악할 수 있기 때문이다.

Q: AI의 투자 수익률(ROI)을 판단할 수 있는 측정 환경 외에도, 어떤 데이터가 있어야 신뢰할 수 있는 사용 사례를 만들 수 있을까?

A: 과거에는 기계학습 모델이 필드 수준의 정보를 필요로 했기 때문에 구조화된 데이터가 필수였다. 그러나 이제는 데이터가 구조화돼 있든 아니든 상관없다. 이미지, 녹음 파일, 문서, PDF, 대용량 데이터 레이크 등 모든 데이터를 받아들일 수 있다. 중요한 건 데이터를 수집할 수 있어야 하고, 그 데이터가 오래도록 활용 가능해야 한다는 점이다. 데이터를 모델을 위한 원료, 즉 연료라고 보면 된다

구조보다 더 중요한 것은 데이터의 ‘범위’다. 모델은 수집한 데이터를 기반으로 학습하기 때문에, 충분한 양의 데이터 확보가 무엇보다 중요하다. 학습에 활용되는 데이터가 많을수록 모델이 잘못된 답변을 내놓을 위험을 줄일 수 있다.

데이터를 수집하고, 질문에 대한 답을 테스트하는 수준까지 검증했다면 이제는 경계를 설정해야 한다. 예를 들어, 딥시크는 자사의 모델이 정치적 질문에는 답하지 않도록 설계했다. 정치 관련 데이터를 학습했음에도 불구하고, 해당 질문에는 “답변할 수 없다”고 응답하도록 설정한 것이다.

Q: 고가치 생성형 AI 사용 사례를 만들기 위한 요소를 더 살펴보자. 데이터의 범용성과 함께 어떤 조건들이 필요한가?

A: 알로리카는 AI를 세 가지 관점에서 바라본다. 첫 번째는 운영 관점이다. 인력, 재무, 영업 데이터를 담고 있는 BI 웨어하우스는 없어지지 않을 것이다. 하지만 여기에 매시간 데이터를 새로 반영하면 단순한 대시보드 이상의 것을 얻을 수 있다. 예컨대 ‘특정 국가, 특정 센터에서, 8시간 동안 고객이 머문 모든 시간’을 정확히 묻고 그에 대한 답을 얻을 수 있게 된다.

두 번째는 생산성 향상이다. 이는 내부에 AI를 적용하거나, 전 세계적으로 하루 수조 건에 달하는 고객 상담 데이터를 기반으로 반복 업무를 재활용해 새로운 AI 제품을 개발하는 방식이다.

세 번째는 상담원의 경험이다. 우리는 상담원을 위한 시뮬레이션 기반의 AI 교육 프레임워크를 구축했다. 상담원이 AI 가상 시뮬레이터에 접속해 실제처럼 대화하며 점수를 받는 방식이다. 10분짜리 AI 교육이 3시간짜리 가상 수업과 맞먹는 효과를 낸다. 실제 업무 상황을 안전한 환경에서 미리 경험해볼 수 있어 학습 속도도 빠르다.

Q: 새로운 기술은 한 번 도입한다고 끝나는 것이 아니다. 생성형 AI 기술의 도입 곡선은 어디까지 와 있다고 보는가?

A: 지금은 아직 초기 단계라고 판단한다. 이제 막 첫 단계를 밟고 있는 수준이다. 앞으로 이 기술이 널리 퍼지면, 산업별 맞춤형 모델이 등장할 것이고, 기업들이 자체 모델을 구축해 외부 파트너나 물류업체와 공유하는 사례도 늘어날 것이다. 예를 들어 대형 헬스케어 기업이 자체 LLM을 활용해 파트너와 함께 사용하는 방식도 현실이 될 수 있다.

Q: AI 대응 압박을 받고 있는 기술 리더에게 어떤 조언을 해주고 싶은가?

A: AI에서 더 큰 가치를 얻고 싶다면, 조직 내 AI의 민주화를 시작해야 한다. 일부 기업은 데스크톱 수준에서 이 작업을 진행하며, 구글 노트북이나 코파일럿 같은 도구를 활용해 업무 그룹 단위의 간단한 모델을 만들고 초기 기능을 구현하는 데 집중하고 있다. 그러나 여기서 멈춰서는 안 된다

직원에게 AI 도구를 제공했다면, 다음 단계로는 반드시 두 가지 중요한 질문을 던질 수 있도록 유도해야 한다. ‘내 데이터를 어떻게 통합할 것인가?’, ‘이 도구에 어떤 방식으로 질문할 것인가?’를 특히 생각해봐야 한다. 이 두 가지 질문이 조직 전체에 내재화되면, 경쟁사보다 더 빠르게 AI를 민주화할 수 있다.

그 다음 단계는, 단순히 업무 그룹 수준의 문제 해결을 넘어 기업 전체의 문제로 확장하는 것이다. 이때는 기존 시스템 간의 통합 작업을 대체할 수 있는 에이전트 기반 AI(Agentic AI)를 활용할 수 있다. 별도의 통합 코드를 작성하지 않고도 데이터를 한 시스템에서 다른 시스템으로 이동시킬 수 있는 방식이다. 에이전트 기반 AI는 챗봇에 질의하며 작업을 수행하고, 챗봇은 이 상호작용을 통해 점차 학습한다. 이렇게 축적된 경험은 시간이 지나면서 반복 업무를 자동화하고 보다 정교한 기능으로 발전하게 된다.

클로드나 코파일럿 같은 도구를 활용해 데스크톱 수준에서 AI 활용을 확대한 이후에는, 기업 전체를 아우를 수 있는 아키텍처 방향을 결정해야 한다. 기업을 전반적으로 지원할 수 있는 구조를 마련하고, 일정 기간 유지할 수 있는 AI 투자 방향을 설정해야 한다. LLM, 데이터 수집 및 처리, 음성-텍스트 변환 등 특정 도구에 집중해도 좋다. 이런 기반 인프라만으로도 즉시 활용 가능한 역량이 생기며, 파일럿 프로젝트를 시작해 실질적인 ROI를 얻기 전에 실험해볼 수 있다.

알로리카는 여러 분야에서 파일럿을 진행하고 있으며, 동시에 소규모 봇을 만들어 반복 업무를 자동화하는 사례도 많이 보고 있다. 에이전트 기반 AI는 이미 확산되고 있으며, 여기에 분명한 기회가 존재한다. 가장 유망한 사용 사례부터 시작해 반복적인 작업을 자동화하고, 에이전트 AI를 활용해 보다 고도화된 업무까지 수행할 수 있다.

Q: 생성형 AI 도입을 앞둔 기업이 앞으로 확보해야 할 역량에는 무엇이 있을까?

A: 프롬프트 엔지니어는 모델에 적절한 질문을 던지는 데 능숙하다. 이러한 역량은 모든 팀에 걸쳐 확대해야 한다. 또한 부서 단위에서 AI 활용을 지원할 수 있는 ‘AI 협업가(AI collaborator)’도 필요하다. 이는 기술자가 아니라, 문제 해결을 위해 AI를 어떻게 활용할 수 있을지를 고민하는 촉진자 역할을 한다.

데이터 과학자도 여전히 중요하다. 이들은 데이터를 정리하고 수집하는 데 능숙하며, 모델이 올바르게 테스트되는지를 점검하는 역할을 맡는다. 하지만 전반적으로는 이제 막 학교를 졸업한 신입 인재가 중요하다. AI가 시간이 지나면서 기업 운영 방식을 어떻게 변화시킬지 예측할 수 없기 때문에, 새로운 가능성을 함께 탐색할 수 있는 이들이 바로 이 역할을 맡을 수 있다.
[email protected]