“시작이 절반, 생성형 AI 첫발 내딛기 4주면 충분”··· 메가존클라우드, ‘젠AI 360 V2’로 기업 AI 시장 정조준

생성형 AI에 대한 흥분과 열광은 어느새 다소 달라졌다. 환멸기에 이미 접어들었다는 진단이 있는가 하면 생성형 AI가 기업의 IT 지출에 미치는 영향이 단기간에는 그리 크지 않을 것이라는 관측도 있다. 천문학적인 투자와 비교되는 지지부진한 AI 도입으로 인해 ‘AI 스태그네이션’(AI stagnation)이라는 표현이 등장하기도 했다. 지난 7월 골드만삭스의 글로벌 주식 리서치 책임자 짐 코벨로는 ‘생성형 AI가 이목을 끈 지 18개월 지났지만 진정으로 혁신적인 애플리케이션은 단 하나도 없었다”라고 지적했다.

실제로 작년과 올해에 걸쳐 기업 최고위층의 관심 목록 상단에 올랐던 생성형 AI지만, 국내 기업은 물론 해외 기업 중에서도 생성형 AI를 활용해 본격적인 비즈니스 혁신을 끌어낸 사례는 찾아보기 어렵다. 오히려 대다수의 기업은 부족한 내부 역량과 값비싼 인프라 비용, 실용적인 비즈니스 사례 부족 등으로 인해 여전히 탐색 단계에 머물러 있는 상태라고 할 수 있다. 급격히 진화하는 상태의 생태계가 좀더 성숙하기를 기다리는 시각도 만연하다.

이러한 가운데 메가존클라우드(https://www.megazone.com/)는 2023년 9월 처음 선보인 젠AI360이 버전 2로 업그레이드된다는 소식을 알렸다. 컨설팅, 데이터 준비, 전략 수집 및 서비스 운영 중심의 생성형 AI 오퍼링이었던 젠AI360에 검색증강생성(RAG)을 비롯한 각종 기능을 관리할 수 있도록 한 플랫폼을 추가했다는 설명이다. 그간의 프로젝트 경험에서 얻은 노하우를 적용함으로써 생성형 AI 도입 및 활용을 가속할 수 있는 서비스로 고도화했다고 메가존클라우드는 덧붙였다. 메가존클라우드 공성배 (AI&데이터분석센터) 센터장과 만나 그간의 성과와 젠AI360 V2의 핵심 특징, 현장에서 확인한 국내 기업들의 생성형 AI 동향에 대해 들었다.

“기대 이상의 속도로 생성형 AI 확산 중”

젠AI360 오퍼링을 처음 출시한 2023년 메가존클라우드 ADC(AI&데이터분석센터)의 생성형 AI 매출은 ‘제로’였다. 생성형 AI를 탐색하려는 고객사를 대상으로 준비 상태를 함께 검토하고 PoC를 진행하며 첫 몇 개월을 보냈다. 2024년 시작과 함께 회사가 세운 목표는 2025년까지, 즉 약 2년 동안 25개의 프로덕션 사례를 개발한다는 것이었다. 당시로서는 결코 쉽지 않아 보이는 목표였다. 그러나 사업이 본격화되자 상황은 급변했다.

공성배 센터장은 “국내 기업들의 반응이 기대를 크게 넘어섰다. 지금까지 벌써 19개의 프로젝트를 진행했다. 예상보다 두 배 이상 빠른 페이스다. 업종도 다양하다. 초기에는 리테일 업종의 기업에 기회가 있을 것이라고 보았지만 오히려 제조 업종의 고객사가 더 많았다. 최근에는 금융과 같은 대표적인 규제 업종에서도 젠AI360 고객사가 출현하고 있다. 프로젝트별 매출 또한 초기에는 몇 천만원 선이었지만 이제는 수십 억 원 규모에 이르기도 한다”라고 말했다.

이러한 성과마저도 다분히 절제된 행보였다는 설명이다. 공 센터장에 따르면 생성형 AI 프로젝트에서도 역시 데이터가 관건이다. 프로젝트 개시에 앞서 컨설팅(디지털 스튜디오) 단계에서 양질의 데이터가 준비됐음을 확인한 때에만 프로젝트에 착수했다. 만약 고객사가 의뢰하는 프로젝트를 모두 진행했다면 30~40여 개에 달했을 것이라고 그는 귀띔했다.

이 같은 젠AI360의 성과는 탄탄한 현실 사례들로 뒷받침된다. 기업 고유의 지식과 데이터 소스를 사용하는 검색증강생성(RAG)을 적용함으로써 설비 매뉴얼 접근성 향상, HR 지원, 법무 지원 등의 효과를 창출하는 비교적 널리 알려진 사례는 시작일 뿐이었다. 기존 키워드 중심의 NLP 중심적 검색 엔진의 틀에서 탈피해 고객 경험과 매출 향상을 이끌어낸 한국 야구르트, 시나리오 베이스의 챗봇 패러다임에서 벗어나 고객의 감정을 인지하고 고객맞춤형 인터랙션을 구현한 하나투어, 생성형 AI를 활용해 핵심 비즈니스 자산인 보고서 상품을 새롭게 개발한 해피캠퍼스 등, 비즈니스 근간을 혁신했다고 할 만한 사례가 다수 출현했다.

공성배 센터장은 “미처 생각하지 못했던 참신한 활용 사례가 잇달아 등장하고 있다. 현장에서 느낀 사실은 우리나라가 IT 강국이 맞다는 점이다. 업종을 막론하고 디지털화가 탄탄하게 마련되어 있으며 일단 발을 담그면 무척 빠르게 소화하고 최적화하며 새로운 활용처를 스스로 발굴해 낸다”라고 말했다.

“AI는 철저히 현업 프로젝트여야… 젠AI360 V2 플랫폼의 개발 배경”

메가존클라우드가 올해 생성형 AI 영역에서 거둔 성과는 업계에서도 남다른 수준이다. 여러 글로벌 IT 벤더, 국내의 주요 IT 서비스 기업들 또한 생성형 AI 오퍼링을 제안하고 있지만 메가존클라우드만큼 빠르게 다양한 업종을 공략하고 풍부한 사례를 창출해 낸 곳은 드물다. 그 비결을 물어봤다.

공성배 센터장은 “접근법이 달랐다. 일부 타사의 경우 모델에 치중하는 경향을 보인다. 특정 모델을 파인튜닝해서 기업 고유의 모델을 만드는 영역에 집중하는 식이다. 우리는 이 분야를 버렸다. 모델 자체의 성능만으로는 기업이 원하는 수준의 훌륭한 답변을 절대로 얻을 수 없다고 본다. 이 영역은 파트너 기업과의 협업으로 대체하고 우리가 잘하는 데이터 최적화, 인프라 튜닝, 거버넌스 및 보안, 교육 및 문화 영역에 집중했다”라고 설명했다.

이러한 접근법은 생성형 AI에 대한 접근성에서 큰 차이를 낳았다. 고객 기업들은 4주 남짓한 기간에 성과를 확인할 수 있었다. 다른 어떤 경쟁사보다도 빠르고 민첩하게 실험할 수 있으며, 고객사들이 만족한 부분이기도 하다고 그는 전했다.

이러한 강점을 한층 높이려는 시도가 이번에 출시된 메가존클라우드 젠AI360 V2다. 다양한 업종의 고객과 다양한 사례에 대해 PoC를 진행하고 프로덕션 프로젝트를 진행하는 과정에서 메가존클라우드 ADC 센터는 ‘공통 플랫폼’의 필요성을 포착했다. 공통적인 튜닝 포인트를 모듈화하면 고객 기업의 실험 및 프로젝트 기간을 더욱 앞당길 수 있다고 판단한 것이다.

가령 RAG에 필요한 고객사 고유의 DW의 정형 데이터, 비정형 데이터, 웹 서치 데이터를 쉽게 활용할 수 있으며, 이들 데이터의 조합을 빠르면서도 다양하게 실험할 수 있기에 기업이 원하는 수준의 결과를 빠르고 쉽게 산출할 수 있게 된다.

플랫폼의 가치는 여기에 그치지 않는다. 현장에서 확인한 결과 관리 인원이 넉넉한 고객 기업은 드물었다. V2의 플랫폼은 관리하기 편한 생성형 AI를 구현하는 데에도 초점을 맞추고 있다. 비용 또한 자연스레 절감된다.

공성배 센터장은 “생성형 AI란 철저하게 현업 중심의 프로젝트여야 한다. IT가 관리 측면의 일부를 담당할 수 있지만 현업 인력이 가치를 느껴야 가치가 창출되고 확산할 수 있다. 이분들이 실제 사용과 관리를 쉽게 할 수 있도록 플랫폼화한 것이 바로 젠AI360 V2다. 시티즌 AI 시대의 마중물 같은 존재일 것으로 기대한다”라고 말했다.

“생성형 AI, 2~3년 비즈니스 전반으로 확산할 것”

메가존클라우드는 올해를 생성형 AI 확산 원년으로 바라본다. “올해를 기점으로 생성형 AI가 잠재력을 가진 기술에서 현실 성과를 창출하는 기술로 전환했다”라는 진단이다. 나아가 2025년 더욱 높은 목표를 그리고 있다. 최소한 올해 두 배 이상의 비즈니스 성과를 목표로 한다. 향후 2~3년 안에 기업의 거의 모든 프로세스와 데이터에 생성형 AI가 접목될 것으로 기대하기 때문이다.

공성배 센터장은 “일단 발을 담근 기업들의 경우 생성형 AI를 향후 어떤 워크로드에 적용해 어떻게 확산할지에 대해 구체적인 계획을 수립하고 있다. 분명 적응 기간이 필요하고 문화적 전환이 필요하지만 그 문턱이 결코 높지 않다. 생성형 AI에 대한 회의적 시각도 나름 근거가 있지만, 비즈니스 현장에서의 확산은 오히려 기대를 넘어설 가능성이 크다. 해외 거대 글로벌 기업들만이 누리는 최첨단 기술이 결코 아니다. 생성형 AI를 참신하게 활용하는 국내 기업들이 이미 출현하고 점점 많아지고 있다. 앞으로 훨씬 폭발적인 양상을 보일 것”이라고 말했다.

그러면서도 그는 조급할 필요는 없다고 강조했다. 최신 GPU를 다량 구입해야 할 압박감을 느낄 이유도 없으며, 나날이 진화하는 생성형 AI 모델 생태계를 따라잡기 위해 전문 인력을 확보해야 할 기업은 극소수에 불과하다는 진단이다. 생성형 AI를 활용해 송두리째 새로운 비즈니스 혁신을 빠르게 도출해야 한다는 목표를 세울 이유도 없다. 클라우드가 그랬던 것처럼 적응과 전환을 염두에 두고 오히려 과장을 경계할 필요가 있다고 그는 주문했다.

공성배 센터장은 “거창한 Something New를 기대하면 오히려 곤란하다. 1시간 걸리던 작업이 30분으로 단축된 것만으로도 엄청난 개선일 수 있다. 똑같은 질문을 직원 수만큼 받는 연말정산 대응 등의 활용처도 훌륭한 시작점이다. 일단 경험해야 한다. 경영진과 현업이 효용성을 느끼면 그때부터 시작이다. 한발 앞서 움직인 기업들이 공통으로 전하는 이야기다”라고 전했다.
[email protected]