메가존클라우드, 젠AI360 v2 출시··· “생성형 AI 활용·관리 돕는 플랫폼 적용”

작년 9월 출시된 젠AI360을 업그레이드한 이번 서비스는, 그간 회사가 수행한 생성형 AI 프로젝트 경험을 바탕으로 기업들이 생성형 AI를 더욱 쉽고 효율적으로 도입·운영할 수 있도록 개선됐다.

기업 고유 데이터를 통해 생성형 AI 서비스를 사용하고 관리할 수 있도록 지원하는 생성형 AI 통합 관리 솔루션 ‘젠AI360 플랫폼’을 추가함으로써 기업이 생성형 AI를 쉽게 활용하고 관리할 수 있도록 한 것.

이를 통해 사용자는 기업 맞춤형 생성형 AI를 사용하고, 운영관리자는 프로그래밍 지식 없이도 생성형 AI 서비스를 설정하고 최적화할 수 있다고 메가존클라우드는 강조했다.

회사에 따르면 젠AI360 플랫폼은 기업 내에서 사용하는 ERP(전사적 자원 관리), DW(데이터 웨어하우스) 등의 테이블 기반 정형 데이터는 물론 워드, PPT, PDF 등의 비정성 문서 데이터를 아우르며, 내부 데이터 기반 답변과 함께 웹 검색 기반의 답변도 제공할 수 있다.

즉 기업 내 관련 데이터가 없거나 내부 데이터로 답변이 어려운 질문의 경우, 웹 검색을 수행해 방대한 인터넷 정보를 분석하고 핵심 내용을 요약해 답변한다는 설명이다.

특히 모든 답변에는 참고한 웹 페이지의 출처가 함께 표시되며, 사용자는 출처 클릭 시 원문 전체를 직접 확인할 수 있어 정보의 신뢰성과 투명성을 보장한다고 회사는 전했다.

젠AI360 플랫폼은 이 밖에도 ‘RAG(Retrieval-Augmented Generation·검색증강생성) Manager’ 기능도 제공해 사용자들이 생성형 AI의 답변 신뢰성을 높이는 데 도움을 준다. RAG는 LLM(대형 언어 모델)의 출력을 최적화해 응답을 생성하기 전에 학습 데이터와 소스 외부의 신뢰할 수 있는 지식 베이스를 참조하도록 하는 프로세스다.

또한, 문서 유형별 최적화된 답변을 추출할 수 있는 옵션을 제공하며, AI의 답변 정확도와 스타일을 최적화하기 위해 검색 알고리즘과 LLM 설정값을 조정하는 기능도 갖췄다. 예를 들어, 문서 분석에 사용될 AI 모델을 직접 선택할 수 있고, 도표나 이미지가 포함된 문서는 이미지 인식 방식을 별도로 설정할 수 있다.

PDF나 워드 문서의 경우 목차나 페이지 단위로 내용을 분석할지, 또는 유사한 내용끼리 묶어서 분석하는 등 문서의 특성과 구조에 맞게 다양한 분석 옵션을 제공함으로써 기업이 보유한 데이터로부터 더욱 정확하고 의미 있는 정보를 추출할 수 있도록 지원한다.

운영관리자는 이러한 생성형 AI 기능 제어와 관리를 직관적인 대시보드를 통해 수행할 수 있다. 다양한 설정값 변경을 실시간으로 테스트할 수 있으며 자동으로 생성되는 평가 데이터셋을 통해 검색 정확도와 답변 품질을 즉시 확인할 수 있다.

데이터 보안과 관리도 감안했다. 시스템 관리 기능을 통해 운영관리자는 데이터 접근 권한을 손쉽게 설정할 수 있으며, 사용자 그룹에 따라 접근 권한을 세분화해 기업 내 데이터 거버넌스를 강화하고 보안 문제 발생을 차단할 수 있다.

한편 플랫폼에 더해 젠AI360 v2에는 실무자들의 AI 역량 강화를 위한 ‘젠AI360 트레이닝’도 선보인다.

메가존클라우드 AI & 데이터분석센터 공성배 센터장은 “젠AI360 출시 이후 다양한 기업의 생성형 AI 프로젝트를 진행하면서 생성형 AI 도입을 위한 전략 수립부터 로드맵 제시, 기업 내 담당자 교육, 운영 지원 서비스에 이르는 전반적인 과정을 촘촘하게 지원하는 동반자로 자리 잡을 수 있었다”라며 “젠AI360 v2는 이러한 경험과 노하우를 모두 담은 업그레이드다”라고 말했다.
[email protected]