클라우데라, AI 추론·데이터 웨어하우스 온프레미스 기능 확장

클라우데라가 최근 발표한 ‘기업용 AI와 데이터 아키텍처의 현황’ 보고서에 따르면, 전체 기업의 약 42%가 데이터를 데이터 웨어하우스에 저장하고 있는 것으로 나타났다. AI 애플리케이션이 해당 데이터에 직접 접근할 수 있다면, 민감 정보를 보안 경계 밖으로 이동시키지 않고도 인사이트를 도출할 수 있어 보안 리스크와 규제 대응 부담을 줄일 수 있다.

엔비디아 기술 기반의 클라우데라 AI 인퍼런스는 LLM, 이상 거래 탐지, 컴퓨터 비전, 음성 AI 등 다양한 모델을 자체 데이터센터에서 배포·운영할 수 있도록 지원한다. 엔비디아 블랙웰 GPU, 다이나모-트리톤 추론 서버, NIM 마이크로서비스를 활용하며, 네모트론 오픈 모델도 포함된다. 이를 통해 기업은 클라우드 비용 변동성을 피하면서 지연 시간, 규제 준수, 데이터 프라이버시를 자체적으로 관리할 수 있다.

트리노 기반 데이터 웨어하우스 역시 데이터센터 환경을 지원하며, 데이터 전반에 걸친 보안·거버넌스·가시성 확보와 함께 분석 속도 향상을 목표로 한다. AI 기반 분석 및 시각화 기능이 통합돼, 보안과 운영 통제를 유지하면서 데이터를 활용할 수 있도록 설계됐다.

클라우데라에 따르면, 이번 업데이트를 통해 클라우데라 데이터 비주얼라이제이션에는 AI 기반 기능이 추가됐다. 차트와 시각 자료에 대한 요약과 맥락 정보를 자동으로 생성하는 AI 어노테이션 기능을 통해 데이터에 대한 이해도를 높일 수 있으며, 일시적인 오류를 안정적으로 처리하고 사용 분석 정보를 제공해 운영과 최적화를 지원한다. 또한 각 AI 쿼리에 메시지 ID, 타임스탬프, 질문 내용을 기록하는 쿼리 로깅 및 추적 기능을 적용해 투명성을 높이고 문제 해결을 용이하게 했다. 이와 함께 설정 파라미터 개선을 통해 관리자 지정과 권한 관리 절차를 단순화했으며, SSO 기반 설정을 지원해 운영 편의성을 높였다.

클라우데라 최고제품책임자(CPO) 레오 브루닉은 “이번 온프레미스 확장은 기업에게 전례 없는 수준의 AI 통제력과 유연성을 제공한다”라며, “데이터센터에서 클라우데라 AI 인퍼런스, 트리노 기반 데이터 웨어하우스, 데이터 비주얼라이제이션을 활용하면, 기업은 가장 중요한 데이터를 이동하지 않고 바로 AI와 분석을 안전하게 배포할 수 있다. 이는 데이터 보안, 규제 준수, 운영 효율성을 확보하고 혁신과 인사이트를 도출할 수 있는 방법”이라고 말했다.

엔비디아 전략적 기업 파트너십 부사장 팻 리는 “기업 데이터의 가치는 AI를 데이터가 존재하는 어느 곳에 안전하고 유연하게 배포할 수 있을 때 실현된다”라며, “클라우데라와의 협력을 통해 엔비디아 블랙웰 GPU, 다이나모-트리톤 및 NIM 마이크로서비스를 사용해 AI 인퍼런스를 배포하고 확장할 수 있으며, 이를 통해 통제력, 예측 가능한 경제성 및 데이터 센터 효율성을 확보할 수 있다”라고 전했다.
dl-ciokorea@foundryco.com