클라우데라, 코드 없이 사용하는 ‘RAG 스튜디오’ 공개

클라우데라에 따르면 새로운 RAG 스튜디오는 고객이 실시간 기업 데이터를 사용해 몇 분 안에 RAG 챗봇을 배포할 수 있도록 지원한다. RAG 스튜디오는 코드가 필요 없기 때문에, 기술 전문가가 아니어도 AI 애플리케이션을 쉽게 사용할 수 있다는 설명이다. 이는 비즈니스, IT 팀 간 AI 개발 협력 강화, 더 많은 사용자가 AI 도구를 활용할 수 있도록 한다. RAG 스튜디오는 온프레미스 또는 클라우드에서 안전하고 신뢰할 수 있는 실시간 데이터를 활용해 기업이 AI의 가치를 실현할 수 있도록 지원한다.

클라우데라는 AI 챗봇이 AI 서비스 중 가장 널리 사용되지만, 기업들이 부정확한 응답으로 인한 리스크에 지속적으로 노출되고 있다고 밝혔다. 클라우데라에 의하면 챗GPT의 경우 어떤 작업을 하느냐에 따라 성공률이 0.66%에서 89%까지 크게 달라지는 것으로 나타났다. RAG 는 검색 기반 시스템과 생성형 AI의 강점을 결합한 AI 패러다임으로, 개선된 설명가능성과 신뢰도를 통해 향상된 정확도와 문맥 관련성을 제공한다. RAG 지원 챗봇이 일반적인 정보에 의존하지 않고 실시간 기업별 데이터를 기반으로 질문에 답하기 때문에 AI 환각 현상을 현저히 줄여준다는 설명이다.

RAG 스튜디오가 클라우데라 고객들에게 제공하는 이점은 다음과 같다.

• 기업 데이터 가치 극대화: 클라우데라는 기업이 현재 하이브리드 및 멀티 클라우드 생태계 전반에 걸쳐 정형 및 비정형 데이터가 모두 분산되어 있는 복잡하고 데이터가 풍부한 환경에 놓여있다고 언급했다. RAG 스튜디오는 이러한 데이터를 AI 워크플로우에 통합해 동적 검색과 상황에 맞는 응답을 지원함으로써 이를 효과적으로 활용할 수 있도록 지원한다.
• 확장 가능, 비용 효율적 AI 솔루션 지원: 기업에서 AI 솔루션을 확장하면 높은 컴퓨팅 비용, 복잡한 모델 재교육, 강력한 거버넌스 보장과 같은 문제가 수반될 수 있다. RAG 스튜디오는 컴퓨팅 집약적 생성 모델에 대한 의존도를 줄이고, 클라우데라 플랫폼과 통합돼 비용 효율적이고 안전한 AI 워크플로우를 제공하며, 지속적인 모델 미세 조정을 제거해 이를 해결한다.
• 기업 사례를 위한 설명가능하고 신뢰할 수 있는 AI 구동: 의료, 금융, 정부와 같이 규제가 엄격한 산업의 조직들은 신뢰할 수 있는 AI 솔루션이 필요하다. RAG 스튜디오는 생성된 결과물을 조직에서 승인한 데이터 소스에 직접 연결해 설명 가능성 및 추적 가능성을 내장함으로써 클라우데라의 AI 스택을 강화한다. 이를 통해 검증 가능하고 감사 가능한 데이터를 기반으로 AI 의사결정을 내리고 AI 기반 추천에 대한 투명한 추론을 제공한다.

아바스 리키 클라우데라 최고 전략 책임자는 “신속한 고객 지원부터 정보 기반 제품 기반까지 RAG 스튜디오의 이점은 비즈니스 전반에 유효하다. 노 코드 RAG 스튜디오는 빠른 프로토타입 제작, 사전 구축된 통합, 운영 효율성을 제공하며, AI 전략을 올바르게 수립하고자 하는 기업들의 효율적인 도구로 기업용 AI를 가속할 것”이라고 설명했다.

최승철 클라우데라코리아 지사장은 “국내 데이터 시장은 AI 기술 도입에 대한 높은 관심을 보이고 있지만, 많은 기업들이 데이터 사일로, 인프라 복잡성, 전문 인력 부족 등으로 도입에 어려움을 겪고 있다. 클라우데라 RAG 스튜디오는 복잡하며 데이터가 풍부한 환경을 탐색하고, 설명 가능성 및 추적 가능성을 통해 AI 솔루션을 확장하며, 지속적인 모델 미세 조정을 제거하는 것을 지원할 것”이라고 밝혔다.
[email protected]