스노우플레이크, 코텍스 AI에서 딥시크-R1 지원··· “서버리스 추론에 활용”

스노우플레이크는 딥시크-R1이 지도학습(SFT) 없이 대규모 강화학습(RL)만으로 훈련된 최초의 오픈소스 모델이라고 설명하며, 자체검증, 스스로 답을 찾는 추론하는 사고체계(Chain-of-Thought, CoT), 추론 생성 등이 가능하다고 밝혔다. 폐쇄형 모델인 오픈AI의 o1 수준의 고급 추론, 수학, 코딩 성능으로 현재 전 세계 오픈소스 모델 중 리더보드 최상위권에 자리 잡았으며, 응답의 무한 반복, 언어 혼재, 낮은 가독성 문제를 해결하고 추론 능력을 개선하기 위해 콜드 스타트 데이터를 전략적으로 통합했다는 설명이다.

스노우플레이크

스노우플레이크는 딥시크-R1을 코텍스 AI에서 서버리스 추론에 사용할 수 있는 비공개 프리뷰 형태로 제공한다. 배치(SQL 함수)와 대화형(파이썬 및 REST API) 모두를 통해 액세스할 수 있어 기존 데이터 파이프라인, 애플리케이션 및 통합개발환경(IDE)에 통합된다. 코텍스 AI는 고객이 코텍스 가드(Cortex Guard)를 활성화할 수 있도록 해 잠재적으로 유해한 콘텐츠를 필터링하고 생성형 AI 애플리케이션을 대규모로 안전하게 배포할 수 있도록 지원한다.

스노우플레이크는 모델이 안전한 서비스 범위 내에서만 작동하고 고객 데이터가 모델 제공자와 공유되지 않도록 보장한다고 설명했다. 또한, 모델이 정식 출시되면 고객이 역할 기반 액세스 제어(RBAC)를 통해 딥시크-R1에 대한 접근을 설정해 거버넌스를 관리할 수 있다고 밝혔다. 현재 미국 내 고객의 스노우플레이크 계정에서 사용할 수 있다.

스노우플레이크 코텍스 AI는 대규모언어모델(LLM) 추론, 파인튜닝, 검색기반생성(RAG) 기능을 포함한 종합적인 툴 세트를 제공하고 있다. 스노우플레이크는 이를 통해 정형 및 비정형 데이터를 함께 분석하고 AI 기반 애플리케이션을 쉽게 구축할 수 있다고 설명하며, 메타(Meta), 미스트랄(Mistral), 스노우플레이크를 포함한 주요 오픈소스 및 폐쇄형 LLM 모두 지원함으로써 간편하게 AI를 통합할 수 있다고 언급했다.

스노우플레이크 AI 연구팀은 “딥시크-R1의 추론 비용을 추가로 절감해 고객에게 더 큰 비용 대비 성능 효율성을 제공할 계획이다. 딥시크-R1을 통해 기업은 최첨단 AI 기술을 기반으로 한 생성형 AI 애플리케이션을 보다 빠르게 제공함으로써 생태계에서 혁신의 새로운 표준을 제시하게 될 것”이라고 말했다.

스노우플레이크 코텍스 AI에서 지원하는 딥시크-R1에 대한 자세한 내용은 블로그에서 확인할 수 있다.
[email protected]