R1-제로는 지도학습 없이 강화학습만으로 개발된 모델로, 자체 검증, 성찰, 연쇄적 사고 등 뛰어난 추론 능력을 보여준다. 이 모델에서 발견된 무한 반복, 가독성 저하, 여러 언어 혼재 등의 문제점을 보완하기 위해 R1은 강화학습 전 기초 데이터를 선학습하는 방식으로 개발됐다. 6,710억 개 파라미터 규모의 R1은 128K 컨텍스트 길이를 지원한다.
MIT 라이선스로 허깅페이스를 통해 공개된 R1과 R1-제로는 학계 및 연구 단체의 활용을 위해 상업적 제한 없이 제공된다. 이번에 공개된 320억 개 파라미터 규모의 ‘DeepSeek-R1-Distill-Qwen-32B’는 다양한 벤치마크에서 오픈AI의 소형 모델을 상회하는 성능을 기록했다. 딥시크가 성능 평가를 위해 사용한 벤치마크 도구는 MATH-500, 코드포스(Codeforces), MMLU 등이 있다.
딥시크-R1은 딥시크의 챗봇 플랫폼 딥씽크에서 테스트해볼 수 있다. 허깅페이스를 통해 모델 가중치와 코드도 공개됐으며, API 통합도 가능하다.
이 모델의 핵심 경쟁력은 가격이다. 딥시크 R1은 오픈AI의 o1 모델과 비교해 90~95% 낮은 비용으로 운영이 가능하다. 구체적인 가격을 보면, 오픈AI o1은 입력 토큰 100만 개당 15달러, 출력 토큰 100만 개당 60달러인 반면, 딥시크 R1은 입력 토큰 100만 개당 0.55달러, 출력 토큰 100만 개당 2.19달러로 책정됐다.
이러한 파격적인 가격 정책과 오픈소스 공개, 그리고 오픈AI에 견줄만한 성능은 AI 시장에 새로운 변화를 예고한다는 평가를 받고 있다.
NYU 스턴 경영대학의 AI 수석 아키텍트 코너 그레넌은 링크드인을 통해 “대다수의 AI 모델이 수천 개의 해결된 예제를 선학습해야 하는 반면, 딥시크는 순수한 시행착오로 수학을 학습했다. 이는 마치 아이가 실험을 통해 대수학을 이해하는 과정과 유사하다”고 설명했다. 그레넌은 딥시크가 전체 모델과 학습 데이터, 평가 방법을 모두 공개하고 학습 과정의 투명성을 보여준 점을 높이 평가했다. 그는 “대부분의 기업들이 최종 점수만 공개하는 데 반해, 딥시크는 25% 정확도에서 시작해 순수 강화학습을 통해 꾸준히 향상되는 전체 과정을 공개했다. 오픈소스 AI가 예상보다 빠르게 발전하고 있으며, 중국 기업이 이처럼 우수하고 투명하게 성과를 내는 점이 놀랍다”고 평가했다.
한편 중국 기업이 개발한 AI 모델인 만큼, 학습 데이터의 편향성에 대한 우려의 목소리도 나오고 있다. 테크크런치는 “딥시크 R1은 중국에서 개발된 모델로서 중국 인터넷 규제 기관의 기준에 따라 검열된다. 천안문 사건이나 대만의 자치권과 같은 주제에 대한 질문에는 응답하지 않는다”라며 “이런 검열은 R1뿐만 아니라 중국의 다른 추론 모델들도 동일하게 적용받는 규제다”라고 전했다.
딥시크는 2023년 중국 헤지펀드사 하이 플라이어 퀀트(High-Flyer Quant)에서 분사하여 설립된 AI 스타트업이다. 저렴한 가격을 내세운 LLM 딥시크 V3를 출시하면서 본격적으로 업계에서 주목받기 시작했다.
[email protected]
Read More from This Article: “가격은 오픈AI 대비 95% 저렴, 성능은 비슷” ··· AI 업계 슈퍼 루키 딥시크, 추론 모델 ‘R1’ 오픈소스로 공개
Source: News