“SLM 사용량, 2027년엔 LLM보다 3배 많아질 것” 가트너

가트너는 범용 LLM이 강력한 언어 처리 능력을 제공하지만, 특정 비즈니스 분야의 전문성이 요구되는 작업에서는 응답 정확도가 떨어진다고 분석했다.

가트너 VP 애널리스트 수밋 아가왈은 “비즈니스 업무 흐름 내 다양한 작업과 더 높은 정확도에 대한 요구로 인해 특정 기능 또는 도메인 데이터에 맞춰 미세조정한 특화 모델로의 전환이 가속화되고 있다. SLM은 응답 속도가 빠르고 컴퓨팅 자원을 적게 소모해 운영 및 유지 관리 비용을 절감할 수 있다”라고 설명했다.

가트너에 따르면 현재 기업은 검색 증강 생성(RAG) 또는 미세조정 기술을 활용해 LLM을 특정 작업에 특화된 모델로 커스터마이징할 수 있다. 다만 이 과정에서 미세조정 요구사항을 충족하도록 관련 데이터를 구성하기 위해서는 데이터 준비, 품질 관리, 버전 관리, 전반적인 관리가 필수적이다.

아가왈은 “기업은 자사의 고유한 데이터와 전문화된 업무 프로세스에서 도출된 인사이트의 가치를 점차 인식하게 되면서, 이를 수익화하고 고객과 경쟁사를 포함한 더 광범위한 대상과 공유하는 방향으로 나아갈 가능성이 높다”라고 진단했다.

가트너는 비즈니스 맥락이 중요한 분야나 LLM 응답 품질, 속도가 기대에 미치지 못하는 경우 컨텍스트 기반 SLM을 시범 도입하면 효과적일 수 있다고 설명했다. 또한 단일 모델만으로는 한계가 있는 사용 사례를 파악하고, 여러 모델과 워크플로우 단계를 결합한 복합적 접근 방식을 도입할 필요가 있다면서, 언어 모델 미세조정에 필요한 데이터를 수집, 선별, 구조화하는 데이터 준비 역량에 우선순위를 두는 것 또한 중요하다고 가트너는 분석했다.
[email protected]