SK텔레콤, ‘AI DC 사업부’ 신설 및 GPUaaS 공식 출시··· “100개 이상 기업 문의 요청해”

SKT는 지난 ‘SK AI 서밋 2024’에서 ‘AI 인프라 슈퍼 하이웨이(AI데이터센터 ▲GPUaaS ▲에지AI(Edge AI) 등 세가지 축을 중심으로 전국의 AI 인프라를 구축하는 전략)’ 구축 전략을 발표한 이래 연말 조직 개편에서 ‘AI DC 사업부’를 별도 조직으로 신설하고, GPUaaS를 새롭게 출시하는 등 연이은 행보로 ‘AI 인프라’ 사업 본격화에 속도를 내고 있다.

이번에 오픈한 가산 AIDC는 랙당 전력밀도가 국내 최고 수준인 44kW로 국내 데이터센터 랙 당 평균 전력밀도인 4.8kW의 약 9배에 달하는 등 고밀도 GPU 서버 운영 환경에 최적화된 데이터 코로케이션 환경을 제공한다.

‘SKT GPUaaS’는 미국의 글로벌 GPU 클라우드 기업 람다(Lambda)와 지난 1여년간 함께 준비한 구독형 AI 클라우드이다. 이를 위해 가산 AIDC에 람다의 한국 리전(클라우드 제공업체가 데이터 센터를 운영하는 지리적 위치)을 유치하였으며, 이는 아시아태평양 지역에 처음으로 생기는 람다의 리전이다.

SKT는 2024년 2월 AI DC 사업 본격 추진을 위한 첫 번째 글로벌 행보로 람다에 투자를 진행한 바 있다.

2012년 AI 엔지니어들이 설립한 람다는 글로벌 빅테크 기업들을 대상으로 AI 클라우드 서비스를 제공하는 GPUaaS 기업으로, SKT는 람다와의 협력을 통해 그래픽 처리장치(GPU)의 안정적 확보를 기반으로 AI 클라우드 시장 공략에 본격 나설 계획이다

이번에 출시하는 GPUaaS는 엔비디아 GPU H100을 기반으로 한다. SKT에 따르면, H100은 현재 국내에 도입된 GPU 중 가장 성능이 좋다.

‘SKT GPUaaS’ 구독을 원하는 기업 고객은 AI 서비스 규모나 목적에 따라 GPU 수량과 기간을 선택하고, 단독 서버·방화벽·전용회선 등 맞춤형 패키지를 구성할 수 있다.

SKT에 따르면, 고객사는 독자적인 GPU를 사용해 안정적 AI 학습과 추론을 시행할 수 있으며, 방화벽과 전용 회선을 활용할 경우 보안성 역시 크게 강화할 수 있다. 또한 고객의 AI 작업량이 급격히 늘어나더라도 단독 서버에 GPU를 손쉽게 추가할 수 있어 추가 시설 투자에 대한 부담을 크게 덜 수 있다.

또한 SKT GPUaaS는 퍼블릭(공유형) 클라우드와 상호 연동이 가능하다. 기업 고객이 기존에 사용하던 클라우드를 그대로 활용하면서 SKT의 GPU 컴퓨팅 파워를 이용할 수 있는 것이다.

GPUaaS와 별개로 SKT는 ‘AI 클라우드 매니저’도 함께 지원한다. GPU 자원을 보다 효율적으로 관리할 수 있는 ‘AI 클라우드 매니저’는 수많은 GPU 자원을 마치 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축하도록 지원하는 솔루션이다.

SKT GPUaaS 가격은 약정 기간, GPU 개수, 선불형의 과금 형태에 따라 탄력적으로 책정해 고객 편의를 크게 강화했다. 예를 들어 고객이 24개월 동안 32개의 GPU를 원할 경우 이에 맞는 가격을 설정하는 방식이다. 1개월, 2개월 등 단기 서비스 이용도 가능하다.

SKT는 “GPUaaS 정식 출시 전부터 100개가 넘는 기업들이 구체적인 내용을 문의하는 등 서비스에 대한 업계 관심이 높았다”라며 “특히 대기업, 중소기업 뿐만 아니라 AI를 연구하는 각종 대학과 연구 기관에서도 큰 관심을 보이고 있어 ‘SKT GPUaaS’ 서비스에 대한 시장의 높은 기대를 확인할 수 있었다”라고 보도자료를 통해 밝혔다.

기업들은 GPUaaS를 이용하고 싶은 이유에 대해 ▲고성능 GPU 활용 따른 AI 모델 학습 기간 단축 ▲GPU를 합리적인 가격에 짧은 기간도 이용 가능 ▲서버 구매와 데이터센터 운영 고민 없이 GPU 자원 바로 사용 등으로 꼽았다.

이와 함께 SKT는 1분기 중 최신 GPU인 H200도 도입할 예정이다. 국내 최초로 H200을 도입함으로써 국내 기업들이 보다 빠르게 AI 기술·서비스를 개발할 수 있는 환경을 조성하고, GPUaaS 고객 확대에도 박차를 가할 계획이다.

김명국 SKT GPUaaS사업본부장은 “이번 GPUaaS 출시는 AI 데이터센터 사업이 고객에게 다가가는 첫번째 사례로, SK텔레콤이 AI 인프라 핵심 사업자로 자리매김하는데 의미가 크다”며, “국가 AI 경쟁력을 높이는 GPU Farm으로 구축하겠다”고 밝혔다.
[email protected]