한국 기업 75% “AI서 기대 이상 가치 경험”…STT GDC 코리아가 본 다음 과제는 ‘인력’

STT GDC가 시장조사기관 에코시스템(Ecosystm)과 공동으로 수행한 ‘AI 인프라 준비도 연구(Mind the Gap: Bridging Korea’s AI Infrastructure Readiness Divide)’는 ▲전략적 목표 및 비전 ▲조직 준비도 ▲데이터 거버넌스 ▲현재 디지털 인프라 수준 ▲미래 확장 전략 등 5개 핵심 요소를 중심으로 기업의 AI 준비도를 평가했다.

한국을 포함한 아시아 9개국, 644명의 기업 및 기관 관계자를 대상으로 진행된 해당 조사에 따르면, 아시아 기업의 90%가 AI 도입을 시작했지만, 71%는 여전히 초기 구축 단계(Builders)에 머물러 있는 것으로 나타났다. AI가 비즈니스 경쟁력으로 자리 잡은 ‘리더(Leader)’ 단계 기업은 전체의 1%에 불과했다.

허 대표는 “많은 기업이 AI 도입을 시작했지만 실제로 AI를 비즈니스 경쟁력으로 연결한 기업은 극소수”라며 “AI에 대한 비전과 실제 운영 능력 사이에 상당한 간극이 존재한다”고 지적했다.

특히 그는 기업들이 AI 인프라를 GPU 확보 중심으로 바라보는 점을 핵심 문제로 꼽았다. 많은 기업이 AI 준비를 GPU 확보로 생각하지만 실제 AI 인프라는 단순한 하드웨어 문제가 아니라는 이야기다. 허 대표는 네트워크와 스토리지, 전력, 냉각 시스템, 운영 전문성까지 유기적으로 결합된 종합 시스템이 AI 인프라의 핵심이라고 표현했다.

보고서 역시 이러한 현실을 뒷받침한다. 아시아 기업의 49%는 AI 워크로드를 감당할 충분한 컴퓨팅 자원이 없다고 답했고, 53%는 스토리지 부족을 호소했다. 또한 82%는 네트워크 병목 현상을 경험하고 있는 것으로 조사됐다.

이번 보고서는 다양한 아시아시장에 대한 분석도 함께 했다. 허 대표는 현재 아시아가 두 개의 속도로 움직이고 있다고 진단했다. 싱가포르·한국·일본 등 성숙 시장은 AI 도입을 넘어 확장과 최적화 단계에 진입한 반면, 말레이시아·인도네시아·베트남·필리핀 등 신흥 시장은 본격적인 구축 단계에 들어서고 있다는 설명이다.

허 대표는 “과거 통신시장에서 신흥국들이 3G에서 4G를 거치지 않고 곧바로 5G로 넘어갔던 것처럼, AI 인프라 역시 국가별로 서로 다른 발전 경로를 보이고 있다”라며 “아시아 시장을 하나의 성장 곡선으로 보기보다, 서로 다른 발전 단계가 동시에 공존하는 시장으로 이해해야 한다”고 말했다.

STT GDC는 아시아의 AI 인프라가 단일 국가 단위의 데이터센터 확보 경쟁을 넘어, 성숙 시장과 신흥 시장이 서로의 한계를 보완하는 구조로 재편되고 있다고 봤다.

보고서에 따르면 한국·싱가포르·일본 등 성숙 시장은 전략 수립과 거버넌스 체계화, 조직 차원의 준비 측면에서 강점을 보이지만, 고밀도 AI 수요를 뒷받침할 부지와 전력 확보에는 제약을 안고 있다. 반면 말레이시아·인도네시아 등 신흥 시장은 상대적으로 확보 가능한 부지와 전력을 바탕으로 성숙 시장의 확장을 보완하는 역할을 키워가고 있어, 두 시장군 사이에 상호 보완적 관계가 형성되고 있다.

이어 “앞으로 AI 워크로드는 특정 국가에 집중되기보다 아시아 전역에 분산된 형태로 운영될 가능성이 높다”며 “데이터 주권과 지연시간, 전력 수급 문제를 고려한 멀티 로케이션 전략이 AI 시대의 새로운 경쟁력이 될 것”이라고 말했다.

한국, 아시아 AI 성숙도 최상위권

허 대표는 한국 시장에 대해선 비교적 긍정적인 평가를 내놨다. 조사 결과 한국은 아시아에서 가장 높은 수준의 AI 인프라 성숙도를 보유한 국가군에 속했다. 한국 기업의 67%는 구축(Building) 단계, 30%는 통합(Integrating) 단계에 위치했으며 2%는 리더 단계에 진입한 것으로 분석됐다. 앞서 언급한 아시아 평균보다 높은 수치다.

실제 조사에서는 한국 기업의 75%가 AI 프로젝트를 통해 예상 이상의 가치를 경험했다고 응답했으며, 조사 기업의 30%가 전체 IT 예산의 6% 이상을 AI에 투자하고 있는 것으로 나타났다.

허 대표는 “한국은 더 이상 AI 도입 여부를 고민하는 단계가 아니라 AI를 얼마나 빠르게 확장하고 최적화할 것인가를 고민하는 단계”라며 “ROI 검증은 끝났고 이제는 운영 규모 확대가 핵심 과제”라고 말했다.

그러나 그 과정에서 새로운 병목도 나타나고 있다. 허 대표는 “한국의 핵심 제약은 하드웨어가 아니라 전문 인력 부족”이라고 진단했다. AI를 활용할 수 있는 인재뿐 아니라 AI 인프라를 설계·운영할 수 있는 전문 인력이 부족하다는 것이다.

실제 조사에서도 한국 기업의 52%가 복잡한 AI 인프라를 운영할 내부 전문성이 부족하다고 답했으며, 47%는 전반적인 AI 인재 부족을 주요 과제로 꼽았다.

또한 기업들이 여전히 데이터센터나 코로케이션 사업자를 선택할 때 보안과 안정성 위주로 평가하고 있다는 점도 문제로 지적됐다.

허 대표는 “보안과 안정성은 기본 전제”라며 “실제 확장 과정에서는 운영 전문성, 규제 대응 능력, 비용 최적화 역량이 더 중요해지고 있다”고 말했다.

이 같은 이유로 그는 AI 시대의 핵심 전략으로 ‘전략적 파트너십’을 제시했다. 허 대표는 “기업들은 이제 모든 것을 직접 구축하려 하기보다 전문성을 가진 파트너와 협력해 유연하고 확장 가능한 구조를 만들고 있다”라며 “단순히 비용 절감이 아니라 빠른 확장과 안정적인 운영, 기술 변화 대응을 위한 선택”이라고 설명했다.

STT GDC 역시 이러한 수요에 대응해 글로벌 AI 데이터센터 역량을 강화하고 있다. 회사는 현재 전 세계 12개국에서 100여개의 데이터센터를 운영하고 있으며 총 IT 부하 용량은 약 2.3GW이다. 특히 하이퍼스케일 고객 중심의 운영 모델과 자체 엔지니어 조직을 기반으로 AI 데이터센터 설계·운영 역량을 확보하고 있다.

허 대표는 “AI는 특정 기술 분야의 이슈가 아니라 국가와 산업 전반의 경쟁력을 좌우하는 핵심 인프라가 되고 있다”며 “인프라는 더 이상 IT 부서의 문제가 아니라 기업 경영진이 직접 고민해야 할 전략 자산”이라고 강조했다.
jihyun.lee@foundryco.com