AI 인프라 경쟁 심화되는데…MS 데이터센터 핵심 임원 2명은 ‘퇴사’

마이크로소프트(MS)가 코파일럿(Copilot)과 애저(Azure) AI 서비스의 용량 확대에 속도를 내는 가운데, 데이터센터와 AI 인프라 분야의 시니어 리더 2명이 회사를 떠난 것으로 나타났다. 이에 전력 집약적 AI 워크로드 수요를 어떤 인물이 감당하게 될지에 대한 우려가 제기되고 있다.

MS를 떠난 2명은 AI 인프라 총괄 니디 차펠과 에너지·데이터센터 연구를 맡아온 시니어 디렉터 션 제임스다. MS에서 6년 반 동안 근무한 차펠은 MS, 오픈AI, 앤트로픽의 워크로드를 지원하는 세계 최대 규모의 AI GPU 클러스터 구축을 총괄했다. 제임스의 경우 이후 엔비디아로 이직할 예정인 것으로 알려졌다.

시니어 리더의 연이은 퇴사는 MS가 기업 전반에서 급증하는 AI 사용량에 대응하기 위해 신규 데이터센터 부지 확보, 전력 공급 계약, 맞춤형 하드웨어 개발에 대규모 투자를 이어가고 있는 시점에 발생했다.

두 사람은 모두 MS의 AI 인프라 확장 전략을 이끌던 핵심 인력이었다. 동시에 MS는 다른 클라우드 업체와 마찬가지로 전력 공급 부족, 전력망 연결 지연, AI 확장을 뒷받침할 가속기 확보 난항 등 복합적인 인프라 제약에 부딪히고 있다.

이와 관련해 MS AI 부문 CEO 무스타파 술래이만은 X에 “신규 데이터센터 건설에 1,500만 노동 시간을 투입했다”라고 게재했다. 이에 테슬라 CEO 일론 머스크는 “그 방식이 과연 맞는 것이냐”라며 의문을 제기했다.

MS가 직면한 제약

업계 분석가들은 핵심 임원 2명의 연쇄 이탈이 AI 데이터센터 경쟁이 한층 치열해진 시점에서 MS에 적지 않은 부담을 줄 것이라고 봤다. 오픈AI의 거대 모델 수요가 빠르게 늘고, 구글이 인프라 규모를 공격적으로 확장하는 등 MS가 양쪽에서 압박을 받고 있기 때문이다.

카운터포인트리서치의 파트너 겸 공동 설립자 닐 샤는 “이 문제를 해결해 온 최고 수준의 전문가들을 잃은 것은 MS에 분명한 타격이 될 수 있다. 에너지 과제를 해결하는 일은 결코 단순하지 않으며, 두 사람이 더 큰 영향력을 행사할 수 있고 보상 측면에서 유리한 엔비디아 같은 곳에서 기회를 봤을 가능성도 있다”라고 분석했다.

한편 사이버미디어리서치 산업 연구 부문 VP 프라부 람은 MS가 여전히 AI 데이터센터 투자를 확대해 나갈 수 있는 생태계와 조직적 역량을 보유하고 있다고 평가했다.

그레이하운드 리서치의 수석 애널리스트 산치트 비르 고기아는 MS가 물리적 한계보다 더 빠른 속도로 AI 인프라를 확대하려는 상황에서 핵심 인력이 떠난 것이라고 설명했다.

그는 “떠난 임원들은 GPU 클러스터 설계, 데이터센터 엔지니어링, 전력 조달, 그리고 MS가 고밀도 AI 워크로드를 지원하기 위해 추진해 온 실험적 전력·냉각 방식의 핵심을 맡아온 인물들”이라고 말했다. 이어 “MS가 이미 공개적으로 인정한, 인프라 압박이 심화되는 지점과 시기가 맞물려 있다. GPU는 빠르게 도입되고 있지만 이를 수용할 데이터센터에 전력을 공급하는 작업이 따라가지 못하고 있으며, 이제는 칩 수급보다 전력 가용성이 더 큰 병목으로 부상했다”라고 설명했다.

엔비디아가 얻게 될 이점

반면 샤는 제임스의 엔비디아 합류가 중요한 신호라고 해석했다. 이제 영향력 있는 혁신이 특정 클라우드 업체가 아니라 벤더 생태계에서 나올 가능성이 커졌다는 설명이다.

샤는 “엔비디아가 더 효율적인 컴퓨트-투-랙(Compute-to-Rack) 설계를 통해 업계의 에너지 제약을 완화할 수 있다면, 그 효과는 기업 시장 전반으로 확산될 것”이라고 말했다.

고기아는 이번 퇴사가 AI 인프라 경쟁에서 에너지 시스템과 데이터센터 효율이 핵심 요소로 떠올랐다는 점도 보여준다고 분석했다. 그는 “MS의 전력·냉각 문제를 해결해 온 전문가가 엔비디아에 합류하면, 초대규모 AI 환경이 실제 높은 부하에서 어떻게 작동하는지 엔비디아가 더 깊이 파악하게 된다”라고 말했다. 이어 “이런 경험은 차세대 GPU 시스템의 구조, 열 관리, 그리고 차세대 AI 팩토리의 에너지 설계 방식에도 영향을 미치게 될 것”이라고 진단했다.
dl-ciokorea@foundryco.com