AI 혁명의 직간접적 충격··· 지각변동 앞둔 글로벌 반도체 시장

인공지능(AI)은 칩 산업을 빠르게 변화시키고 있다. 특수 프로세서에 대한 수요를 촉진하고, 설계 혁신을 가속화하며, 글로벌 공급망과 시장을 재편하는 등 그 변화의 양상도 다양하다. 특히 AI의 병렬 처리 요구 사항을 충족하기에는 역부족인 기존 CPU는 이제 특수 칩에 자리를 내주고 있다. GPU, TPU, NPU, AI 가속기 등 전문 칩이 등장했다.

이에 따라 엔비디아, AMD, 인텔 등의 기업들은 AI 최적화 제품을 선보이며 포트폴리오를 확장했다. 특히 AI 워크로드 처리에는 성능, 에너지 효율성, 확장성이 절실하기 때문에 거대 기술 기업들은 데이터센터 분야에 대한 대규모 투자를 집행하고 있다. 현재 엔비디아의 H100 및 AMD의 MI300과 같은 AI 중심 칩이 AI 클라우드 컴퓨팅의 백본을 구동하고 있다.

동시에 아마존, 마이크로소프트, 구글과 같은 기업들은 외부 공급업체에 대한 의존도를 낮추고 AI 성능을 향상시키기 위해 맞춤형 칩(예: AWS Graviton 및 Google TPU)을 개발했다.

AI 혁명에 힘입어 엔비디아는 데이터센터 시장에서 독보적인 존재로 성장했다. 한때 게임 그래픽 칩 생산에 주력했던 이 회사는 이제 AI 관련 하드웨어와 소프트웨어에 집중하고 있으며, 이미 괄목할 만한 재정적 성과를 거뒀다. 이 회사의 시가총액은 2023년 5월에 1조 달러를 돌파했고, 2024년 6월에는 3조 3,000억 달러를 돌파하여 당시 세계에서 가장 높은 가치를 인정받았다.

그러나 AI 칩 산업은 곧 극적인 변화를 맞이할 가능성이 높다. 지난 몇 년 동안 반도체 업계는 AWS, GCP, MS 애저와 같은 하이퍼스케일 클라우드 서비스 제공업체의 데이터센터 수요를 충족시키는 데 주력해 왔다. 일반 기업들 또한 내부 AI 개발에 있어 클라우드 기업에 의존했다.

그러나 이제 기업 내부 데이터만 사용하는 소규모 AI 모델로 전환하는 움직임이 나타나고 있다. 보다 안전하고 사용자 정의 가능한 생성형 AI 애플리케이션과 AI 에이전트를 사용하기 위해서다. 이와 동시에 엣지 AI는 PC, 스마트폰, 차량, IoT 기기 등의 디바이스에서 AI 처리를 수행할 수 있어 클라우드 인프라에 대한 의존도를 낮추고 효율적인 저전력 칩에 대한 수요를 촉진하면서 자리를 잡아가고 있다.

IDC의 그룹 부사장인 마리오 모랄레스는 “AI를 보다 대중화하려면 솔루션 설계 방식을 바꿔야 한다. 하지만 엔드포인트의 워크로드를 처리하기 위해 크고 복잡한 GPU를 사용할 수 없다. 엔비디아가 이 부분에서 어려움을 겪을 가능성을 점치는 이유다. 즉 새로운 회사들에게 들어올 기회가 있을 것이다. 퀄컴, ST 마이크로, 르네사스, 암바렐라 등이 대표적이다”라고 말했다.

모랄레스는 이어 “AI의 다음 개척지, 즉 엣지가 새로운 플레이어들이 각자의 기술을 활용할 영역”이라고 덧붙였다.

일부 칩 제조사에게는 힘든 앞날

2023년 전 세계 반도체 칩 매출은 전년도 기록인 5,741억 달러에서 약 5,340억 달러로 약 11% 감소했지만 침체기가 이어지지는 않았다. 모랄레스에 따르면 2025년에는 AI 도입과 PC 및 스마트폰 판매의 안정화에 힘입어 반도체 매출이 22% 증가할 것으로 예상된다.

모랄레스는 “엔비디아, 브로드컴, AMD, 마블과 같이 메모리를 만들거나 AI 가속기를 만드는 기업들의 경우 매우 성공적이었다. 하지만 ST 마이크로, 인피니엄, 르네사스, TI와 같은 반도체 회사의 경우 과잉 재고와 산업 및 자동차 부문의 불확실한 상황으로 인해 큰 타격을 입었다. 산업 및 자동차 부문의 환경은 2024년 매우 심각했다”라고 말했다.

모랄레스에 따르면 오늘날 사용되는 대부분의 LLM은 공개된 데이터로 학습한다. 그러나 전 세계 데이터의 80% 이상은 일반 기업들이 폐쇄적으로 보유하고 있다. 이러한 현실을 엔비디아, 퀄컴, AMD과 같은 칩 제조사에게 유리하다. 더 낮은 가격대와 더 높은 에너지 효율성을 갖춘 고도로 전문화된 시스템 온 칩(SoC) 기술이 향후 기업에 도입된다면, 더 큰 시장이 열리게 된다.

그는 “시장의 역학 관계가 확실히 바뀔 것이라고 본다. 이미 많은 기업들이 엣지와 엔드포인트에 기술을 적용하기 위해 준비하고 있다. 기업이 자체 데이터센터 접근 방식을 채택하는 것이야말로 성장의 다음 물결이 될 것이라고 생각한다”라고 말했다.

한편 인텔의 상황은 또 다르다. 이 기업은일단 PC용 프로세서라는 안전 지대를 고수할 가능성을 크다. 특히 TSMC에 제조를 아웃소싱하기로 함으로써 AMD와의 경쟁력을 유지할 방안을 마련했다. 하지만 신흥 시장에서는 경쟁력을 확보하기까지 고군분투할 가능성이 높다.

모랄레스는 “인텔의 데이터센터 사업을 살펴보면 AMD에 점유율을 잃고 있다. 엔비디아에 대응할 수 있는 뾰족한 해법도 없다”라고 말했다.

물론 인텔의 최신 x86 및 가우디 AI 가속기 제품군은 엔비디아의 H100 및 블랙웰 GPU와 경쟁하기 위해 설계되기는 했다. 그러나 모랄레스는 이를 ‘임시방편’으로 보고 있다. 그는 “클라이언트 측면에서는 인텔이 AI가 PC에 도입되는 교체 주기를 활용할 수 있는 기회를 가진다. 얼마 전 마이크로소프트로부터 코파일럿에 대한 승인을 받았기 때문에 x86 라인에 기회가 생겼다”라며, “여기야말로 인텔이 회복할 때까지 시간을 벌 수 있는 전장이다”라고 말했다.

S&P 글로벌 레이팅스의 기술 디렉터인 앤드류 창에 따르면, 인텔과 AMD가 최신 데이터센터에서 경쟁력을 유지하려면 GPU에 투자해야만 한다. 그는 “CPU가 여전히 필수적인 존재이기는 하다. 그러나 엔비디아가 AI 칩 시장을 장악하고 있어 AMD와 인텔은 경쟁에 어려움을 겪고 있다. AMD는 2025년까지 AI 칩 매출 50억 달러를 목표로 하고 있다. 반면, 인텔은 가우디 플랫폼을 필두로 한 AI 노력이 아직은 미미하다. 두 회사 모두 GPU와 AI 가속기에 계속 투자하여 점진적인 매출 성장을 보일 것이지만 데이터센터 시장 점유율은 계속 감소할 것”이라고 말했다.

정치와 칩스(CHIPS) 법, 1월 20일 이후의 상황

수출 제한, 공급망 중단, 정부 정책과 같은 지정학적, 경제적 요인도 칩 산업에 영향을 미칠 변인이다. 1월 20일 취임하는 도널드 J. 트럼프 대통령 당선인은 칩 수입에 고율 관세를 부과할 계획임을 시사했다.

또한 칩스 및 과학법은 미국에 사업장을 둔 반도체 개발자와 제조업체에 수십억 달러의 지원을 약속하고 있다. 이 법에 따라 TSMC, 인텔, 삼성, 마이크론 등 여러 기업에 390억 달러의 자금이 배정되었으며, 이들 기업은 모두 새로운 제조 또는 연구 시설에 대한 계획을 개발했거나 이미 건설하고 있다.

그러나 지원금이 분배되기 위해서는 각 회사가 특정 조건을 달성해야 하며, 그때까지 자금은 미사용 상태로 남아 있게 된다. 수십억 달러의 인센티브 약속은 의심할 여지없이 미국 칩 생산력 확보에 도움이 되고 있지만, 모랄레스는 칩스 법의 25% 세금 감면 조항이 더 큰 혜택이라고 평가했다.

그는 “인텔 같은 회사도… 전례가 없는 500억 달러의 세금 감면 혜택을 받고 있다. 그야말로 거대한 배당금이다”라고 말했다. 트럼프는 리쇼어링을 장려하기 위한 정부 자금 지원이 잘못된 전략이라는 그의 관점을 피력했지만, 업계 전문가들은 그가 재집권한 이후 칩스 법의 혜택이 대폭 삭감될 것이라고 생각하지 않다.

모랄레스는 “칩스 법이 완만하게 개정될 것으로 예상하지만, 아직 자금 삭감과 같은 과감한 조치는 없을 것이다. 칩스 법은 초당적인 지지를 받았으며, 이를 개정하려는 시도는 애리조나, 오하이오 등 혜택을 받을 수 있는 주들의 반발에 직면할 것”이라고 말했다.

에너지를 많이 소비하는 하이엔드 프로세서가 지금까지 시장을 지배해 왔지만, 엣지 디바이스용 에너지 효율적인 AI 프로세서가 앞으로 크게 주목받는다는 의견도 있다. 모랄레스는 “AI PC나 AI가 통합된 스마트폰이 이미 등장했다. 더 작고 잘 조정된 모델로 AI 추론을 활용할 수 있는 웨어러블 기기를 떠올려보라. 이것이 우리가 앞으로 나아갈 방향이며, 앞으로 몇 년 동안 매우 커질 것이라고 본다. 그리고 기업에서 AI 추론이 차지하는 비중도 마찬가지로 커질 것”라고 말했다.

LLM에서 SLM 및 엣지 디바이스까지

기업 및 기타 조직은 또한 단일 AI 모델에서 여러 유형의 데이터 또는 텍스트, 이미지, 오디오, 비디오, 감각 입력과 같은 ‘양식’을 처리하고 통합할 수 있는 멀티모달 AI 또는 LLM으로 전환하고 있다. 다양한 리소스로부터의 입력은 보다 포괄적인 이해를 가능하게 하고 업무 전반의 성과를 향상시킬 수 있다.

S&P 글로벌의 보고서에 따르면 80% 이상의 조직이 향후 2년 내에 AI 워크플로우가 증가할 것으로 예상하고 있으며, 약 3분의 2는 IT 인프라 업그레이드에 대한 압박이 있을 것으로 예상하고 있다.

S&P 글로벌 레이팅스의 최고 혁신 책임자인 수딥 케시는 AI가 소규모의 업무별 모델로 진화하고 있다고 진단하면서도 대규모의 범용 모델은 여전히 필수적이라고 말했다. 그는 “두 가지 유형이 공존하면서 각 분야에서 기회를 창출할 것”이라고 말했다.

업계의 핵심 과제는 컴퓨팅 및 에너지 효율적인 모델 개발이며, 이는 칩 설계와 구현에 영향을 미칠 것이다. 또한 칩 제조업체는 확장성, 상호 운용성, 시스템 통합을 해결해야 한다. 이 모든 것이 산업 전반의 기술 발전을 주도하고 자율 시스템을 개선하며 엣지 AI와 같은 미래 개발을 가능하게 할 것으로 예상된다고 케시는 전망했다.

이 밖에 기업들이 클라우드 기반 LLM에서 벗어나 엣지 디바이스 및 엔드포인트에 배포할 수 있는 더 작은 언어 모델을 채택함에 따라 AI 추론에 대한 관심이 높아질 전망이다.

IDC의 모랄레스는 “업계에 있어 지금은 풍년 아니면 기근의 환경이다. 2025년에는 어떤 일이 벌어질까? 데이터센터의 성장은 경이롭고 2025년에도 계속될 것이다. 기업들이 IT 지출의 우선순위를 AI에 두기 시작했다는 현실에 크게 기대하고 있다. 이는 프로세서에 대한 두 번째 수요의 물결을 일으킬 것이다”라고 말했다.
[email protected]