HBM 열기가 거세지자, SK 하이닉스가 냉각에 나섰다

한국 반도체 기업 SK하이닉스가 메모리 패키지 내부에 냉각층을 통합해 방열 성능을 높인 AI 데이터센터용 새로운 고대역폭 메모리(HBM)를 공개했다.

이번 기술은 해당 메모리를 탑재한 AI 프로세서의 동작 속도를 높이거나 냉각 비용을 절감하는 데 도움이 될 것으로 기대된다.

기존 반도체 냉각 구조는 대부분 패키지 외부에서 열을 방출하는 방식이다. 즉, 열은 패키지 밖으로 전달된 이후에야 냉각된다. 그러나 AI용 HBM은 메모리 칩을 수직으로 적층해 지연시간을 줄이고 메모리 밀도를 높이는 구조인 만큼, 추가로 발생하는 열이 주요 설계 제약 요소로 작용해 왔다.

SK하이닉스는 2029년 이후 출시 예정인 차세대 HBM5 제품군에 이 기술을 적용할 계획이다. 새롭게 개발한 통합형 HBM(iHBM)은 냉각 기능을 다이 간 물리 계층(D2D PHY·Die-to-Die Physical Layer) 내부에 구현하는 새로운 접근 방식을 채택했다.

D2D PHY는 HBM과 GPU를 연결하는 물리 인터페이스로, 열이 집중적으로 발생하는 영역이다. iHBM은 이 구간을 통합 냉각 요소(ICE·Integrated Cooling Elements)를 위한 새로운 열 방출 경로로 활용한다. SK하이닉스는 이를 통해 열 저항을 30% 줄일 수 있다고 밝혔다.

불과 얼마 전까지만 해도 메모리와 냉각 기술 혁신은 프로세서 성능이 중심이던 데이터센터 업계에서 흥미로운 부차적 요소 정도로 여겨졌다.

하지만 지난 10년 동안 데이터센터 프로세서 성능이 급격히 향상되면서 상황이 달라졌다. 메모리 설계의 중요성이 크게 높아졌고, 고성능 컴퓨팅(HPC) 시스템 내부에서 이를 효과적으로 냉각하는 능력 역시 핵심 과제로 떠올랐다.

맞춤형 실리콘으로 제작된 ICE를 메모리 패키지에 통합하면 시스템 구축도 한층 수월해진다. iHBM이 실제로 30% 수준의 방열 성능 향상을 구현할 경우, HBM 모듈은 성능 저하를 유발하는 온도 한계에 도달하기 전까지 더 큰 동작 여유를 확보할 수 있게 된다.

HBM 열풍

AI 데이터센터 시장이 급성장하면서 메모리의 중요성도 그 어느 때보다 커지고 있다. 시장조사업체 에포크 AI(Epoch AI)가 발표한 자료에 따르면, 전체 AI 반도체 부품 지출에서 HBM이 차지하는 비중은 2024년 1분기 52%에서 2025년 4분기 63%로 증가했다.

이 수치는 AI가 수십 년 동안 유지돼 온 컴퓨팅 성능의 기본 공식을 뒤흔들고 있음을 보여준다. AI 시대에는 단순히 데이터를 얼마나 빠르게 처리하느냐보다 얼마나 많은 데이터를 저장하고 공급할 수 있느냐가 더욱 중요해졌다. 그 결과 메모리는 더 이상 부수적인 요소가 아니라 데이터센터 설계자들이 가장 먼저 고려하는 핵심 자원으로 자리 잡았다.

반면 엔비디아 GPU와 같은 로직 다이(Logic Die)는 같은 기간 전체 AI 반도체 지출에서 차지하는 비중이 14.2%에서 12.9%로 소폭 감소했다.

AI 수요 급증의 여파로 반도체 제조사들은 DDR5 등 다른 메모리보다 HBM 생산을 우선시하고 있다. 이에 따라 기기 제조업체들은 메모리 수급 부족 문제에 직면하고 있다.

지난 3월 SK그룹 최태원 회장은 AI를 구동하기 위한 하드웨어 수요가 공급 능력을 압도하고 있으며, 이는 일시적인 경기 순환 현상이 아니라 장기적인 구조적 변화의 성격을 띠고 있다고 밝혔다.

에포크 AI는 HBM 수요 증가세가 당분간 이어질 것으로 전망했다. 에포크 AI는 “메모리 공급 부족이 지속되고 가격이 상승하면서 2026년에는 HBM이 AI 반도체 지출에서 차지하는 비중이 더욱 커질 가능성이 높다”라고 분석했다.

다만 HBM만이 유일한 선택지는 아니다. 인텔은 지난 2월 소프트뱅크와 협력해 대체 기술인 Z-앵글 메모리(ZAM)를 개발한다고 발표했다. ZAM 역시 메모리 모듈을 수직 적층하는 구조를 기반으로 하며, 상용화 시점은 2030년 전후로 예상된다.

지속적인 성능 향상에 대한 기대가 업계 전반에 부담으로 작용하는 상황에서 AI 데이터센터 설계자와 고객 입장에서는 이러한 기술 발전이 반가운 소식이다.

결국 향상된 방열 성능을 구현하고 이를 적기에 공급할 수 있는지가 향후 경쟁력을 좌우하는 핵심 요소가 될 전망이다.

이강욱 SK하이닉스 PKG 개발 담당 수석부사장은 “iHBM은 SK하이닉스의 메모리 설계 역량과 첨단 패키징 기술을 결합한 최적의 열 관리 솔루션”이라고 말했다.
dl-ciokorea@foundryco.com