카운터포인트 “에이전틱 AI, 모바일 메모리 혁신이 관건”

카운터포인트(Cpounterpoint)가 ‘에이전틱 AI 시대 성공을 위한 필수적인 메모리 혁신’을 통해, 향후 스마트폰을 기반으로 한 에이전틱 AI가 성공을 거두려면 무엇보다 메모리 혁신이 필요하다고 강조했다. 지금 보다 훨씬 많은 저장 용량을 가진 고용량 메모리와 전송 속도가 획기적으로 향상된 메모리가 필요하다는 것이다.

스마트폰에서 대부분의 AI 작업을 처리하는 온디바이스(On-Device)의 핵심은 결국 하드웨어의 성능이다. AI 데이터센터를 운영하기 위해 고성능 GPU와 고속 대용량의 메모리 등이 필요한 것처럼, 스마트폰에서도 고성능 프로세서와 메모리 등 하드웨어에서 혁신 수준의 변화가 있어야 한다.

방대한 데이터를 짧은 시간 동안 고속으로 처리해야 하는 대부분의 AI 작업에서, 메모리 시스템에서 발생하는 병목현상은 우선적으로 해결해야 하는 문제다. 대부분의 고급형 스마트폰의 경우 주력으로 사용되는 기본 메모리 용량은 12GB인데, 에이전틱 AI를 위해서는 32GB까지 필요하다는 것이 카운터포인트의 설명이다.

스마트폰이 에이전틱 AI를 구동하는 엣지(Edgi) 장치로서 그 역할이 점점 커질 수밖에 없는 여러 가지 요소가 있다. 이를 테면 짧은 지연 시간, 향상된 개인 정보 보호, 비용 및 대역폭 효율 증가, 오프라인 액세스, 개인화 등의 요구 등이다. 그리고 이를 지원하려면 에이전틱 AI의 핵심 기능인 실시간 응답성, 심층적인 개인화, 사전 예방적 지원 등을 스마트폰에서 제공해야한다.

스마트폰의 능력이 지금보다 훨씬 향상되어야 하고, 이를 위해서는 프로세서(SoC), 메모리, 스토리지, 배터리, 센서, 열 관리 등 거의 모든 분야에서 혁신적인 변화가 필요한 상황이다. 그리고 그중에서도 메모리 부문에서의 혁신적인 변화가 필요하다고 카운터포인트는 진단한다.

마이크론의 마케팅 부사장인 크리스토퍼 무어(Christopher Moore)는 “메모리 대역폭의 성장이 컴퓨팅 성능을 앞지르고 있으며, 단순히 기존 DRAM을 더 추가하는 것만으로는 장기적인 해결책이 되지 못하는 시점에 다다르고 있다. 이제 아키텍처 혁신이 절대적으로 필요하다”고 밝혔다.

메모리 성능을 비약적으로 개선하기 위해서는 더욱 빠른 전송속도(대역폭)와 전력 효율을 제공하는 차세대 메모리를 채택해야 한다. 메모리 안에 컴퓨팅 기능을 통합하는 메모리 안에서의 처리(PIM;Processing-In-Memory) 아키텍처를 통한 지연 시간 단축과 전력 사용량 감소도 필요하다. 메모리와 프로세서 사이의 대역폭 확장도 요구된다.

카운트포인트의 닐 샤(Neil Shah) 부사장은 “에이전틱 AI는 스마트폰을 완전히 새로운 범주로 끌어올려 복잡한 의도를 인식하고 실시간으로 적응할 수 있는 능동적인 디지털 동반자가 될 것이다. 즉, 디바이스는 완전한 맥락 이해 능력을 갖추고 AI가 단순히 보조하는 오늘날의 패러다임을 넘어, 엣지에서 실행되는 여러 개인화된 학습 모델을 통해 AI가 사용자의 디지털 확장인 다음 단계로 나아갈 것이다”라고 밝혔다.

참고로 AI 에이전트(AI Agent)는 음식 주문을 대신해 주는 ‘챗봇 같은 심부름꾼’에 비유할 수 있고, 에이전틱 AI는 계획을 세우고 필요한 작업을 알아서 처리하는 비서’라고 할 수 있다. AI 에이전트는 특정 임무를 수행하는데 똑똑한 프로그램, 에이전틱 AI는 계획→목표→작업 등을 스스로 처리하는 더 지능적이고 자율적인 AI 시스템이다.
dl-ciokorea@foundryco.com