AI 접근법 자체가 달라진다?··· 전문가들이 본 ‘엣지 AI의 혁신 잠재력’

휴머노이드 로봇, 스마트 기기, 자율주행은 엣지 컴퓨팅의 대표적인 비즈니스 활용 사례로 꼽힌다. 하지만 엣지 ‘AI’ 컴퓨팅의 영향력은 훨씬 더 광범위할 것으로 예상되고 있다. 이는 AI를 데이터센터와 클라우드의 중앙 집중식 서버에서 제조 현장, 수술실, 도시 전역으로 확장한다. 엣지 AI의 핵심은 IoT 기기, 센서, 지능형 시스템 가까이에서 실시간으로 데이터를 처리하는 데 있다. 이는 짧은 지연 시간과 자율적 의사 결정 기능을 바탕으로 AI를 어디에서나 사용할 수 있게 하고, 완전 자율화된 산업 시설을 구현해 비즈니스와 일상에 혁신적 변화를 가져올 전망이다.

엣지 AI 컴퓨팅 기업인 로크웰 오토메이션(Rockwell Automation)의 CIO도 이런 가능성에 주목하고 있다. CIO 크리스 나르데키아는 “클라우드 중심 아키텍처에서 엣지 기반 배포로의 인공지능 분산화는 단순한 기술 진화 이상을 의미한다”라고 말했다. 로크웰 오토메이션은 지난달 엔비디아 GTC에서 에뮬레이트3D(Emulate3D) 고급 공장 규모 가상 제어 테스트 솔루션을 선보인 바 있다. 나르데키아는 “이런 변화는 AI 기능이 산업과 개인의 모든 환경에 어떻게 통합되는지를 근본적으로 재정의한다”라고 설명했다.

엔비디아의 옴니버스(Omniverse) API와 통합된 로크웰 솔루션은 제조업체가 가상 공장 수용 테스트를 통해 물리적 배포 전에 자동화 시스템을 검증할 수 있도록 지원한다.

엣지 AI 기술은 기업이 스마트 기기나 창고의 로봇에 AI 애플리케이션을 배포하도록 지원한다. 예를 들어 이는 퍼블릭 클라우드나 데이터센터가 아닌 데이터 소스에 가까운 곳에서 컴퓨팅 집약적인 추론 및 추리 모델을 수행할 수 있다. 이로써 AI의 작업 속도가 상당히 빨라진다.

최근 컨퍼런스에서 엔비디아는 젯슨 오린(Jetson Orin), 자비에르(Xavier), 나노(Nano) 플랫폼, 엣지에서의 고급 애플리케이션을 위한 블랙웰 울트라(Blackwell Ultra) AI 칩, 자율 기계를 위한 그루트 N1(Groot N1) AI 로보틱스 모델, 산업 및 의료를 위한 IGX 오린 산업용 엣지 AI 플랫폼, 그리고 엣지에서 데이터 분석을 가능하게 하는 엔비디아 AI 데이터 플랫폼 등 다양한 고급 AI 하드웨어, 소프트웨어 플랫폼, 개발자 프레임워크를 발표하며 엣지 사업 확장을 가속화했다.

특히 엔비디아의 코어 EGX 엔터프라이즈 엣지 AI 플랫폼은 의료, 제조, 소매 산업을 위한 실시간 AI 워크로드를 촉진하고, 메트로폴리스(Metropolis) 플랫폼은 스마트 시티를 위한 엣지에서의 비디오 분석을 지원한다.

또한 엔비디아 GTC에서 소개된 젯슨 나노 슈퍼(Jetson Nano Super) 워크스테이션은 비즈니스 사용자에게 원격 사무실이나 비즈니스 센터 내에서 강력한 AI 기능을 제공할 수 있다. 엔비디아에 따르면 의료용 클라라(Clara), 자율주행 차량용 드라이브(Drive), 5G 네트워크용 에어리얼(Aerial)은 현장 산업 자산의 전체 수명주기에 걸쳐 실시간 모니터링, 예측 유지보수, 프로세스 최적화를 제공해 가동 중단 시간을 줄이고 시스템 성능을 향상시킬 수 있다.

한 분석가는 산업 현장의 디지털화를 위한 옴니버스 같은 물리적 AI 플랫폼 및 제품 라인업이 하드웨어, 플랫폼, 도구, 프레임워크 서비스 업체로 확장되고 있는 엔비디아의 정체성을 보여준다고 말했다.

가트너 그룹(Gartner Group)의 수석 AI 분석가 치라그 데케이트(Chirag Dekate)는 “업계는 엔비디아가 무엇을 하는지 제대로 이해하지 못하고 있다. 엔비디아의 EGX와 젯슨, 그리고 AI와 디지털 트윈의 장점을 결합해 물리적 AI와 환경을 개발할 수 있는 코스모스(Cosmos) 플랫폼은 엣지에 배포할 수 있는 지능형 훈련을 가속화하는 데 유용하다. 엔비디아는 엣지에서 로보틱스, 스마트 로보틱스, 자율주행 차량, 휴머노이드 로봇 분야의 변화를 일으키고 있다. 데이터센터에서 GPU를 사용했던 것처럼 새로운 성장 벡터를 창출하고 있다”라고 분석했다.

AI 트렌드 변화 과정

처음 생성형 AI가 등장했을 때, 업계는 콘텐츠 생성 가능성에 주목해 도입을 시작했다. 그 다음에는 추론 및 작업을 수행할 수 있는 모델을 구현하는 AI 에이전트로 관심이 옮겨갔다. 그러나 산업용 AI 혁명의 핵심은 물리적 AI 또는 AI 기반 로보틱스에 있다. 다시 말해 상당수가 엣지에 배치되고 완전 자율적으로 가동하는 산업 시설을 구현하는 것이다.

예를 들어 로크웰의 자율 이동 로봇(AMR)은 처리량, 노동 최적화, 시간 절약 측면에서 눈에 띄는 성과를 얻고 있다. 나르데키아는 이 로봇이 모바일 엣지 컴퓨팅 플랫폼 역할을 하며, 센서 데이터를 로컬에서 처리하는 동시에 회사의 팩토리토크 엣지 매니저(FactoryTalk Edge Manager)에 집계된 인사이트를 제공한다고 설명했다.

엔비디아의 엣지 컴퓨팅 플랫폼은 산업 데이터를 확장하고 노출시켜 애플리케이션과 분석을 통해 새로운 가치 원천을 창출할 가능성이 높다. 나르데키아는 물리적 AI와 AI 에이전트를 결합하면 이 기능이 특히 강력해져, 최소한의 인간 개입으로 감지, 결정, 행동할 수 있는 진정한 자율 시스템을 구현할 수 있다고 말했다. 그는 로크웰이 오토 모터스(Otto Motors)와 클리어패스 로보틱스(Clearpath Robotics)를 인수하면서 생산 물류 자동화를 위한 입지를 탄탄히 다졌다고 덧붙였다.

산업 현장의 디지털 혁신을 주도하는 엣지 AI

최근 IDC가 발표한 27개 기업 산업에 대한 예측에 따르면, 올해 엣지 컴퓨팅 솔루션에 대한 전 세계 지출은 약 2,610억 달러에 달하며, 연평균 13.8% 성장해 2028년에는 3,800억 달러에 이를 전망이다.

IDC의 클라우드 및 엣지 서비스 연구 부사장 데이브 맥카시는 “엣지 컴퓨팅은 기업이 실시간 데이터를 활용하는 방식을 재정의할 수 있으며, 그 미래는 고유한 운영 요구 사항을 해결하는 맞춤형 산업별 솔루션에 달려 있다”라고 말했다. 그는 이어 “서비스 업체들이 투자를 2배로 늘리고, 저지연 네트워크를 구축하고, AI 기반 엣지 분석을 강화하며, 확장 가능하고 안전한 인프라를 제공하기 위해 파트너십을 구축하고 있다. 이런 노력은 더 스마트한 제조 현장부터 반응형 의료 시스템에 이르기까지 엣지 컴퓨팅의 잠재력을 최대한 실현하며, 궁극적으로 산업 전반에 혁신의 물결을 일으키는 데 중요하다”라고 진단했다.

또한 많은 CIO가 자율적 의사 결정 능력을 갖춘 로봇과 IoT 기기를 만들기 위해 강력한 플랫폼, 도구, 프레임워크를 갖춘 차세대 AI 아키텍처를 계획하고 있다.

데어리랜드 파워 코퍼레이티브(Dairyland Power Cooperative)의 CIO 네이트 멜비는 “CIO들은 확실히 엣지 워크로드를 위한 AI를 계획하고 있다”라고 말했다. 멜비는 폭풍 속에서 전력망을 관리하고 위험한 환경에서 신속한 분석과 의사 결정이 가능한 시스템을 구현하기 위해 이러한 발전을 주시하고 있다고 언급했다. 그는 또한 사람의 접근이 제한된 물리적 환경에서 엣지 AI 기기를 활용함으로써 새로운 비즈니스 기회와 수익성 있는 성과를 얻을 수 있을 것으로 예상하고 있다.

멜비는 “AI를 엣지로 이동시킴으로써, 중앙 집중식 아키텍처에 대한 의존도를 줄이고 복원력을 구축할 수 있다. 클라우드 리소스와 로컬 기기의 균형을 맞춰 더 민감하거나 미션 크리티컬한 데이터는 로컬에서 최적화하고 처리함으로써 확장성과 리소스 유연성을 높일 수 있다. 하지만 발전하기까지는 시간이 좀 걸릴 것으로 보인다”라고 말했다.

엣지에 대한 관심 증가

오픈AI(OpenAI), 구글(Google), 아마존(Amazon) 등 주요 클라우드 및 AI 기업과 AI 스타트업이 엣지를 목표로 하고 있다. 예를 들어, 오라클(Oracle)은 최근 오라클 로빙 엣지 디바이스에 GPU 최적화 구성을 추가했다. 오라클 클라우드 인프라스트럭처의 SVP 필드 및 산업 마케팅 담당자인 데이브 로젠버그는 “엣지 컴퓨팅 AI에 대한 고객 수요가 늘고 있다”라고 말했다.

인사이트 엔터프라이즈(Insight Enterprises)의 제품 혁신 CTO인 아몰 아자온카는 제조업 외에도 많은 산업이 엣지 AI를 활용할 전망이지만 쉽지는 않을 것이라고 내다봤다. 아자온카는 엣지가 클라우드에 있지 않은 모든 것(노트북, 제조 현장의 기계, 소매점의 POS 기기)으로 정의된다면, 의료, 소매, 금융과 같은 산업이 엣지 AI의 주요 대상일 수 있다고 말했다.

아자온카는 “엣지에서 AI를 활용하는 데 있어 핵심 과제는 어떤 데이터가 현재 작업에 적합한지 아닌지를 판단하고, AI 에이전트나 에이전트 그룹이 사람의 지속적인 개입 없이 관리할 수 있도록 프로세스를 설정하는 것”이라고 말했다. 또한 그는 “공장 현장의 기계 유지 보수와 같은 예측 모델을 만들 때, 편향되거나 잘못 형성된 데이터를 필터링하지 못하면 모델에 영향을 미치고 에이전트의 결과 행동을 왜곡할 수 있다. 깨끗한 데이터가 출력에 매우 중요하지만, 섬세한 균형이 필요하다”라고 조언했다.

AI 컨설팅 회사 인텔라겐(Intelagen)의 CEO이자 전 CIO인 톰 리처는 CIO에게 엔비디아의 발전을 면밀히 모니터링할 것을 권고했다. 엔비디아가 AI 인프라, 데이터센터 혁신, 엣지 AI 등 조직의 혁신과 경쟁력에 직접적인 영향을 미치는 분야에서 앞서고 있다는 설명이다.

리처는 “낮은 지연 시간, 대역폭 최적화, 향상된 보안에 대한 필요성으로 인해 AI 워크로드를 위한 엣지 컴퓨팅 도입이 증가하고 있다. 온프레미스와 서비스 업체 배포 사이에서 전략적 결정이 필요하다. 하이브리드 접근 방식이 제어와 확장성의 균형을 맞추는 데 효과적인 경우가 많다. 그리고 이를 위해 CIO는 명확한 전략을 개발하고, 필요한 인프라에 투자하며, 진화하는 기술을 빠르게 파악해야 한다”라고 말했다.

엣지에서 우위 확보하기

물리적 AI를 구현하려면 센서 데이터를 처리하고 복잡한 알고리즘을 최소 지연 시간으로 실행하는 강력한 엣지 컴퓨팅 기능이 필요하다. 로크웰의 나르데키아는 엣지 컴퓨팅이 데이터 처리를 데이터 소스에 더 가깝게 가져와 분산화함으로써 더 빠른 응답 시간, 데이터 전송 효율성 향상, 보안 강화 등의 효과를 가져온다고 말했다. 그는 이 모든 요소가 로보틱스 및 산업 자동화 애플리케이션에 중요하다고 덧붙였다.

또한 플랫폼과 기술이 발전할수록 AI는 산업 환경 전반의 물리적 시스템에 점점 더 많이 내장될 것으로 예상되고 있다.

로크웰과 같은 기업에게 이런 발전은 제품 포트폴리오 전반에 걸쳐 엣지 AI 기능을 통합할 기회가 될 수 있다. 적절하게 관리된 엣지 컴퓨팅에서 얻을 수 있는 비즈니스 성과는 상당할 전망이다. 이를테면 데이터 접근 비용 감소, 더 빠른 소프트웨어 배포, 미래 지향적 분석 플랫폼, 향상된 보안 태세, 디지털 변환 이니셔티브의 더 나은 확장, 그리고 총소유비용(TCO) 감소가 있다.

엣지 AI 재단은 CIO와 기업이 엣지에서의 자동화와 스마트 기기를 원하고 있다고 밝혔다. CEO인 피트 버나드는 “엣지 AI는 데이터가 생성되는 곳에서 AI 워크로드를 실행한다. 엣지 컴퓨팅으로의 자연스러운 이동 추세는 비용 절감, 전력 소비 감소, 영향력 증가에 효과가 높음을 의미한다. 또한 프라이버시 보호 향상, 지연 시간 축소, 유연성 증가, 데이터 처리 효율화를 가져올 수 있다는 의미이기도 하다”라고 말했다.

그는 CIO에게 정보 전략을 수립할 책임이 있다고 언급하며, “이들은 데이터가 생성되는 위치에 가능한 한 가깝게 컴퓨팅 자원을 배치하고, 클라우드 데이터 전송 비용과 운영 비용을 낮추며, 전반적인 데이터 처리에 더 많은 통제력을 갖길 원할 것”이라고 말했다.

아날로그 디바이스(Analog Devices)의 엣지 AI 부사장인 폴 골딩은 “대규모 AI 모델들이 증류 및 양자화된 트랜스포머와 소규모 파운데이션 모델을 통해 엣지로 퍼져나가고 있다. 이런 변화는 엣지에서 고성능 컴퓨팅 인프라를 요구한다. 동시에 실시간 처리, 낮은 지연 시간, 프라이버시 보호에 대한 요구로 인해 AI가 데이터 발생지, 즉 센서나 물리적 엣지와 더 가까워지고 있다”라고 말했다.

골딩은 “자율적으로 학습, 적응, 행동하는 AI 에이전트의 역량은 다양한 시스템 간의 작업 조율 방식을 혁신할 수 있다. 기계 자동화에서 기계 자율성으로 나아감에 따라 새로운 형태의 분산 지능이 등장할 가능성이 높다. 이를 통해 중앙 집중식 클라우드 시스템에 의존하지 않고도 엣지에서 중요한 작업을 수행할 수 있게 될 것이다. AI 기술의 발전 가능성은 여전히 넓게 열려있다”라고 진단했다.
[email protected]