이젠 직원에게 AI PC를 지급해야 할까?

생성형 AI가 헤드라인을 계속 장악하는 가운데 AI PC에 대한 담론도 늘고 있다. 생성형 AI 처리 작업을 처리할 수 있을 만큼 강력한 개인용 컴퓨터의 매력을 강조하는 메시지를 흔하게 찾아볼 수 있다.

주요 PC 제조사 모두가 공급하는 AI PC에는 AI 워크로드 처리를 가속화하도록 설계된 일련의 하드웨어와 소프트웨어가 포함되어 있다. AI는 주로 서버 측에서 담당하지만, AI PC에서는 적어도 처리 작업의 일부가 클라이언트에서 처리된다.

그러나 AI PC 분야는 여전히 초기 단계다. 또 웹을 통해 수많은 인공지능 도구를 이용할 수 있는데 굳이 AI PC에 투자할 이유가 있을지 의문을 가질 수 있다.

간단히 결론부터 말하자면, 모든 비즈니스 PC가 그 방향으로 나아가고 있기에 AI PC의 기업 환산은 시간문제일 뿐이다. 머지않아, 무선랜와 v프로처럼 표준화될 것이다. 그러나 아직 그 정도는 아니다. 지금 기업 전반에 AI PC를 도입할 지 여부에 대해 따져볼 부분이 있다.

AI PC의 혜택

클라우드 대신 데스크톱에서 AI 애플리케이션을 실행하는 주된 이유는 개인 정보 보호와 보안 강화다. 특히 금융과 의료와 같이 규제가 엄격한 분야에서는 민감한 데이터가 방화벽의 경계 안에 머물러야 할 수 있다.

또 다른 핵심 고려 사항은 비용이다. 서버 기반 AI 처리는 매우 비싸며, 사내 대형 언어 모델(LLM) 출시 비용은 5만 달러에서 수백만 달러에 이른다. AIaaS(AI-as-a-service)를 사용하더라도 매달 수만 달러의 비용이 들 수 있다. 또 앞서 언급한 바와 같이 데이터를 클라우드로 전송할 때 개인 정보 보호 및 보안 문제가 발생할 수 있다. AI 워크로드의 일부를 PC 등의 엔드포인트 장치로 전환하면 서버 기반 처리의 필요성이 줄어들고 응답 시간도 빨라진다.

즉 AI PC가 전적으로 마케팅 호들갑인 것은 아니다. 레노버 인텔리전트 디바이스 그룹의 수석 부사장인 스티브 롱은 AI PC가 생산성 향상을 위한 수단이라고 주장한다. 그는 “AI PC가 시간을 아껴준다. 마케팅 콘텐츠 생성, 회의 요약, 마이크로소프트 365 코파일럿 또는 Personal.ai와 같은 앱을 통한 워크플로 간소화 등의 작업에 대해 이 장치들이 부하를 처리해 준다. 팀원들이 더 가치 있는 작업에 집중할 수 있으며, 그 결과 실제 생산성이 향상된다”라고 말했다.

이 밖에 AI PC는 속도 저하 없이도 실시간 위협 탐지를 구현하는 등의 능동적이고 자율적인 기능, IT 부서가 장애를 미리 예방할 수 있도록 도와주는 예측 유지보수 기능을 제공할 수 있다.

마지막으로, AI PC가 사용자의 작업 방식에 적응하기 때문에 보다 개인화된 경험을 제공한다고 레노버의 롱은 말했다. 예를 들어, 회의 내용을 사용자의 어투로 요약하거나, M365 코파일럿을 사용하여 이메일을 작성하거나, 이전 프로젝트의 개인 AI 에이전트를 사용하여 관련 통찰력을 제시하는 등의 기능을 제공한다.

“매일 더 똑똑해지고 잠들지 않는 디지털 비서를 갖는 것과 같습니다. 모든 것이 로컬에서 이루어지기 때문에 빠르고 안전하며 사용자에게 맞춤화된다”라고 그는 말했다.

올해엔 AI PC를 구입해야 할까?

이것이 바로 100만 달러짜리 질문이다. 구매를 정당화하려면 킬러 앱이 필요하다. IBM PC는 로터스 1-2-3이 출시되기 전까지는 비즈니스 도구로 자리 잡지 못했다. AI PC에도 독자적인 필수 앱이 필요하다.

가트너는 2026년 말이면 모든 PC가 AI PC가 될 것으로 예측하지만, 모든 사람이 AI 기능을 사용한다고 보지는 않는다. “클라우드 기반과 달리 온디바이스 AI 기능의 사용은 더 느리게 발전할 것이다. 기업들은 컴프라이언스를 충족하기 위해 단계적으로 도입할 가능성이 높다. 따라서 가트너는 2028년까지 약 24%의 직원만이 향상된 NPU 기능을 사용할 것으로 추정한다”라고 가트너의 란짓 아트왈 선임 연구 책임자는 말했다.

레노버의 롱은 2027년이나 2028년일 가능성이 높다고 예상했다. 그는 “기업과 소비자 부문 모두, 킬러 유스 케이스를 찾으려 한다. 실험의 서부 개척 시대와 같은 상황”이라고 말했다.

킬러 앱이 없다면 한계가 있다. 저가형 기기가 아니기 때문이다. 아트왈은 표준 비즈니스 PC와 AI PC의 가격 차이가 200달러 이상이라고 추정한다. 수십, 수백, 수천 대의 PC에 이 가격을 곱하면 막대한 금액이 된다.

공급사들은 AI PC가 미래에 대비할 수 있는 기능을 제공한다고 주장하곤 한다. 그러나 아트왈은 이러한 주장에 회의적이다. “구매자들이 즉각적인 가치를 보지 못한다면, 프리미엄을 지불할 준비가 되어 있지 않은 것이다. 미래에 대비할 수 있는 기능, 그 정도의 추가금을 지불할 이유가 희박하다. [이점이] 정확히 무엇인지 명확하지 않다면 말이다”라고 그는 말했다.

IT 구매자들에게 또 다른 중요한 요소가 있다. 윈도우 10 지원이 10월에 종료된다. 윈도우 10 PC를 사용하는 조직은 해당 장치에 대한 확장 지원을 구매하거나 윈도우 11 장치로 업그레이드해야 한다.

어차피 새 PC를 구입할 계획이라면 AI 기능이 탑재된 장치 구매가 합리적일 수 있다. 실제로 최근 전 세계 대기업의 IT 의사 결정권자를 대상으로 한 IDC 설문 조사에 따르면 80%의 기업이 2025년에 AI PC를 배포할 계획이다.

이미 전사적으로 AI PC를 도입한 조직들도 있다. 글로벌 B2B 마케팅 및 광고 대행사인 트랜스미션(Transmission)이 그 중 하나다. 직원들이 AI 도구에 익숙해질 수 있도록 하기 위해서다. 트랜스미션의 글로벌 분석 책임자인 조나단 코섹은 “AI PC가 미래라는 것을 우리는 알고 있다. 직원들이 새로운 도구에 빨리 노출되어 스스로 더 나은 결정을 내리고 더 빨리 결정을 내릴 수 있는 방법을 익히기를 원한다”라고 말했다.

그는 이어 “일단 마이크로소프트 코파일럿을 모든 직원의 컴퓨터에 설치했다. 사람들이 AI 사용에 익숙해지고, 시대를 앞서가는 방법을 익히도록 돕기 위해서다”라고 말했다.

AI PC 구매 시 고려 사항

지금 AI PC를 구입하기로 결정했다면, 사용자 경험에 영향을 미칠 수 잇는 구성 선택을 살펴볼 차례다. 그렇다면 무엇을 고려해야 할까? 몇 가지 확인해야 할 사항이 있다.

1. AI에 적합한 프로세서. AI PC에는 머신러닝 및 딥러닝 작업의 처리 속도를 높이기 위해 설계된 NPU가 탑재되어 있다. 행렬 곱셈, 컨볼루션, 그리고 AI 알고리즘에서 일반적으로 사용되는 다른 유형의 계산과 같은 작업에 특화된 요소다. 프로세서에 통합된 NPU는 다음의 최신 세대의 CPU에서 포함돼 있다.

• 인텔 코어 울트라(메테오 레이크 세대)
• AMD 라이젠 7040 시리즈
• 맥의 Apple M-시리즈 칩
• 윈도우ㅠ AI PC용 퀄컴 스냅드래곤 X 엘리트 ARM 기반 칩

2. TOPS 성능. NPU는 TOPS(초당 테라 연산)라는 벤치마크로 측정된다. TOPS는 1초에 수행할 수 있는 연산의 수를 의미한다. GHz나 여자 숫자는 이제 잊어도 된다. TOPS가 새로운 척도다.

AI PC에는 CPU, GPU, NPU라는 세 가지 처리 장치가 있다. NPU가 가장 중요하지만, CPU와 GPU도 중요한 역할을 합니다. 인텔의 데스크톱 프로세서 제품군인 루나 레이크(Lunar Lake)는 TOPS 등급이 120으로, NPU가 48, GPU가 67, CPU가 5이다.

AMD의 라이젠 AI MAX 시리즈 프로세서의 NPU는 TOPS 등급이 50으로, 사실상 인텔과 동등한 수준이다. 한편 AMD는 CPU와 GPU 성능을 구분하지 않는다.

미래 세대의 CPU는 훨씬 더 빠른 NPU 성능을 제공할 것이 분명하다. 루나 레이크 이전 세대의 인텔 프로세서의 경우 TOPS 등급이 10에 불과했다.

3. 좋은 GPU. 비즈니스용 PC는 CPU 통합 그래픽을 탑재한 경우가 많다. 이 통합 그래픽은 성능이 그리 높지 않다. AI 프로세서는 이전 세대보다 훨씬 더 우수한 성능의 GPU를 가지고 있지만, 여전히 외장 GPU와 비견될 수준이 아니다. 하지만 외장 GPU를 사용하도록 작성된 앱은 많지 않다. CAD/CAM 소프트웨어와 같은 몇 가지 예외를 제외하고, 대부분의 비즈니스용 애플리케이션은 GPU를 활용하지 않는다.

그러나 결국에는 외장 GPU의 놀라운 TOPS 성능을 활용할 수 있도록 AI 앱이 다시 작성될 가능성이 크다. 예를 들어, 엔비디아의 새로운 최고급 RTX 5090의 TOPS 등급은 3350에 달한다. 가격 또한 4,100달러에 이른다.

4. 충분한 메모리. 전통적인 PC를 사용하는 대부분의 비즈니스 사용자는 8GB의 시스템 메모리로도 업무를 수행할 수 있다. 특히 SaaS 앱을 많이 사용하고 브라우저에서 작업하는 경우에는 더욱 그렇다. 그러나 AI 워크로드를 처리하려면 훨씬 더 많은 메모리가 필요하다. 모델의 크기에 따라 32GB 또는 64GB는 아닐지라도 16GB가 적어도 필요하다.

5. 통합 AI 소프트웨어. PC는 앞으로 텐서플로우, 파이토치와 같은 AI 프레임워크와 윈도우 스튜디오 이펙트(Windows Studio Effects), 어도비 파이어플라이(Adobe Firefly) 기타 유용한 AI 애플리케이션과 같은 도구와 호환되어야 한다. 소프트웨어 공급업체들은 로컬 AI 처리를 활용하기 위해 애플리케이션을 지속적으로 최적화하고 있으므로, AI 지원 앱의 속도를 높이려면 표준 도구와 프레임워크를 지원하는 하드웨어를 갖추는 것이 중요하다.
[email protected]