英 스타트업 프랙타일, ‘AI 추론 특화’한 인메모리 칩 개념 제시··· 팻 겔싱거도 투자

로봇공학 박사 학위를 가진 29세의 한 기업가가 현재 시장을 지배하고 있는 엔비디아 GPU보다 100배 빠르고, 10배 저렴하며, 20배 더 에너지 효율적인 하드웨어를 제공하겠다는 혁신적인 접근 방식을 내세우며 AI 칩 산업에 변화를 일으키려 한다.

월터 굿윈(사진)은 옥스퍼드 로봇 연구소에서 실제 환경을 탐색할 수 있는 범용 로봇을 만들기 위해 대규모 언어 모델(LLM)을 사용하는 방법을 연구하던 중 이 회사에 대한 아이디어를 얻었다. 그는 2022년 저장 공간과 연산 능력을 한 칩에 결합함으로써 AI 추론 성능 병목 문제를 해결할 수 있다는 아이디어에 기반해 프랙틸을 설립했다.

2024년에 조용히 출현한 이 회사가 눈길을 모은 계기는 전 인텔 CEO인 팻 겔싱거의 링크드인 게시글이다. 그는 최근 링크드인에 게시한 글을 통해 자신이 이 회사에 투자했으며 자문 역할을 맡을 계획이라고 밝혔다. 겔싱거는 다음과 같이 썼다:

“수천 개의 출력 토큰을 메모리 바운드 방식으로 생성해야 하는 추론 모델로 인해 기존 하드웨어 로드맵의 한계는 더욱 커졌다. AI에 대한 우리의 열망을 이루기 위해서는 훨씬 더 빠르고 저렴하며 전력 소모가 적은 추론이 필요하다. 최근 영국에서 설립된 AI 하드웨어 회사인 프랙타일에 투자했다는 사실을 알려드리게 되어 기쁘다. 이 회사는 이러한 도약을 가능하게 할 만큼 급진적 혁신을 추구하는 회사이다.”

사이버미디어 리서치(Cybermedia Research)의 산업 연구 그룹 부사장인 프라부 람는 “혁신적인 AI 칩 설계로 인해 프랙틸을 팔로우해 왔지만, 팻 겔싱거의 투자 이후에 관심이 더욱 커졌다”라고 전했다.

그는 이어 “프랙타일은 인메모리 컴퓨팅에 초점을 맞추고 있다. 인메모리 컴퓨팅은 데이터 전송을 최소화함으로써 지연 시간과 에너지 소비를 줄이고 AI 추론을 향상시킨다. AI에 대한 논의가 전통적으로 훈련에 집중되어 왔지만, 이제는 추론으로 초점이 이동하고 있다”라고 말했다. 그에 따르면, 시장에 다른 업체들도 있지만, 프랙타일의 새로운 칩 디자인과 거센 투자 움직임이 프랙타일을 유망한 대안으로 부상하게 했다.

학계에서 기업가로

학계에 몸담았던 굿윈은 기업가로의 전환이 꽤 순조롭게 이뤄졌다고 전했다. 그는 “회사 설립을 위한 팀을 구성했다. 확실한 차별성과 다른 시야를 가졌음을 입증해야 했다”라며, “박사 과정은 회사 운영에 도움되는 고도의 훈련이기도 했다. 창업자로서 내가 좋아했던 작업 중 하나는 사람들을 찾고 설득하는 과정이었다”라고 말했다. 그는 지금까지 32명의 ‘믿을 수 없을 정도로 뛰어난 동료들’로 구성된 인력을 구축했다고 덧붙였다.

프랙타일의 차별화 요소

AI 모델과 관련해 훈련과 추론이라는 두 가지 조각이 있다. 훈련은 추론을 위한 LLM을 준비하는 작업이다. 추론은 출력 생성, 질문에 대한 응답, 이미지, 텍스트, 코드 생성 등을 말한다.

굿윈에 따르면 추론에 대한 전통적인 접근 방식은 AI 칩이 DRAM에 저장된 훈련 모델 데이터베이스를 다시 참조하는 것이다. 이로 인해 테라바이트 단위의 메모리가 저장과 연산 사이를 이동하는 것이 요구된다. 그리고 이 과정은 AI 시스템이 출력물에 새로운 단어를 추가할 때마다 발생한다.

굿윈은 “메모리와 추론 처리를 단일 칩에 융합함으로써 대역폭 측면에서 100배의 효과가 발생하고, 에너지 효율성이 훨씬 높아진다”라고 설명했다.

일반 기업에 대한 가치 제안

회사에 따르면 프랙타일 칩을 사용하는 조직은 여러 방식으로 경쟁 우위를 확보할 수 있다. 초당 훨씬 더 많은 단어를 생성하는 답변 로봇을 구축할 수 있다. 동일한 비용으로 더 많은 고객에게 동시에 서비스를 제공할 수 있는 기능을 구현할 수도 있다.

또 AI 시스템의 추론 능력이 향상됨에 따라, 단순히 직렬 방식으로 다음 단어로 점프하는 출력에서 더 긴 사고 체인을 구성하는 출력으로 발전할 가능성도 기대할 수 있다. 굿윈은 “사용자에게 챗봇을 제공하는 속도를 100배 더 빠르게 할 수도 있고, 지금과 같은 속도로 답변을 제공하면서 챗봇의 사고 속도를 100배 더 빠르게 할 수도 있다”라고 말했다.

아울러 이러한 유형의 신경망이 점점 더 많은 비즈니스 프로세스에 AI가 내장되면 조직에 우위를 제공할 수 있다는 설명이다. 굿윈은 “고객 기반 또는 직원 기반이 세계에서 가장 빠른 추론 모델에 액세스할 수 있게 된다. 이는 혁신적인 효과를 가져올 것”이라고 말했다.

프랙타일의 앞길

굿윈은 “하드웨어와 소프트웨어 스택을 모두 구축하기란 매우 어려운 일”이라고 인정하면서, 이를 위해서는 100명 이상의 인력과 2,500만 달러 이상의 자본이 필요할 것이라고 전했다. 지금까지 이 회사는 하드웨어를 설계하고 그 동작을 모델링하는 데 중점을 뒀지만, 앞으로 개발 노력을 더욱 가속화할 계획이다.

굿윈은 “원활하게 나아가고 있다. 잘 진행되면, 내년 말께 칩을 선보이고 2027년에는 제품을 출시할 수 있다고 본다”라며, 향후 더 많은 투자를 유치해야 한다고 전했다. 프랙타일은 지금까지 약 2,000만 달러의 투자금을 유치했다. 초기 투자자로는 킨드리드 캐피탈(Kindred Capital), 나토 이노베이션 펀드(NATO Innovation Fund), 옥스포드 사이언스 엔터프라이즈(Oxford Science Enterprises), 코코아 VC(Cocoa VC), 이노비아 캐피탈(Inovia Capital) 등의 엔젤 투자자와 함께 몇몇 다른 AI 및 반도체 회사 등이 있다.

그렇다면, 프랙타일은 엔비디아를 추월할 정도의 목표를 세우고 있을까, 아니면 더 제한된 맞춤형 칩 시장을 목표로 할까? 굿윈은 프랙타일이 “바늘에 실을 꿰듯” 범용 및 맞춤형 워크로드에 모두 대응하는 하드웨어/소프트웨어 스택을 구축하고자 한다고 표현했다.

램 애널리스트는 스타트업으로서 프랙타일이 “시장 리더십을 확보하기까지는 아직 험난한 길이 남았다”라고 진단했다. 그는 “프랙타일이 출시를 준비하는 동안, 경쟁이 치열한 AI 하드웨어 환경은 계속해서 진화하고 있다. 엔비디아와 같은 업계 리더들에게 도전하기 위해 프랙틸은 야심 찬 성능을 제공해야 할 뿐만 아니라 장기적인 생존 가능성을 보장하기 위해 강력한 개발자 생태계를 구축해야 할 것”이라고 말했다.
[email protected]