레드햇(Red Hat)이 생성형 AI 성능 엔지니어링, 모델 최적화 알고리즘, 고성능 GPU 및 CPU 추론 서비스 분야의 전문 기업인 뉴럴매직을 인수한다고 13일 발표했다.
2018년 MIT에서 분사한 뉴럴매직은 생성형 AI 추론 워크로드를 가속화하는 소프트웨어와 알고리즘을 제공한다. 레드햇에 따르면 대규모 언어 모델(LLM) 규모가 커지면서 컴퓨팅 자원 소모가 증가하는 상황이기 때문에, 기업들은 이미 사용 중인 하드웨어를 보다 비용 효율적으로 활용할 수 있는 기술을 필요로 하고 있다. 뉴럴매직이 보유한 LLM 최적화 전문성과 레드햇의 하이브리드 클라우드 기반 모델 지원 역량이 만나 더 많은 기업이 생성형 AI를 쉽게 활용할 수 있게 될 것이라는 설명이다.
레드햇은 어디서나 실행 가능한 오픈소스 라이선스 모델을 통해 AI 기술을 널리 보급하려는 목표를 갖고 있다. 이를 통해 기업은 언어 모델을 자체적으로 조정하고, 인프라를 효율적으로 운영하기 위해 추론 성능 엔지니어링을 활용할 수 있다. 또한 오픈소스 생태계 내에서 협력하며 더 폭넓은 하드웨어와 칩 아키텍처 선택권을 확보할 수 있다.
레드햇 대표이사인 매트 힉스는 “AI 워크로드는 하이브리드 클라우드 전반에 걸쳐 고객 데이터가 있는 모든 곳에서 실행되어야 한다. 그러려면 유연하고 표준화된 개방형 플랫폼과 도구가 필수적이다. 이를 통해 조직은 고유한 운영 및 데이터 요구사항에 가장 잘 부합하는 환경, 리소스, 아키텍처를 선택할 수 있다”라고 설명했다.
[email protected]
Read More from This Article: 레드햇, AI 최적화 스타트업 뉴럴매직 인수 발표
Source: News