레드햇은 이러한 흐름 속에서 AI 추론 인프라 관리가 기업의 핵심 과제가 될 것이라고 전망했다. 9월 3일 CIO코리아와 IT월드가 공동 주최한 AI&데이터 서밋에서 발표자로 나선 한국레드햇 신용환 시니어 솔루션 아키텍트는 vLLM(Virtual Large Language Model)을 중심으로 한 AI 추론 최적화 전략을 소개했다. 그는 “2022년 이전까지 AI 개발 기업들은 주로 모델의 정확도와 성능 향상에 집중했지만, 이후에는 AI 운영을…
생성형 AI는 거의 모든 산업을 빠르게 뒤흔들며, 관련 역량을 갖춘 IT 전문가에 대한 수요를 급격히 높이고 있다. 기업들은 디지털 혁신과 운영 고도화를 위해 이 기술을 활용하고 있으며, 이에 따라 생성형 AI 기술을 보유한 인재는 높은 평가를 받고 있다. 딜로이트의 ‘기업 내 생성형 AI 현황 보고서’에 따르면 전체 조직의 75%가 향후 2년 안에 생성형 AI가 인재…
기업용 AI는 대체로 대규모 언어 모델(LLM) 중심으로 구축되고 소규모 언어 모델(SLM) 은 간과되는 경우가 많다. 하지만 크다고 해서 항상 좋은 것은 아니다. 오히려 더 작고 특화된 모델이 더 빠르고 효율적으로 작업을 수행하는 사례가 적지 않다. 문제를 복잡하게 만드는 점은 단일 LLM이나 SLM만으로는 특히 복잡한 기업 환경에서 필요한 모든 요소를 충족하기 어렵다는 사실이다. 두 경우 모두…
유럽연합 집행위원회(EC)는 마이크로소프트(MS)가 생산성 소프트웨어 제품군에 팀즈를 번들로 제공해 오던 관행과 관련한 장기간의 조사를 마무리했다. MS는 이번 조사에서 경쟁 제한 우려를 해소하기 위한 향후 조치들을 약속하며 규제 당국의 벌금 부과를 피했다. 합의에 따라 MS는 마이크로소프트 365(M365)와 오피스 365에 팀즈를 제외해 더 저렴한 가격에 판매하고, 경쟁 앱과의 상호운용성 강화에 나서야 한다. 이번 반독점 조사는 2020년 세일즈포스(Salesforce)가…
오라클이 오픈AI와 3,000억 달러 규모의 계약을 체결하면서 전통적인 ERP와 데이터베이스 벤더에서 클라우드 컴퓨팅 핵심 기업으로 부상했다. 오라클은 오픈AI와 5년간 컴퓨팅 파워를 공급하는 계약을 통해 이번 분기 미래 계약 매출이 359% 급증한 것으로 집계됐다. 매출 증가액만 3,170억 달러에 달하며, 회사의 2030년 클라우드 매출을 약 1조 달러 수준으로 끌어올릴 전망이다. 이번 계약은 역대 최대 규모의 클라우드 계약으로,…
업무 기능을 외주화하면 CIO는 비용 절감은 물론, 경우에 따라 전문성도 확보할 수 있지만, 동시에 내부 인력의 리스크를 통제 범위 밖에 있는 외부 인력으로 전가하게 된다. SLA는 이런 리스크 전가에 대한 안전장치를 제공할 수 있지만, 기존 SLA의 측정 기준과 조건만으로는 실시간 운영 리스크나 위협을 적시에 포착하지 못하고, 보고 시점이 늦어져 상황을 놓칠 수 있다. 대표 사례로…
이번 한국 진출은 아시아 시장 확대 전략의 일환으로, 다국적 기업에서 동북아 사업 전반을 총괄해 온 강민우 아시아태평양 지역 총괄 대표를 공식 선임했다. 강민우 아태지역 총괄 대표는 데이터도메인(Data Domain, EMC로 합병), 퓨어스토리지(Pure Storage), 루브릭(Rubrik), 엑사그리드(ExaGrid), 그래프코어(Graphcore) 한국 지사장을 거쳐, 지코어 아시아(Gcore Asia, 한국·일본·대만·싱가포르 포함) 대표 등을 역임하는 등 30년 이상 영업 및 조직 관리 업무를 성공적으로…