3 key approaches to mitigate AI agent failures

In late July, venture capitalist Jason Lemkin spent a week vibe-coding a project with the help of a very smart, autonomous AI agent using a full-stack integrated development platform. Lemkin isn’t an engineer and hasn’t written code since high school. But in a previous life, he co-founded EchoSign, since acquired by Adobe, and knows what…

칼럼 | AI 시대의 제품 관리, ‘지능형 전환’이 승부 가른다

제품 관리는 기업이 프로젝트 중심交付에서 제품 중심 운영 모델로 전환하면서 핵심 경쟁 우위로 자리 잡고 있다. 전담 제품팀을 세우고交付 프로세스를 재정비하는 것이 이 변화의 중요한 단계지만, 많은 기업은 초기 변화 이후 더 이상 나아가지 못한다. 제품팀이 목표로 삼는 민첩성을 스스로 저해하는 절차 중심 방식에 여전히 묶여 있기 때문이다. 전통적 제품 모델은 통찰력과 적응성을 희생하면서까지 절차…

“AI 혁신의 동력” 레드햇이 제안하는 vLLM 추론 비용 최적화 전략

레드햇은 이러한 흐름 속에서 AI 추론 인프라 관리가 기업의 핵심 과제가 될 것이라고 전망했다. 9월 3일 CIO코리아와 IT월드가 공동 주최한 AI&데이터 서밋에서 발표자로 나선 한국레드햇 신용환 시니어 솔루션 아키텍트는 vLLM(Virtual Large Language Model)을 중심으로 한 AI 추론 최적화 전략을 소개했다. 그는 “2022년 이전까지 AI 개발 기업들은 주로 모델의 정확도와 성능 향상에 집중했지만, 이후에는 AI 운영을…

글로벌 기업 주도, 시작된 AI 자격증 경쟁···눈여겨볼 9가지

생성형 AI는 거의 모든 산업을 빠르게 뒤흔들며, 관련 역량을 갖춘 IT 전문가에 대한 수요를 급격히 높이고 있다. 기업들은 디지털 혁신과 운영 고도화를 위해 이 기술을 활용하고 있으며, 이에 따라 생성형 AI 기술을 보유한 인재는 높은 평가를 받고 있다. 딜로이트의 ‘기업 내 생성형 AI 현황 보고서’에 따르면 전체 조직의 75%가 향후 2년 안에 생성형 AI가 인재…

크기가 해법은 아니다··· SLM이 기업 IT 아키텍처에서 효율적인 이유

기업용 AI는 대체로 대규모 언어 모델(LLM) 중심으로 구축되고 소규모 언어 모델(SLM) 은 간과되는 경우가 많다. 하지만 크다고 해서 항상 좋은 것은 아니다. 오히려 더 작고 특화된 모델이 더 빠르고 효율적으로 작업을 수행하는 사례가 적지 않다. 문제를 복잡하게 만드는 점은 단일 LLM이나 SLM만으로는 특히 복잡한 기업 환경에서 필요한 모든 요소를 충족하기 어렵다는 사실이다. 두 경우 모두…

팀즈 없는 오피스, 더 싸진다··· 마이크로소프트, EU서 분쟁에 합의

유럽연합 집행위원회(EC)는 마이크로소프트(MS)가 생산성 소프트웨어 제품군에 팀즈를 번들로 제공해 오던 관행과 관련한 장기간의 조사를 마무리했다. MS는 이번 조사에서 경쟁 제한 우려를 해소하기 위한 향후 조치들을 약속하며 규제 당국의 벌금 부과를 피했다. 합의에 따라 MS는 마이크로소프트 365(M365)와 오피스 365에 팀즈를 제외해 더 저렴한 가격에 판매하고, 경쟁 앱과의 상호운용성 강화에 나서야 한다. 이번 반독점 조사는 2020년 세일즈포스(Salesforce)가…

오픈AI와 3,000억 계약 맺은 오라클··· 기업 클라우드 전략에 의미하는 바는?

오라클이 오픈AI와 3,000억 달러 규모의 계약을 체결하면서 전통적인 ERP와 데이터베이스 벤더에서 클라우드 컴퓨팅 핵심 기업으로 부상했다. 오라클은 오픈AI와 5년간 컴퓨팅 파워를 공급하는 계약을 통해 이번 분기 미래 계약 매출이 359% 급증한 것으로 집계됐다. 매출 증가액만 3,170억 달러에 달하며, 회사의 2030년 클라우드 매출을 약 1조 달러 수준으로 끌어올릴 전망이다. 이번 계약은 역대 최대 규모의 클라우드 계약으로,…

“감시 수준 협약?” 생성형 AI가 바꾸는 SLA의 미래

업무 기능을 외주화하면 CIO는 비용 절감은 물론, 경우에 따라 전문성도 확보할 수 있지만, 동시에 내부 인력의 리스크를 통제 범위 밖에 있는 외부 인력으로 전가하게 된다. SLA는 이런 리스크 전가에 대한 안전장치를 제공할 수 있지만, 기존 SLA의 측정 기준과 조건만으로는 실시간 운영 리스크나 위협을 적시에 포착하지 못하고, 보고 시점이 늦어져 상황을 놓칠 수 있다. 대표 사례로…

AI 공급망 기업 ‘데클라’ 한국 진출··· 강민우 아태 총괄대표 선임

이번 한국 진출은 아시아 시장 확대 전략의 일환으로, 다국적 기업에서 동북아 사업 전반을 총괄해 온 강민우 아시아태평양 지역 총괄 대표를 공식 선임했다. 강민우 아태지역 총괄 대표는 데이터도메인(Data Domain, EMC로 합병), 퓨어스토리지(Pure Storage), 루브릭(Rubrik), 엑사그리드(ExaGrid), 그래프코어(Graphcore) 한국 지사장을 거쳐, 지코어 아시아(Gcore Asia, 한국·일본·대만·싱가포르 포함) 대표 등을 역임하는 등 30년 이상 영업 및 조직 관리 업무를 성공적으로…