Edge vs. cloud TCO: The strategic tipping point for AI inference

For any organization, the question is no longer if to use AI, but where to run it to maximize strategic return on investment (ROI). The introduction of sophisticated AI—from massive Generative AI models used for content creation to high-volume Agentic AI systems driving autonomous decisions—has fundamentally challenged the established economics of computing. We now operate in a hybrid cloud and edge computing reality.…

What the AWS outage taught CIOs about preparedness

When the AWS US East 1 region went dark in October, it created a ripple effect that reached far beyond cloud workloads. Atlassian tools, home monitoring systems, communication platforms and even school websites became unavailable within minutes. None of these failures resulted from an attack nor reflected a lack of backup architecture. They represented a…

“AI 사고 발생하면 72시간 내 당국 신고 의무” 뉴욕주 AI 안전 법안 제정

뉴욕주지사 캐시 호컬은 19일 ‘RAISE 법(RAISE Act)’에 서명하며, 초대형 프론티어 AI 모델을 개발하는 기업들에게 안전 프로토콜 공개와 사고 보고를 의무화했다. 책임 있는 AI 안전 및 교육법(Responsible Artificial Intelligence Safety and Education Act)으로 명명된 이 법안은 올해 3월 뉴욕주 여러 의원에 의해 발의됐으며, 주지사의 서명을 거쳐 최종 제정됐다. 법안에 따르면 RAISE 법은 90일의 유예기간을 거친 뒤…

OWASP의 최신 ‘에이전틱 AI 상위 10대 위협’ 가이드가 주는 교훈

대규모 언어 모델 기반 챗봇이 지닌 리스크는 거의 매일 뉴스를 통해 확인되고 있다. 기술이 에이전틱 AI로 확대될수록 기업에는 더 큰 위협이 될 수 있다. 질문에 답하는 역할에 그치는 챗봇과 달리, 에이전틱 AI는 데이터와 각종 도구에 접근해 실제 작업을 수행하기 때문이다. 오픈소스 웹 애플리케이션 보안 프로젝트(OWASP)가 공개한 ‘에이전틱 애플리케이션 상위 10대 위협’은 CISO가 이러한 문제를 비즈니스…

칼럼 | 같은 말을 해도 통하지 않는 이유···CIO의 영향력이 시작되는 지점

2023년 영국 국민보건서비스(NHS)는 유럽에서 가장 야심 찬 데이터 프로젝트로 평가받는 연합 데이터 플랫폼(Federated Data Platform)을 출범했다. 이 이니셔티브는 분산돼 있던 환자 데이터를 연결해 계획 수립의 정확도를 높이고 대기 시간을 줄이며, 보다 근거 있는 의사결정을 가능하게 한다는 목표를 갖고 있었다. 문서상으로만 보면 결함을 찾기 어려운 프로젝트였다. 그러나 프로젝트는 시작 단계부터 의사 단체와 환자 단체 모두의 반발에…

칼럼 | CIO의 기술 투자 커뮤니케이션, ROI·리스크·미래 전략으로 답하라

필자가 CFO 자리에서 물러나 리더십 코치로 활동하고, 동시에 기업 이사회 멤버로 역할을 옮기면서 한 가지 분명한 사실을 확인했다. 기술 투자에 대한 승인 확보는 단순한 IT 논의가 아니라는 점이다. 이는 IT 부서 내부의 문제가 아니라, 본질적으로 비즈니스에 관한 대화다. 이 과정의 핵심은 신뢰와 정렬, 사용하는 언어, 그리고 무엇보다도 공동의 목적에 있다. 이 글을 읽는 CIO라면 명심할…

칩, 양자컴퓨팅 개발도 총괄···아마존, CEO 직속 AI 조직 신설

아마존이 CEO 직속의 신규 AI 조직을 설립했다. 이 조직은 노바(Nova) 계열 AI 모델과 그래비톤, 트레이니움, 니트로 칩 등 실리콘 개발, 그리고 초기 단계의 양자컴퓨팅 개발을 총괄한다. 이번 조치를 통해 기존에 AWS 산하에 있던 AI와 첨단 기술 연구 역량이 아마존 본사 핵심으로 이동하게 됐다. 신설 조직은 아마존에서 오랜 경력을 쌓아온 피터 드산티스가 이끈다. 드산티스는 아마존의 클라우드…

“AI 인프라 비용 30% 과소평가” CIO, 핀옵스 확대 불가피

IDC는 기업이 향후 2년 동안 AI 인프라 비용을 잘못 계산하면서 CIO가 핀옵스팀의 역할 범위를 확대할 것이라고 전망했다. IDC 인프라·운영 리서치 부문 부사장 제빈 젠슨은 “CIO와 재무 책임자가 컴퓨팅 집약형 AI 프로젝트에는 표준적인 예산 예측 방식이 통하지 않는다는 사실을 깨닫게 되면서 기업 AI 사용자는 ‘대규모 AI 인프라 비용 정산’을 맞게 될 것”이라고 경고했다. IDC는 글로벌 1000대…