에이전틱 AI, 신뢰 부족이 가장 큰 걸림돌로 떠오르다

많은 기업이 AI 에이전트를 빠르게 도입하고 있지만, 에이전틱 AI의 정확성에 대한 심각한 의문이 제기되면서 향후 잠재적 위험이 발생할 수 있다고 전문가들은 지적했다. 아이러니하게도 AI 에이전트는 충분한 가치를 내려면 의사결정 자율성이 필요하다. 그러나 많은 AI 전문가는 여전히 에이전트를 ‘블랙박스’로 바라보고 있으며, 기업은 에이전트가 어떤 이유로 특정 행동을 선택하는지 들여다보기 어렵다. 이 같은 의사결정 과정의 불투명성은 에이전트를…

기업 보안의 새 변수 ‘MCP 서버’···CISO가 파악해야 할 주요 플랫폼 18개와 주요 위협

MCP(Model Context Protocol)은 AI 에이전트가 데이터 소스에 연결할 수 있도록 해주지만, 초기 버전 표준에는 핵심 보안 기능이 크게 부족했다. 최근 몇 달 동안 이 문제를 해결하려는 다양한 벤더가 등장했으며, 이제야 본격적인 도입이 가능해진 것인지, 여전히 실제 운영에 투입하기에는 이른 단계인지 논의가 이어지고 있다. 핵심 프로토콜 측면에서는 일부 진전이 있었다. 3월에는 OAuth 인증 지원이 추가됐고, 6월에는…

AI ‘워크슬롭’에 대응하라···수요 급증하는 생성형 AI 역량 10가지

최근 생성형 AI를 빠르게 도입한 기업 사이에서, 실제 현장의 교육과 역량 강화 수준이 그 속도를 따라가지 못하는 사례가 적지 않다. 이 격차는 이른바 ‘워크슬롭(workslop)’ 증가로 이어지고 있다. 워크슬롭은 겉보기엔 그럴싸해 보이는 저품질의 AI 결과물로 인해 동료나 관리자가 더 많은 일을 떠안게 되는 현상을 의미한다. 프롬프트 엔지니어링, 자연어 처리, 머신러닝 기본 개념 등에 대한 이해가 부족한…

“AI 실패, 이사회에 책임 묻는다” 싱가포르, 금융권 AI 규제 모델 제시

싱가포르 금융 규제 당국이 이번 주 발표한 새 의견 수렴 문서에 따르면, 금융기관 이사회와 최고경영진이 AI가 초래하는 기관 차원의 리스크에 직접 책임을 지게 될 수 있다. EU AI법 등 다른 지역 규제에서도 경영진 책임 원칙이 있지만, 이처럼 구체적인 기준을 제시한 것은 이번이 사실상 처음이다. 이런 규제를 통해 싱가포르 통화청(MAS)은 기술이 금융권 전반에 더 깊게 자리…

칼럼 | 에이전트 시대, 앱이 더 단순해져야 하는 이유

기업용 시스템은 수십 년에 걸쳐 현대화됐지만, 변화의 상당수는 표면적인 부분만 바뀌는 데 그쳤다. 새로운 코드베이스, 클라우드 네이티브 스택, 더 세련된 API가 등장했지만, 핵심 문제는 변하지 않았다. 새 애플리케이션을 만들 때마다 그 안에 담기는 의미 체계를 다시 구축해야 한다는 점이다. 각 애플리케이션은 서로 다른 방식으로 핵심 개념과 데이터를 정의한다. 위험 수준이나 서비스 이용 자격, 노출도 같은…

메가존클라우드, 엔비디아와 한국 총판 계약 체결

양사는 과천 메가존산학연센터에서 메가존클라우드 염동훈 대표와 엔비디아 글로벌 총판 총괄 제프 팬처, 엔비디아 코리아 정소영 대표 등 주요 경영진이 참석한 가운데 총판 계약 체결식을 가졌다. 이번 계약을 통해 메가존클라우드는 엔비디아의 국내 공식 총판으로서 AI 인프라 공급과 AI 생태계 확산을 본격적으로 추진한다. 이 계약에 따라 메가존클라우드는 엔비디아의 DGX 및 HGX GPU 서버, 인피니밴드(InfiniBand) 등 AI 인프라 핵심 하드웨어 제품을 국내 시장에 공급한다. 이를 통해 데이터센터용 AI 학습·추론 시스템, 고성능컴퓨팅(HPC) 환경, 산업용 비전 및 엣지 AI, 하이브리드 AI 팩토리 등…

Agentic AI opens door to new ID challenges: Report

Research released Thursday by Rubrik Zero Labs finds that the AI wave, and in particular agentic AI, has created a “troubling gap between the expanding identity attack surface and organizations’ ability to recover from resulting compromises.” According to the report, Identity Crisis: Understanding & Building Resilience Against Identity-Driven Threats, the result is a surge of…

Beyond outsourcing: How PwC drives outcomes, value, and innovation through managed services 2.0

Today’s business leaders demand more from managed services: Measurable outcomes. Innovation. Agility. While the traditional model may keep the lights on with contractual service level agreements, PwC reimagines managed services to address these business needs. In this article Tim Canonico, US and Global Managed Services leader for PwC, offers his take on PwC’s definition of…