AI 보안, 이제는 모델이 아니라 시스템 중심으로 접근해야

이달 발표된 한 논문에서 연구진은 기업이 기반 모델 자체의 견고성을 높이는 방식만으로는 AI 에이전트를 안전하게 보호할 수 없으며, 대신 이를 둘러싼 시스템 차원에서 보안 통제를 적용해야 한다고 주장했다. 또한 기존 AI 보안 접근법이 실제 기업 환경에서 자율형 에이전트가 동작하는 방식과 점점 어긋나고 있다고 경고했다. 해당 논문은 기업이 AI 에이전트를 더 이상 신뢰 가능한 소프트웨어 구성요소로…

AI가 취약점 1만 건 캐냈지만…진짜 병목은 ‘패치’였다

앤트로픽은 프로젝트 글래스윙(Project Glasswing)에 참여 중인 50개 이상의 파트너사와 함께 자사 소프트웨어에서 약 1만 개의 치명적 또는 고위험 수준 취약점을 발견했다고 밝혔다. 앤트로픽은 지난 4월 클로드 미토스 프리뷰(Claude Mythos Preview)를 기반으로 한 사이버보안 프로젝트를 출범했다. 당시 회사는 참여 파트너들이 이를 방어형 보안 업무에 활용할 것이라고 설명했다. 앤트로픽은 프로젝트 글래스윙을 만든 배경에 대해 “새 프론티어 모델의…

“개발팀에 맡기는 시대는 끝났다” CIO, 바이브 코딩으로 현업 자급자족 시대 연다

바이브 코딩(vibe coding)이 이제 소프트웨어 개발 조직을 넘어 다양한 기업의 여러 현업 부서로 빠르게 확산되고 있다. 기술 리더들은 이러한 움직임을 단순히 지원하는 수준을 넘어, 직접 확산을 주도하는 경우도 늘고 있다. 프롬프트만으로 코드를 생성하는 챗봇과 AI 에이전트 등 바이브 코딩 도구가 등장하면서 소프트웨어 개발의 민주화가 본격화됐다. 이에 따라 바이브 코딩은 인사(HR), 마케팅 등 비개발 부서에서도 새로운…

Another IT governance headache: AI-enabled sanction evasion

Over the next three to five years, both governments and the private sector will need to rapidly adapt identification and mitigation protocols as adversaries move from AI-assisted to AI-enabled sanctions evasion and proliferation financing (PF), a new research paper warns. The report, Algorithms of Evasion: The Rise of AI-Enabled Proliferation Financing, from the Royal United…

Why machine-speed exploits demand autonomous defense

When Anthropic’s Mythos model unearthed a 27-year-old OpenBSD flaw in the time it takes to brew a coffee, the “AI Vulnerability Storm” stopped being a theoretical threat and became our new reality. For years, the security industry has debated when AI would truly disrupt the exploit market. That debate is over. We are now defending…