AI 책임 보장서 발 빼는 보험사들…불확실성에 시장 재편 조짐

주요 보험사가 AI를 활용해 내부 프로세스를 운영하는 기업에 대한 사이버 보안 및 기타 보험 제공에서 점차 발을 빼고 있는 것으로 전해졌다.

보험 시장에서 고객의 AI 활용에 대한 일관된 대응 기준은 없지만, 많은 보험사가 사이버 보안 및 전문직 배상책임보험(E&O, Errors and Omissions 보험)에서 AI가 생성한 결과물과 관련된 청구에 대해 계약 체결을 조용히 거부하는 사례가 늘고 있다고 업계 관계자들은 전했다. 일부 보험사는 AI 관련 사고를 보장하기 위해 보험료를 크게 인상하는 방식으로 대응하고 있다.

보험사들과 협력하는 AI 개발 및 컨설팅 기업 코드스트랩의 CEO 코너 딕스는 “수십 개 보험사가 AI 관련 오류 보장에 대해 재검토에 나선 것으로 보인다”고 말했다.

이어 딕스는 “많은 보험사가 AI 결과물을 보장하는 데 부담을 느끼고 있다”며 “AI가 어떤 과정을 거쳐 결과를 도출했는지 추적하기 어렵기 때문”이라고 설명했다.

그는 “이러한 흐름은 사이버 보안과 E&O 전반에서 보험 보장 범위를 제외하는 형태로 나타나고 있다”며 “최근 등장한 다양한 바이브 코딩 기반 솔루션과 AI 시스템에는 본질적인 리스크가 내재돼 있지만, 전체 처리 과정을 완전히 들여다보기 어렵다”고 지적했다.

보험업계의 이러한 우려는 2025년 11월 파이낸셜타임스 보도를 통해 처음 드러났다. 당시 AIG, 그레이트 아메리칸 인슈어런스 그룹(Great American), WR버클리(W.R. Berkley) 등 주요 보험사는 챗봇과 AI 에이전트 등 AI 도구와 관련된 책임을 제외한 보험 상품을 제공하기 위해 미국 규제 당국에 신청서를 제출했다. 당시에는 향후 AI 관련 오류를 제외하기 위한 사전 대응으로 해석됐다.

그러나 현재는 다수 보험사가 실제로 AI 오류를 보험 약관에서 제외하는 방향으로 정책을 구체화하고 있다고 딕스는 밝혔다. 그는 “일부 보험사는 AI로 인한 비즈니스 중단과 책임에 대한 보장을 제한하거나 아예 중단하는 움직임을 보이고 있다”고 덧붙였다. 이어 “아이러니하게도 많은 보험사가 내부적으로는 AI 활용을 확대하고 있다”고 말했다.

딕스가 이끄는 코드스트랩은 AI 보험 시장 확대에 이해관계가 있는 기업으로, 자사 AI 코딩 플랫폼을 ‘추적 가능하고 보험 적용이 가능한 기술’로 홍보하고 있다. 다만 업계 다른 관계자들 역시 유사한 보험사들의 움직임을 확인하고 있는 것으로 전해졌다.

보험사, AI 보장 제외 확대

글로벌 보험사 NSI 인슈어런스 그룹의 재무 부문 책임자 제이슨 비샤라는 “얼마나 많은 보험사가 AI 워크로드 보험을 거부할지는 아직 불확실하지만, 일부 보험사는 이미 AI로 인한 비즈니스 혼란을 보장 대상에서 제외하는 보험 상품을 출시하고 있다”고 말했다.

이어 “보험사들의 리스크 수용 범위는 지속적으로 변화하고 있다”며 “AI와 관련해서는 아예 리스크 대상에서 제외하고 보험 견적 자체를 거부하는 사례도 나오고 있다”고 설명했다.

비샤라는 일부 보험사가 AI 결과물에 대한 보장을 거부하는 반면, 다른 보험사는 증가한 리스크를 반영해 보험료를 인상하고 있다고 전했다. 구체적인 인상 폭은 공개되지 않았지만 상당한 수준이라는 설명이다.

그는 “모든 기업은 보험에 가입하고 있으며, 동시에 대부분의 기업이 일정 수준 AI를 활용하고 있다”며 “이러한 상황에서 보험 약관에 AI 관련 책임 제외 조항이 포함되고, 보험사들이 이를 회피하는 경향이 나타나고 있는가에 대한 질문에는 ‘그렇다’고 답할 수 있다”고 밝혔다.

또한 보험사들은 AI 공급업체와 AI를 활용하는 일반 기업을 구분해 대응하고 있다. 많은 경우 보험사는 AI 기업에 대한 보장을 아예 거부하는 반면, 기술을 사용하는 기업에는 일부 예외 조항을 두는 방식으로 접근하고 있다.

비샤라는 “AI 관련 기업이거나 순수 AI 기업이라면 현재로서는 보험 가입이 거절될 가능성이 높다”고 말했다.

최근 몇 달 사이 보험사들은 고객의 AI 활용 방식에 대해 보다 구체적인 질문을 던지고 있다. 이는 사고 발생 가능성에 따른 리스크를 정밀하게 평가하기 위한 조치다. 다만 이러한 심사 강화는 결과적으로 기업이 AI 워크로드에 대한 보험을 가입하기 어렵게 만드는 요인으로 작용할 전망이다.

비샤라는 “현재 AI를 활용하는 기업이라면 ‘AI 정책은 무엇인지, 어떤 절차를 따르는지, 실제 비즈니스에서 어떻게 활용하고 있는지’와 같은 질문을 받고 있다”며 “보험 인수 담당자들 역시 ‘기업이 AI를 어떻게 활용하고 있는지’에 대해 매우 상세하게 확인하고 있다”고 설명했다.

보험 적용 기준 ‘재편’ 단계

MSP 기업 엔소노의 보험 부문 CTO 필 카레키는 일부 보험사가 AI 결과물 보장에서 물러나는 움직임을 보이고 있지만, 이것이 업계 전반의 흐름인지에 대해서는 신중한 입장을 보였다. 그는 보험사들이 보장 방식을 지속적으로 실험해 왔다고 설명했다.

카레키는 “보험사들은 보장 여부를 판단할 때 엄격하게 통제된 AI 도입과 실험적 프로젝트를 구분하려 하고 있다”고 말했다.

이어 “현재 AI는 통제된 생성형 AI와 자율형 AI로 양분되는 양상을 보인다”며 “이제는 단순히 ‘AI를 사용하고 있는가’가 아니라 ‘얼마나 통제되고 있는가, 어떻게 관리하고 있으며 얼마나 안전하게 운영되는가’가 핵심 질문이 됐다”고 설명했다.

그는 보험사들이 AI 워크로드 보장이 수익성이 있는지 판단하려는 단계에 있다고 덧붙였다. 명확한 의사결정 범위 내에서 운영되는 통제형 AI는 상대적으로 보험 적용이 가능하지만, 모니터링이 어렵고 롤백이 불가능한 실험적 시스템은 보장이 어렵다는 분석이다.

카레키는 “이는 단순한 후퇴라기보다 재정립 과정에 가깝다”며 “보험사들은 특정 상품이 시장성이 있는지 확인하기 위해 보장을 확대했다가, 결과를 분석한 뒤 다시 진입 여부를 결정하는 전략을 반복하기도 한다”고 말했다.

또한 AI 시스템의 보험 가능 여부는 개별 고객 환경에 따라 달라질 수 있다고 설명했다. 그는 “보험사들은 기본적으로 보험 사업을 포기하려는 것이 아니라, 해당 영역이 수익성이 있는지 판단하려는 것”이라며 “각 계약마다 ‘AI를 어떤 용도로 사용하는지, 어떻게 통제하는지, 어떤 리스크가 발생하는지’와 같은 질문이 뒤따르고 있다”고 전했다.

AI 개발 및 컨설팅 기업 코드스트랩 CTO 도리안 스마일리는 현재 AI 시스템의 신뢰성이 낮다는 점에서 보험사의 우려가 합리적이라고 평가했다. 그는 “이론적으로 AI 모델은 동일한 입력에 동일한 결과를 내야 하지만, 실제로는 같은 입력에서도 전혀 다른 결과가 나올 수 있다”며 “결과의 정확성을 스스로 검증하지 못하는 경우도 많다”고 지적했다.

또한 “대부분의 AI 모델은 귀납적 추론 능력이 부족하고 자체 검증도 어렵다”며 “그럼에도 많은 기업이 수백 개의 자율형 에이전트를 디지털 직원처럼 운영하려는 것은 비현실적”이라고 평가했다. 이어 “새로운 정보를 학습하지 못하고, 정보를 안정적으로 조회하지 못하며, 자신의 결과를 검증할 수 없는 사람을 채용하지는 않을 것”이라고 비판했다.

한편 NSI 인슈어런스 그룹의 제이슨 비샤라는 AI 보험 가입을 고려하는 IT 및 비즈니스 리더들에게 투명성을 강조했다. 그는 “AI 활용 방식을 충분히 공개하지 않을 경우, 사고 발생 시 보험금 지급이 거절될 수 있다”며 “보험사가 해당 리스크를 사전에 인지하지 못했다는 이유로 보장을 거부할 가능성이 있다”고 경고했다.
dl-ciokorea@foundryco.com