금융권 CIO가 AI 에이전트를 ‘안전하게’ 활용하는 방법

에이전틱 AI는 2026년 소프트웨어 개발의 여러 영역을 사실상 주도할 것으로 보인다. API 관리 기업 그라비티(Gravitee)는 올해 말까지 기업의 70%가 조직 내에서 15개를 초과하는 ‘활성 AI 에이전트’를 운영할 계획이며, 100만 개가 넘는 봇이 ‘노동력’으로 유입될 것이라는 전망도 제시했다.

AI 에이전트가 현업 전반으로 스며들수록, 금융은 특히 성장 가능성이 큰 분야로 꼽힌다. 연방 신용조합 펜페드 크레딧 유니언(PenFed Credit Union)의 EVP 겸 CIO인 슈리 레디는 “금융 서비스 분야의 AI와 에이전트 기술은 향후 12~24개월 동안 크게 진전할 것”이라고 내다봤다.

가장 큰 이유는 금융 워크플로우에 수작업이 과도하게 많기 때문이다. AI 자동화 기업 오디토리아AI(Auditoria.AI)가 250명 이상의 금융 전문가를 대상으로 조사한 ‘2025 재무 부서의 AI 자동화 현황’ 보고서에 따르면, 매출채권(AR), 문서 추출, 과도하게 쌓인 이메일 관리가 대표적인 수작업 업무로 지목됐다. 이런 과제를 자동화하려는 관심은 이제 RPA를 넘어 생성형 AI와 자율 에이전트 같은 신기술 트렌드로 빠르게 이동하고 있다.

에이전트 도입의 초기 성과 사례로는 스퀘어(Square)와 캐시 앱(Cash App)으로 알려진 금융 서비스 기업 블록(Block)이 거론된다. 블록의 오픈소스 AI 에이전트 ‘구스(Goose)’는 현재 1만 2,000명 이상의 직원이 사용하고 있으며, 공통 업무에서 최대 75%의 시간을 절감했다고 보고했다. 블록의 개발자 관계 책임자 앤지 존스는 블록 엔지니어링 블로그를 통해 “해당 에이전트가 MCP를 활용해 AI 에이전트가 API, 도구, 데이터 시스템과 상호작용하도록 하면서 전 직무에 걸쳐 쓰이고 있다”라고 밝혔다.

다른 금융 환경에서도 에이전트는 정보 수집, 우선순위 분석, 사람의 의사결정을 보조하는 데 이미 효과를 내고 있다. 다만, 결제처럼 고위험 기업 금융 워크플로우를 에이전트형 AI가 ‘완전 자율’로 감독하는 단계까지는 아직 도달하지 못했다. 예를 들어, 에이전트가 결제를 스스로 수행하는 수준은 현실에서는 거의 보이지 않는다.

워카토(Workato)가 후원하고 하버드 비즈니스 리뷰가 2025년 12월 진행한 조사에 따르면, AI가 엔드 투 엔드 비즈니스 프로세스를 전적으로 처리하도록 ‘완전히 신뢰한다’고 답한 조직은 6%에 그쳤다. 반대로 94%는 AI 에이전트를 저위험 감독형 업무에 한정해 ‘가장자리’에 배치하고 있다. 금융에서 AI 에이전트를 한 단계 끌어올리려면, CIO가 핵심 인프라 격차를 해소하면서도 혁신과 가드레일을 동시에 정교하게 맞춰야 한다는 의미다.

BSS 소프트웨어·서비스 기업 CSG 인터내셔널(CSG International)의 SVP 겸 CIO 조 윌슨은 “AI는 ‘1,000개의 AI 모듈이 내는 작은 상처’로 서서히 조직을 괴롭히는 상황에 가깝다”고 표현했다. LLM 정확도와 접근 통제 문제는 보안 위험을 키우기 때문에, 더 계획적인 확산 전략이 필요하다는 설명이다. 윌슨은 “CIO는 보안 베스트 프랙티스를 깨지 않으면서도, 동시에 ‘파일럿의 무덤’에 빠지지 않도록 숨 가쁜 속도로 움직여야 한다”라고 덧붙였다.

규제 프레임워크가 금융기관의 맥락에서 에이전틱 AI의 적용 범위를 제한하더라도, 리더들은 에이전트와 멀티 에이전트 시스템이 사람과 함께 실질적 성과를 내는 방향으로 갈 것으로 보고 있다. 세일즈포스의 CIO 댄 슈미트는 “단순히 ‘수동적으로 돕는’ 단계를 넘어, 에이전트가 응답만 하는 것이 아니라 행동하고 협업하며 결과를 견인하는 ‘오케스트레이션 기반·성과 지향형 시스템’으로 이동하고 있다”라고 진단했다.

AI 에이전트가 금융을 지원하는 방법

에이전트가 은행 업무를 바꿀 기회는 분명하다. 고객 접점에서는 고도화된 챗·음성 어시스턴트처럼 새로운 경험을 제공할 수 있다. 레디는 “전통적인 IVR은 자연어 처리를 기반으로 한 지능형 음성 에이전트로 진화하면서, 매끄러운 대화형 뱅킹을 구현하게 될 것”이라고 전망했다.

LLM의 정확도가 올라가고 환각이 줄어드는 흐름은 활용처를 넓힌다. 다만 단기적으로는 규제 영향이 적은 영역이 먼저 확산될 가능성이 크다. 레디는 “비규제 사용례는 공격적으로 적용하겠지만, 규제 대상 사용례는 사람의 감독을 유지할 것”이라고 설명했다.

또 다른 유망 영역은 반복 업무가 많고 구조화된 내부 워크플로우다. 슈미트는 조달 가이드, 정책 지원, 예측, 계약 검토, 채권 회수 같은 영역을 꼽으며, “명시적 규칙이 있고 문서가 많으며 반복 질문의 양이 큰 프로세스는 에이전트가 개입할 여지가 분명하다”라고 말했다.

신원·사기 방지 플랫폼 기업 알로이(Alloy)의 CTO 찰스 헌도 같은 의견이다. 헌은 “수동적이고 반복적인 업무를 자동화하기 위해 AI 에이전트 사용이 늘어날 것”이라며, 감시 목록 매칭 처리, 문서 검토, 고객확인, 실사 정보 수집 등을 자동화에 적합한 업무로 꼽았다.

데이터 집계도 대표적이다. 딥러닝 사이버보안 기업 딥 인스팅트(Deep Instinct)의 CIO 칼 프로게트는 “에이전트는 여러 시스템에서 데이터를 끌어와 분류·요약하고, 사람의 판단이 필요한 경우에만 윗선에 보고하는 데 강점이 있다”고 말했다. 보안 운영에서 AI가 위험을 탐지하고 운영자에게 알려주는 방식과 유사하다는 설명이다.

은행 거래에는 최소 2명의 승인자가 필요한데, 금융권에서는 이를 ‘이중 승인(maker and checker)’ 원칙으로 부른다. 이 원칙은 역사적으로 많은 수작업 의사결정을 요구해왔지만, 에이전틱 AI는 향후 의사결정을 간소화하거나 언젠가는 자율적으로 실행하는 방향까지도 가능성을 열어두고 있다.

프로게트는 “리스크 포지션을 바꾸지 않으면서도, 기존 이중 승인 및 거버넌스 프로세스에 에이전트를 꽂아 넣는 방식이 더 빠른 진전을 만든다. 결국 금융팀이 더 빠르게 움직이고, 고부가가치 업무에 집중하도록 돕는다”라며, “에이전트 도입은 신규 인력을 채용하거나 오프쇼어·니어쇼어로 인력을 재배치하는 것과 본질적으로 다르지 않다”라고 설명했다.

고가치 금융 운영에 적용하는 AI 에이전트

일부 기업은 ‘보조 역할’만이 아니라 더 높은 가치의 운영 영역에서도 에이전트를 함께 쓰는 실험에 들어갔다. 예를 들어 세일즈포스는 거래의 주변부에서 에이전트가 전략을 보조하는 방식에 주력하고 있다. 슈미트는 “어떤 인보이스가 후속 조치가 필요한지 식별하고, 월간 현금 목표를 달성하기 위해 운영 조직이 어떤 행동을 해야 하는지 결정하는 데 에이전트를 활용하고 있다”라고 전했다. 이어 “인사이트와 실행을 결합하면서 고객 이슈를 더 빨리 해결하는 동시에, 의사결정 역량도 개선하고 있다”라고 덧붙였다.

금전 거래 자체에 에이전트를 적용하는 단계는 아직 초기이거나 사실상 존재하지 않는다. 그에 가까운 시도는 ‘극도로 촘촘한 통제’와 ‘명확한 가치 임계치’가 전제돼야 한다. 다만 에이전트가 직접 돈을 움직이지 않더라도, 신뢰성과 안정성을 유지하려면 통제는 필수다. 슈미트는 “재무적 리스크를 막기 위해 강한 데이터 거버넌스, 투명한 추론, 사람의 감독을 전제로 에이전트의 역할을 명확히 정의하는 데 집중하고 있다”라며, “에이전트는 안전하고 감사 가능하며, 예측 가능한 기반 위에서 작동해야 한다”라고 강조했다.

헌은 특히 ‘재무적으로 치명적인’ 고가치 운영에서는 예측 가능성과 재현 가능성이 핵심이라고 봤다. 헌은 “에이전틱 AI는 거래의 핵심부보다 데이터 조정이나 이상 징후 검토 같은 ‘거래의 외곽’에서 더 적합하다”라고 말했다.

헌은 “에이전트형 도구는 이슈 패턴을 이해하는 데 강해 사기 예방에 도움을 주는 반면, 최고가치 거래에는 여전히 예측 AI를 사용한다”고 밝혔다. 이어 “거래를 조정하고 상호 연계하며, 품질을 높이는 작업은 자금 이동 프로그램의 핵심 구성 요소이고, 이런 부분은 에이전트로 훨씬 효율화할 수 있다”라고 덧붙였다.

한편, 펜페드는 AI 에이전트를 ‘인텔리전스와 고객 서비스’ 영역에 우선 배치하고 있다. 레디는 “세일즈포스의 에이전트포스 360 플랫폼을 도입해 프로세스를 자동화하고, 직원과 조합원 경험을 개선하는 AI 에이전트를 적용하고 있다”라며, “자율 이상 징후 탐지 및 대응, 지능형 품질관리, 지능형 서비스·처리 같은 핵심 금융 기능을 겨냥한다”라고 설명했다. 펜페드는 지원 상담의 평균 처리 시간을 10% 줄였고, 지능형 에이전트로 운영비를 30% 절감하는 효과도 보고 있다고 밝혔다.

다만 거버넌스는 더욱 엄격해졌다. 레디는 AI 보조 의사결정마다 종합 감사 추적을 남기고, 모델 드리프트와 편향을 강도 높게 모니터링하며, 특정 리스크 임계치를 넘으면 즉시 정지시키는 킬 스위치도 마련했다고 말했다. 이런 임계치는 ‘명확히 정의된 금융 노출 한도’와 연동돼 있다고 덧붙였다.

금융 에이전트가 극복해야 할 격차

이상적으로는 기업 재무 내 여러 사업 부문을 가로지르는 교차 기능 에이전트가 등장한다. 하지만 금융 환경에서 진정한 자율 에이전트 행동이 자리 잡고, 여러 도메인으로 확장되기까지는 복합적 조건이 필요하다. CIO는 데이터 문제를 풀고 신규 에이전트 배포의 라이프사이클을 안전하게 관리하며, 상호운용성과 오케스트레이션을 확보하는 동시에 ‘휴먼 인 더 루프’ 균형을 유지해야 한다.

특히 신용조합 같은 조직에서 데이터 품질은 큰 과제다. 레디는 “데이터 거버넌스가 부실하면 결과가 신뢰할 수 없게 되고, 개인 금융에서는 그 자체가 받아들일 수 없는 수준”이라며 일관되지 않은 데이터, 제한적인 시스템 상호운용성, 약한 접근 통제, 부족한 감사 추적을 핵심 격차로 꼽았다.

레디는 “이를 해결하려면 데이터 표준화 강화, 통합 현대화, 실시간 모니터링, 강력한 거버넌스가 필요하다”라며, “펜페드의 엔터프라이즈 기술은 발전 중이지만, AI 모델 거버넌스와 휴먼 인 더 루프 보호장치에 대한 지속적 집중은 필수”라고 덧붙였다.

윌슨은 기본적인 보안 위생 원칙이 더 중요해졌다고 강조한다. 윌슨은 “컴플라이언스, 접근 통제, ID 관리는 지금 그 어느 때보다 중요하다. 리서치 단계부터 투자, 오케스트레이션까지 모든 단계에 거버넌스와 보안 메커니즘을 기본값으로 내장해야 한다”라고 지적했다.

다만 에이전트가 여러 도메인을 가로질러 ‘실제 행동’까지 하려면 더 복잡한 인프라가 요구된다. 슈미트는 “공급망과 조달 등 서로 다른 도메인에서 여러 워크플로우를 자율적으로 오케스트레이션하는 에이전트를 효과적으로 배포하려면, 기업의 인프라 요구사항이 훨씬 복잡해진다”라고 설명했다.

슈미트는 이를 위해 범용 에이전트 커뮤니케이션 계층이 워크플로우·도메인·부서 간 협업을 개선할 수 있다고 봤다. 슈미트는 “CIO는 팀과 함께 수요에 따라 확장·축소할 수 있는, 에이전트 상호작용을 지원하는 확장형 아키텍처를 설계·배포해야 한다”라고 조언했다.

새로 부상하는 프로토콜과 표준, 베스트 프랙티스

보안 가드레일과 함께, 에이전트 기반 금융 프로세스의 뿌리에는 개방형 표준과 프로토콜이 있다. 레디는 “MCP와 Agent2Agent(A2A) 프로토콜, 업체 중립적인 오케스트레이션, 정책의 코드화(policy-as-code) 가드레일을 구현해야 한다. 에이전트 클라이언트를 위한 SSO, OpenID Connect, SAML 연동도 표준화해야 한다”라고 조언했다.

AI 에이전트가 더 안전한 자율 거래를 수행하도록 돕는 결제 프로토콜도 등장하고 있다. 예를 들어 코인베이스(Coinbase)는 AI 에이전트가 웹 서비스에 프로그램 방식으로 결제할 수 있도록 하는 오픈 표준 ‘x402’를 개발했다. 스트라이프(Stripe)와 오픈AI가 공동 개발한 ACP(Agentic Commerce Protocol), 구글과 협력업체들이 오픈소스로 공개한 UCP(Universal Commerce Protocol) 같은 프로토콜도 온라인 상거래에서 표준화되고 안전한 거래 방식을 통해 에이전트형 커머스를 구동하는 것을 목표로 한다.

현재 시점에서 금융 산업의 CIO는 ‘보안 프레임워크 강화’와 ‘검증 가능한 운영 프랙티스’가 우선이라고 입을 모은다. 레디는 “리스크 거버넌스를 위해 NIST AI RMF 같은 공인 표준을 채택하라”라며, “이중 승인, 실시간 텔레메트리, 가시성(Observability), 신뢰도 점수, 감사 추적을 결합해 안전하고 통제된 AI 에이전트 사용을 보장해야 한다”라고 강조했다.

윌슨은 조직 차원의 보안 위생 출발점으로 ISO 27001을 언급하면서도, “HR부터 연구개발까지 전 사업에 걸쳐 보안을 조이려면, 조직이 추구할 만한 견고한 AI 프레임워크로 ISO 42001을 추천한다”라고 제안했다.

또한 윌슨은 에이전트 역량의 ‘적절한 범위 설정’이 중요하다고 봤다. 윌슨은 “에이전트는 더 많이 두되, 각 에이전트가 하는 일은 더 적게 만들라. 각 AI 에이전트를 좁고 목적 특화된 작업에 묶고, 필요한 데이터 접근도 최소 범위로 제한하라”고 조언했다. 이는 제로 트러스트 접근과 맞닿아 있으며, 정보 흐름을 더 세밀하게 통제해 데이터 노출을 줄이는 방식이다.

슈미트도 “금융 운영에서 성공하는 새로운 프랙티스는 기존 통제 프레임워크 안에 에이전트를 어떻게 도입하고 운영하느냐에 달려 있다”라며, “조달 질의 응답, 계약 검토, 채권 회수 후속 조치처럼 범위가 좁고 정의가 명확한 워크플로우에서 시작해 먼저 규칙적으로 반복되는 단계부터 에이전트가 처리하도록 할 때 성과가 나온다”라고 설명했다.

정확도를 담보하기 위해 문서화 품질, 감사 가능성, 휴먼 인 더 루프 통제의 중요성도 거듭 강조됐다. 프로게트는 “기관에는 감사 가능성과 정책 기반 접근을 우선하는 프레임워크가 필요하다”라며 “에이전트형 시스템의 모델 거버넌스, 에이전트에 적용한 제로 트러스트, 코어 시스템을 위한 안전한 통합 패턴, 그리고 모든 에이전트 행동이 추적·검토 가능한 설명가능성이 주목받고 있다”라고 덧붙였다.

금융 분야 AI 에이전트의 ROI 평가

ROI를 증명하는 일이 까다롭지만, 대부분 기업은 AI 에이전트 실험을 멈추지 않고 있다. 인프라지스틱스(Infragistics)의 조사에 따르면, 고위 기술 리더의 약 80%가 2026년에 AI 사용을 늘릴 계획이다. 금융에서도 동력이 붙고 있다. 가트너 조사에서는 재무 부서의 약 60%가 향후 2년 동안 AI 투자를 최소 10% 이상 늘릴 계획이라고 답했다.

AI 에이전트가 ‘검색·조회’에서 ‘행동’으로 이동할수록 ROI는 더 분명해진다. 슈미트는 운영 효율 개선, 주기 단축, 사람의 프롬프트 의존도를 낮춘 업무 처리 같은 지표로 성과가 측정될 것이라고 봤다. 여기에 더 빠른 인사이트와 더 나은 고객 성과 같은 장기 효과도 따라온다고 덧붙였다.

프로게트도 단기 ROI는 수작업 워크플로우 자동화, 지연 감소, 고부가 분석·감독 업무로 인력을 전환하는 데서 나온다고 봤다. 프로게트는 “거버넌스가 성숙하면 에이전트는 컴플라이언스, 리스크 스코어링, 사기 탐지처럼 즉각적이고 측정 가능한 이점이 있는 더 복잡한 의사결정 워크플로우까지 맡게 될 것”이라고 전망했다.

레디는 펜페드의 비전을 ‘책임 있는 기술로 비즈니스를 발전시키는 것’이라고 설명하며, AI 에이전트 ROI를 개인화된 고객 상호작용·참여 확대와 생산성·운영 효율 개선으로 정의했다. 레디는 “우리가 만드는 가치는 더 나은 금리와 향상된 서비스로 커뮤니티에 되돌아가며, 신용조합의 사명과 목적을 뒷받침한다”라고 덧붙였다.

윌슨은 규제 리스크를 낮추는 효과에 주목했다. 윌슨은 “AI 에이전트는 은행이 ‘살아 움직이는 컴플라이언스 기능’을 만들게 해줄 것”이라며, “매의 눈 같은 가시성을 바탕으로 증빙 주기를 줄이고, 정확도를 높이며, 라이프사이클 전반의 확신을 강화하고, 행정 부담을 줄일 수 있다”라고 강조했다.
dl-ciokorea@foundryco.com