CIO코리아·데이터이쿠, 조찬행사 개최···‘에이전트 AI 실행과 거버넌스’ 방향 제시

김종덕 데이터이쿠 지사장은 환영사에서 “지난해 한국에서 조직을 확대하며 다양한 고객사를 확보해왔다”라며 “대기업과 중견기업을 포함해 여러 산업군에서 레퍼런스를 구축하며 고객 지원을 이어가고 있다”라고 밝혔다. 이어 데이터이쿠가 AI와 에이전트 분야에서 기업의 활용을 돕는 솔루션이라고 설명했다.

AI 시대에 더 중요해지는 자기주도성

이날 첫번째 발표자로 나선 미래탐험공동체 대표인 장동선 박사는 뇌과학자 관점에서 AI 시대에 인간의 뇌가 왜 더 중요해지는지를 조망했다. 그는 “AI 에이전트를 활용하더라도 CEO가 얼마나 주도적으로 예측하고 판단하느냐에 따라 결과물과 성과가 크게 달라진다”며 “여기서 약점은 AI가 아니라 뇌”라고 강조했다.

장 박사는 AI를 수동적으로 사용할 때 발생하는 문제를 지적했다. 그는 “AI가 생성한 코드나 보고서를 검증 없이 수용하는 패턴이 늘고 있다”며 “특히 자신의 전문 영역이 아닌 분야에서 AI 답변을 그대로 활용할 경우, 환각이나 오류를 걸러내지 못하는 문제가 발생한다”고 경고했다. 이어 “이러한 휴먼 인 더 루프(Human-in-the-loop) 비용이 기업에서 점점 커지고 있다”며 “AI를 도입했지만 결국 사람이 들어가 백업해야 하는 상황이 늘어나면서, 예상했던 생산성 향상이 실현되지 않는 경우가 많다”고 덧붙였다.

또한 그는 AI 시대에 즉 자기 주도성이 핵심이라고 설명했다. 장 박사는 “내가 자기 주도적으로 의문을 가지고 질문하며, AI의 답변을 비판적으로 검토할 때 AI는 엄청난 플러스가 된다. 반면 수동적으로 정보를 받아들이면 판단력이 흐려진다”고 설명했다. 장 박사는 “AI를 제공하는 것만으로는 충분하지 않다. 사용자들이 제대로 사용할 준비가 되어 있는지, 조직 차원에서 인간 간 연결과 다양성을 어떻게 유지할지 고민해야 한다”고 조언했다.

2025년은 검증의 해, 2026년 에이전트 실행을 위한 핵심 키워드

두번째 발표자로 나선 우재하 데이터이쿠 솔루션 엔지니어 겸 상무는 에이전틱 AI 실행 로드맵에 대한 실무적 인사이트를 공유했다. 그는 “2025년은 AI 에이전트가 이루어진 해라기보다 테스트하고 PoC하고 검증한 해였다”라며 현실적인 과제들을 짚었다.

데이터이쿠의 글로벌 AI 실태 보고서를 인용해 우 상무는 “정확도 자체보다 신뢰성과 설명 가능성을 더 큰 과제로 보는 리더들이 많았다”라며 “설명이 가능하다면 일정 수준의 활용이 가능하다는 인식도 나타났다”라고 설명했다. 이어 그는 “전략 없이 기술 중심으로 접근할 경우 PoC가 반복되면서도 ROI로 이어지지 않는 사례가 적지 않다”라고 언급했다

그는 한국 고객과의 논의 과정에서 주요 과제로 안전성과 자율성 범위 설정, 외부 모델의 내부 자원 접근 여부, 답변 정확성 확보, 그리고 빠르게 변화하는 기술 환경 속에서의 성숙도 격차 등이 제기되고 있다고 설명했다.

우 상무는 에이전트 실행을 위한 핵심 키워드로 네 가지를 제시했다. 첫째는 ‘오케스트레이션’이다. 그는 “에이전트가 멀티 구조로 확장될수록 전체를 조율하는 최상위 오케스트레이터 에이전트의 역할이 더욱 중요해질 것”이라고 설명했다. 아울러 시멘틱 모델(온톨로지)을 기반으로 응답 정확도를 높이는 방향도 함께 언급했다.

둘째로 그는 ‘접근 지점’의 중요성을 언급했다. 우 상무는 “에이전트를 챗봇 형태의 프론트엔드에만 한정할 경우 활용 범위가 제한될 수 있다”며 “백엔드와 연계해 비즈니스 프로세스 흐름 속에서 에이전트가 자연스럽게 지원하는 방식으로 발전할 필요가 있다”고 설명했다.

셋째, ‘에이전트를 팀으로 바라보는 관점’이다. 우 상무는 “업무 플로우 자체를 AI 중심으로 재구성하고, 사람은 조정과 검증 역할을 맡게 될 것”이라며 “조직 구성 단위가 부서에서 AI 워크플로우 중심의 에이전트 팀으로 전환될 수 있다”라고 전망했다.

넷째, ‘지속 가능성’이다. 그는 “바이브 코딩이나 에이전트 특화 솔루션으로 시작하는 경우가 많지만, 데이터 연계, 모델 유지보수, 에이전트 확장 관리 측면에서 통합 플랫폼이 필요하다”고 강조했다. 특히 거버넌스의 중요성을 언급하며 “에이전트 시대가 되면 거버넌스는 더욱 중요해진다. 감사, 승인 워크플로우, 규제 대응, 모니터링 체계가 갖춰져야 한다”라고 언급했다.

우 상무는 발표를 마무리하며 AI 도입 과정에서 마인드셋 전환이 필요하다고 언급했다. 그는 “챗GPT나 제미나이 같은 서비스로 충분하지 않느냐는 질문이 간혹 있지만, 엔터프라이즈 에이전트는 용도와 구축 방식, 보안 및 거버넌스 요구사항이 다를 수밖에 없다”라고 설명했다. 이어 “기업의 기존 프로세스는 결정론적 구조에 기반하지만, LLM은 확률론적 특성을 갖고 있다는 점에서 이러한 차이를 이해하고 접근하는 것이 중요하다”라고 조언했다.

우 상무는 이와 같은 방식을 추구하는 과정에서 데이터이쿠의 ‘유니버설 AI 플랫폼(Universal AI Platform)’이 유용할 수 있다고 설명했다.

우 상무는 “유니버설 AI 플랫폼은 다양한 사용자와 데이터 환경, 기술 생태계에서도 AI 과제를 지원할 수 있도록 설계된 플랫폼”이라며, “에이전트 구축부터 배포, 운영 관리까지 전 과정을 지원하고 거버넌스 요건을 고려한 지속 가능한 AI 운영이 가능하다”라고 설명했다. 또한 이 플랫폼이 오케스트레이션, 멀티 에이전트 관리, 거버넌스 체계 구축 등 기업의 에이전틱 AI 실행에 필요한 요소들을 통합적으로 지원할 수 있다고 덧붙였다.
jihyun.lee@foundryco.com