‘통제 대신 조화가 필요하다’··· AI 확산에 대비하는 IT 리더의 전략 5가지

기업 규모에 관계없이 CIO라면 다양한 AI 앱, 도구, 에이전트, 플랫폼, 프레임워크에 둘러싸여 있을 가능성이 높다. 보스턴 컨설팅 그룹(Boston Consulting Group)에 따르면 생성형 AI 투자만 향후 3년간 약 60% 증가할 것으로 예상되며, 2027년까지 IT 예산의 평균 7.6%를 차지할 전망이다.

PwC의 미국 최고 AI 책임자인 댄 프리스트는 AI가 점점 더 빠르게 확산될 것이라고 내다봤다. PwC의 최근 설문조사에 따르면 CIO의 79%가 비즈니스 혁신을 위해 생성형 AI를 활용할 계획이라고 답했다. 하지만 이를 관리하고 통합할 준비가 완전히 됐다고 생각하는 비율은 40%에 불과했다. 프리스트는 “각 팀이 자율적이고 지능적으로 작업을 수행할 에이전트를 도입하게 될 것”이라면서도, “동시에 사람들은 여러 실험을 하고 있다. 승인된 도구를 사용하면서 다른 도구도 탐색하고 있어 데이터 유출 위험이 증가하고 있다. CIO는 복잡성 문제에 대비하기 위한 솔루션을 마련해야 한다”라고 말했다.

CIO는 혼란 속에서 어떻게 적절한 수준의 거버넌스와 통제를 구현할 수 있을까? 물론 IT 리더는 전체 인력이 AI로 책임감 있게 혁신하고 도구를 활용해 생산성을 극대화할 수 있도록 지원하고 있다. 하지만 동시에 지출을 관리하고 업무 중복을 줄이며, 필요한 곳에서 상호 운용성을 보장하고, 표준과 재사용을 촉진하며, 위험을 줄이고 보안과 개인정보를 유지하며, AI에 대한 신뢰를 심어주는 모든 요소를 관리해야 한다.

이런 과제는 ERP 시스템 전환으로 인해 애플리케이션 사일로가 발생하던 1990년대, BYOD(Bring your own device) 정책이 도입되면서 IT 팀이 직원들의 모바일 기기를 관리해야 했던 2010년대를 떠올리게 한다. 그러나 오늘날 과제는 훨씬 더 크다. 이제 단일 벤더를 선택하거나 물리적인 기기에 대한 정책만 개발할 수는 없다. 지금의 변화는 전체 IT 아키텍처 스택뿐만 아니라, 비즈니스 혁신부터 디지털 혁신까지 현재 진행 중인 모든 작업에 영향을 미칠 수 있다.

CIO가 AI 확산을 관리하고 기업 전체에 책임감 있는 혁신 문화를 조성하는 방법 5가지를 소개한다.

책임감 있는 AI 혁신 문화 구축

문화가 전략의 자양분이 된다는 사실은 이미 잘 알려져 있다. 따라서 전략을 다루기 전에 기업 전체에 걸쳐 협력과 책임감이 있는 혁신 문화를 구축해야 한다.

2B벤처스(2B Ventures), 심포니 벤처스(Symphony Ventures)의 공동 설립자인 이안 바킨은 CIO가 해야 할 일이 더 엄격한 통제가 아니라 더 현명한 운영이라고 언급했다. 바킨은 “디지털에 능통한 직원들에게 단순히 금지가 아니라, 올바른 지침과 가능성을 중점에 둔 사려 깊은 거버넌스를 제공해 기술을 활용할 수 있게 해야 한다. 절대적인 통제권을 되찾는 것이 아니다. IT가 비즈니스 중심 솔루션을 위해 인프라와 범위를 제공하는 책임감 있는 AI 혁신 문화를 조성해야 한다”라고 설명했다.

책임감 있는 AI 혁신이 이뤄지려면 기업의 혁신 프로그램이 완벽하게 기능해야 한다. 기업 주도형, 부서 주도형 또는 하이브리형 등 어떤 혁신 모델을 가지고 있든, CIO는 최고 혁신 책임자 및 최고 AI 책임자와 함께 혁신 문화, 잘 작동하는 부분과 개선이 필요한 부분을 평가해야 한다.

AI 활용의 최종 목표 결정

기업의 AI 활용 방식은 최종 목표에 따라 크게 달라질 수 있다. 새로운 AI 지원 제품으로 비즈니스 모델, 제품 및 서비스를 혁신하는 AI 기반 기업이 되려는 것인지, 아니면 단순히 AI를 활용해 기존 비즈니스 모델, 제품 및 서비스를 개선하려는 것인지 확인해야 한다. AI를 기업의 핵심 역량 및 차별화 요소로 삼아 내부 전문가팀을 구축할지, 아니면 패스트 팔로워로서 파트너와 긴밀히 협력할지도 고려할 필요가 있다.

이런 전략 질문에 대한 답변이 앱, 도구, 에이전트, 플랫폼 및 프레임워크와 같은 AI 인벤토리 구성 방법과 구축 또는 구매에 대한 접근 방식을 결정한다. 또한 비즈니스 부서와 공유하는 권장 사항과 그들이 구축 또는 구매를 결정하는 방식에도 영향을 미칠 수 있다.

프리스트는 “전략은 가치를 창출하지 않는 AI 확산을 최소화하는 좋은 방법이다. 어떤 분야에서 어느 정도의 이점을 목표로 삼을지, 어떤 위험을 관리해야 할지 결정하는 전략 검토는 CIO가 사후 대응에서 사전 예방으로 감독 방식을 전환하는 데도 유용할 것”이라고 설명했다.

비즈니스 부서와 협력

최근 BCG 연구에 따르면 미래 지향적인 AI 기업의 86%에서 IT 부서가 비즈니스 부서와 함께 AI를 주도하는 것으로 나타났다. 반면 AI 정체 기업 또는 AI 성숙도가 낮은 기업에서는 이 비율이 54%에 불과했다.

이는 명확한 데이터다. IT 부서는 비즈니스 부서와 함께 AI를 이끌며 비즈니스 중심 솔루션을 위한 인프라와 범위를 설정해야 한다. 비즈니스와 협력할 때 IT는 AI 구현의 모범 사례를 수립하는 데 주도적인 역할을 할 수 있다. AI 구현의 모범 사례에는 종합적인 AI 전략 수립, 사용 사례 식별 및 우선순위 지정, 목적에 맞는 실험, 안전 장치 공유, 초기부터 ROI를 고려하는 것 등이 포함될 수 있다.

기업 사용 정책과 같은 일반적인 AI 거버넌스 외에도, IT 리더는 AI 도구를 평가 및 조달하기 위한 지침과 정책, 표준 준수 방안, 그리고 학습된 교훈을 공유할 방법을 마련해야 한다. 불필요한 중복 작업을 피하기 위해 가능한 경우 기존의 혁신 팀과 프로세스를 활용하는 것이 좋다.

아키텍처 접근 방식 결정

문화적 측면에서 책임감 있는 AI 혁신 체계를 갖추고, 비즈니스 전략에 AI 목표를 통합하며, 비즈니스 부서와 적절한 협력 모델을 구축했다면, 다음으로는 IT 스택의 기술적 측면으로 논의를 확장할 수 있다.

바킨은 “CIO는 지침을 제공하고, 디지털 이해도를 높이며, 관리를 통해 거버넌스를 구현하는 데이터 및 기술 지원을 주도해야 한다”라고 말했다.

데이터 및 기술 지원의 경우, 트랜잭션, 분석 및 의사 결정을 지원하는 수많은 애플리케이션뿐만 아니라 기업의 지능형 자동화 목표에 AI와 데이터가 어떻게 힘을 실어줄 수 있는지를 파악해 IT 스택을 재고해야 한다. AI에 있어서는 AI 에이전트 플랫폼, 에이전트 메시 기술 및 기타 모든 종류의 AI 및 지능형 자동화 접근 방식을 통합할 방법이 고려돼야 한다.

IT 스택의 미래에 대비하려면 스택 내에서 오픈소스가 수행할 역할과 양자 컴퓨팅 같은 신기술도 고려할 필요가 있다. AI와 데이터 모델, 도구, 플랫폼이 발전함에 따라 구성 요소를 교체할 수 있도록 전체 스택에 걸쳐 중앙 집중식 관리, 가시성, 민첩성 확보를 목표로 삼아야 한다.

작가 마이클 게일은 “오픈소스 데이터 관리 플랫폼은 AI 중심 세계에 필수적이다. 어떤 데이터를 사용할지, 정형 또는 비정형 데이터를 사용할지, 클라우드와 온프레미스를 이동할 때 AI의 민첩성과 주권이 얼마나 요구될지 알 수 없기 때문이다. 아직 명확히 정의되지 않은 AI 세계를 위해서는 99.99%의 성능과 민첩성을 갖춰야 한다”라고 설명했다.

지속적인 혁신과 개선에 집중

업계 혁신 속도를 고려하면 새로운 벤더, 트렌드, 기술, 가격 모델 및 업계 동태를 지속적으로 모니터링하는 프로세스를 구축해야 한다. 또한 전사적으로 AI가 어디서 어떻게 사용되고 있는지 파악할 수 있어야 한다.

프리스트는 “IT 아키텍처에는 AI가 사용되는 위치를 등록, 권한 할당, 추적 및 보고할 수 있는 강력한 모니터링 기능이 포함되어야 한다. 클라우드 및 AI 비즈니스 설문조사에서 CIO의 절반 이상이 새로운 규정 준수 및 보안 요구 사항을 충족하기 위해 클라우드 업체(CSP)에 의존하고 있다고 답했다. CIO는 교육 및 개발 팀과 협력해 직원들이 AI를 책임감 있게 사용하도록 교육하고, 비공개 데이터가 외부 도구에 입력되지 못하도록 해야 한다. 또한 적절한 책임이 명시된 AI 정책, AI 사용 방식과 위치를 감독할 고위 거버넌스 위원회 구성, 그리고 적절한 통제 장치의 설계 및 구현이 필요하다”라고 말했다.

바킨은 진정한 통제가 AI 확산을 막는 것이 아니라, 기업 전반에 걸쳐 책임감 있고 혁신적인 AI 문화를 구축해 비즈니스 목표와 리스크 관리를 조화롭게 만드는 데 있다고 덧붙였다.
[email protected]