AI 혁명, 성공의 열쇠는 ‘문화’에 있다

AI 도입 성과가 향후 승자와 패자를 가를 가능성이 커지면서, 기업과 IT 리더는 직원 대다수가 AI를 생산적이고 혁신적으로 활용할 수 있도록 조직문화를 바꾸는 데 공을 들이고 있다. 이 같은 전략의 바탕에는 교육이 있다. 동시에 IT의 가이드와 거버넌스 안에서 직원들이 AI를 실험하고 실제 업무에 적용하도록 독려해, AI가 내포한 위험을 통제하려는 접근도 함께 깔려 있다.

석유·가스·재생 에너지 기술 기업 맥더못 인터내셔널(McDermott International)의 글로벌 부사장이자 CIO인 바게시 데이브는 “지금 우리는 직원들에게 투자하고 있다. 교육을 많이 할수록 AI 활용도는 높아지고, 그만큼 ROI도 커진다”라고 강조했다.

직원이 직접 AI를 다뤄볼 기회를 넓히는 일도 중요하다. 다만 직원들에게 억지로 강요하는 방식이 되어서는 안 된다. 인적 자본 관리 자문기업 앤스로움 인사이트(Anthrome Insight)의 설립자 겸 CEO 멀리사 스위프트는 “사람들은 기술을 직접 만져보며 배운다. 위에서 아래로 밀어붙이는 방식은 잘 통하지 않는다. AI 친화적 문화는 지나친 통제 일변도도, 무질서한 방임도 아닌, 그 사이의 균형점을 찾아야 한다”라고 설명했다.

금융 서비스 기술 기업 디럭스(Deluxe)의 최고 기술·디지털 책임자 요가라지 자야프라카삼도 같은 균형점을 추구하고 있다. 자야프라카삼은 “목표는 전 직원을 AI 흐름에 참여시키는 것이지만, 강제로 밀어붙이지는 않는다”라며, “그렇다고 무질서하게 두지도 않는다. 우리는 AI를 직원들의 목표와 전략의 일부로 편입했다”라고 밝혔다.

두려움부터 넘어야 한다

직원들에게 권한을 부여했다고 해서 곧바로 성과가 나는 것은 아니다. 결국 성패는 직원들이 AI를 얼마나 받아들이는지, 얼마나 창의적으로 활용하는지, 얼마나 주도적으로 움직이는지에 달려 있다. 이 에너지를 제대로 끌어내려면 IT 리더가 조직 전반의 직원들이 새로운 기술에 대한 거부감과 언젠가 AI에 대체될 수 있다는 불안을 넘어설 수 있도록 도와야 한다.

맥킨지의 시니어 파트너 벤 엘렌크바이그는 “기술 자체는 문제의 일부일 뿐”이라며, “사람들이 마음을 열고 참여하도록 만드는 데 훨씬 큰 기회가 있다. 어떤 사람은 기대에 차 있지만, 또 어떤 사람은 두려워한다”라고 지적했다.

이 같은 불안은 10여 년 전 정점을 찍었던 아웃소싱 물결을 떠올리게 한다. 특히 자신의 대체자를 직접 교육해야 하는 상황, 그것이 AI 봇이라면 더더욱 반감이 커질 수밖에 없다. 스위프트는 “사람들이 불신과 두려움 속에서 일자리를 잃을까 걱정하는 상황은 바람직하지 않다”라며, “진정한 현장 중심 확산은 신뢰의 문화가 있는 곳에서 일어난다. 사람들끼리 서로 신뢰해야 실험을 거쳐 더 빠르게 결과를 낼 수 있다”라고 말했다.

반면 기업 경영진은 AI를 적극 개방했을 때 감당하기 어려운 규제 리스크와 법적 책임이 생길 수 있다는 점을 우려한다. 환각, 개인식별정보(PII) 노출, 편향된 결과 등이 대표적이다. 이런 이유로 효과적인 거버넌스 위원회와 포괄적인 AI 거버넌스·리스크·컴플라이언스(GRC) 체계가 중요하다는 지적이 나온다. 이런 위원회에는 보통 IT, 인사, 법무 책임자 등이 참여한다.

데이브는 “법무와 보안 책임자들이 프로젝트를 점검한다. 컴플라이언스 이슈가 발견되면 그 프로젝트는 중단된다”라고 말했다. 이어 “우리 위원회는 실질적인 효과가 크고, 조직 전체로 확장 가능한 AI 프로젝트만 도입 대상으로 검토한다”라고 덧붙였다.

이 같은 두려움은 맥킨지 보고서가 짚은 ‘관리자와 직원 간 책임 떠넘기기’ 현상의 배경이기도 하다. 경영진은 직원들이 생성형 AI를 전면적으로 도입할 준비가 되어 있지 않다고 보지만, 직원들은 이미 기술을 폭넓게 쓰고 있음에도 경영진이 이를 가로막고 있다고 느낀다는 것이다.

예를 들어, 생성형 AI를 업무의 1/3 이상에 활용하는 직원의 비율은 리더들이 생각하는 수준보다 3배 높았다. 또 최고 경영진은 생성형 AI 도입의 장애물로 직원 준비 부족을 꼽을 가능성이, 리더십 정렬 문제를 꼽는 경우보다 2.4배 높았다. 직원의 48%는 생성형 AI 도입에서 가장 중요한 요소로 교육을 꼽았지만, 거의 절반은 경영진의 지원이 보통 이하 수준에 머물고 있다고 느끼는 것으로 나타났다.

회의론과 주저함을 다루는 법

AI 실험과 도입을 가로막는 또 다른 장벽은 회의론이다. 많은 직원 사이에서 AI 회의론이 퍼진 이유 중 하나로는 이른바 ‘AI 슬롭(AI slop)’이 꼽힌다. 겉으로는 유용한 일을 하는 것처럼 보이지만, 실제로는 정확도나 효율을 개선하지 못하는 AI 적용 사례들이다.

MIT 이니셔티브 온 더 이코노미(MIT Initiative on the Economy)의 펠로우 마이클 슈레이지는 “직무 역량 개발의 강한 지지자”라며, 보험업계를 예로 들어 “보험금 손해사정인과 계리사들이 프롬프트톤(promptathon)을 해보는 건 좋다”라고 말했다. 다만 슈레이지는 “보험 손해사정인이 AI 슬롭을 만들어 놓고 스스로 더 효율적이 됐다고 믿는 상황은 원치 않는다. 감독과 가드레일은 반드시 필요하다. 하지만 AI 놀이터나 샌드박스는 분명히 필요하다”라고 강조했다.

이니셔티브 추진이나 실제 수용을 주저하게 만드는 또 다른 이유는 생성형 AI의 ROI를 입증하기 어렵다는 점이다. 엘렌크바이그는 “기업의 80%가 어떤 형태로든 생성형 AI를 도입했지만, 그 가운데 80%는 아직 손익계산서상 의미 있는 기여를 만들어내지 못했다고 보고한다”라고 말했다.

기술 경영 컨설팅 기업 지노브(Zinnov)의 사장 닐레시 타커는 “기업의 92%가 AI를 파일럿 단계에서 시험하고 있지만, ROI를 설명할 수 있는 곳은 70%에 그치고 55%는 체계적인 거버넌스조차 없다. 매우 심각한 문제다”라고 지적했다.

하지만 생성형 AI의 ROI를 지나치게 엄격한 잣대로 재면 핵심을 놓칠 수 있다는 시각도 있다. 전사 차원의 AI 활용 기반을 만드는 투자는 당장의 비용 절감이 아니라 미래의 대전환을 겨냥한 전략이기 때문이다. 글로벌 엔지니어링·건설 기업 페로비알(Ferrovial)의 최고 정보·혁신 책임자 디미트리스 바운톨로스는 “우리는 비용 절감보다 성장에 초점을 맞추고 있다”라고 강조했다.

AI는 모든 직원에게 똑같지 않다

디럭스의 자야프라카삼은 직원의 경력 단계에 따라 AI 교육 방식을 달리하고 있다. 자야프라카삼은 “저연차 직원, 중간 경력자, C 레벨은 각기 다른 요구사항을 갖고 있다. CIO는 AI가 어디에서 가치를 만드는지 전략적으로 보는 시각이 필요하다. 저연차 직원에게는 AI 활용 역량과 인간 고유의 핵심 역량이 중요하다. 중간 경력자에게는 기존 업무 전문성을 넘어 AI 오케스트레이션과 변화 관리 역량이 필요하다”라고 설명했다.

자야프라카삼은 AI 전략을 기술, 비즈니스, 고객의 세 축으로 구분해 설명했다. 각 축은 위험 수준도 다르다. 기술 영역에서는 AI를 코드 작성에 활용해 소프트웨어 개발 속도를 크게 높일 수 있으며, 이 경우 위험은 상대적으로 낮다. 내부 업무용 워크플로우를 빠르게 하거나 보고서 작성, 반복 업무를 대신하게 하는 것도 효율 개선 효과가 크고 위험은 제한적이다.

반면 고객 대상 제품과 서비스에 AI 기능을 더하면 품질을 높이고 추가 수익도 낼 수 있지만, 고객 프라이버시를 보호하고 기본 서비스 계약(Master Service Agreement) 조건을 준수해야 한다는 점에서 위험이 더 커질 수 있다.

디럭스에서는 각 사업부가 발굴한 AI 사용례를 중앙 AI 거버넌스 위원회에 올린다. 이 위원회에는 자야프라카삼을 비롯해 인사, 재무, 법무, 각 사업부 대표가 참여하며, 생산성 향상 효과를 기준으로 프로젝트를 평가한다. 자야프라카삼은 “이 과정을 통해 어느 시점이든 최대 30개의 AI 프로젝트가 동시에 진행된다”라고 밝혔다.

페로비알의 바운톨로스도 비슷한 접근법을 택했다. 조직 전반의 광범위한 AI 실험을 장려하고, 그 결과를 솎아낸 뒤 가장 성공적인 사례를 전사로 확산하는 방식이다.

바운톨로스는 “2023년 1월 첫 플랫폼을 구축한 뒤 모든 직원이 LLM을 사용할 수 있도록 했다”라며, “지금은 교육, 변화 관리, 아이디어 발굴, 구현, 대규모 확산까지 이어지고 있다. 에이전트 하나가 만들어질 때마다 회사 전체에서 활용할 수 있는지 검토한다. 특정 업무용으로 수백 개의 에이전트가 개발됐고, 그중 80% 이상이 공유되고 있다”라고 말했다.

예를 들어, 한 AI 에이전트는 도로 공사나 보수를 위해 차선을 통제하는 계획 수립 업무를 맡고 있다. 바운톨로스는 공사 도면, 일일 교통량, 행정 승인 절차 등 고려해야 할 변수가 많아 과거에는 사람이 몇 시간씩 들여 짜야 했던 차선 통제 계획을 이제는 몇 분 만에 만들 수 있다고 전했다.

바운톨로스가 성장에 방점을 찍는 반면, 자야프라카삼은 ROI를 구체적으로 측정한다. 자야프라카삼은 지금까지 AI 이니셔티브가 디럭스의 이익률에 1,000만 달러를 더했다고 밝혔다. 이 수익 개선분의 절반은 소프트웨어 효율화에서 나왔다. 소프트웨어 개발 생산성을 높이고, 노후 메인프레임 시스템을 폐기한 데 따른 효과다. 페로비알은 AI를 이용해 메인프레임 코드를 현대적인 코드와 자동화 체계로 전환했다.

추가 절감 효과도 적지 않았다. 자야프라카삼에 따르면, 고객 대상 생성형 AI 챗봇 ‘디럭스 어시스트(Deluxe Assist)’와 MS 다이내믹스 365 계정 채권 관리 부문에도 AI를 적용해 의미 있는 비용 절감 효과를 거뒀다.

직원 모두에게 ‘코파일럿’을

이 같은 시도의 핵심은 결국 AI 도구를 얼마나 널리 보급하느냐에 있다. 데이브는 “직원들이 AI를 직접 써봐야 AI가 무엇을 할 수 있는지 알게 된다. 직원을 교육하는 것은 우리의 일이다. IT 부서만이 아니라 모든 직원을 대상으로 해야 한다”라고 강조했다.

페로비알의 바운톨로스도 AI 도구를 전사에 과감하게 확산하고 있다. 바운톨로스는 “직원의 100%가 MS 코파일럿에 접근할 수 있고, 90%가 실제로 사용하고 있다”라고 말했다.

보험 기업 리버티 뮤추얼(Liberty Mutual)도 비슷한 전략을 택했다. 회사의 최고 인사·목적·브랜드 책임자 멜라니 폴리에 따르면, 전체 직원의 74%에게 기업용 생성형 AI 도구 접근 권한을 제공했다. 폴리는 “우리는 초안 작성, 요약, 분석처럼 실제로 바로 쓸 수 있는 사용례를 통해 AI를 쉽고 친숙하게 만들고 있다. 직원들이 빠르게 가치를 체감하고, 자신감을 쌓고, 기술을 신뢰하도록 돕는 것이 목적”이라고 밝혔다.

지노브는 고객사에 AI 활용 극대화 방안을 자문하는 동시에, 내부적으로도 AI를 적극 도입하고 있다. 지노브의 매니징 파트너 아미타 고얄은 “우리의 가장 강력한 AI 이니셔티브 상당수는 조직 내부에서 나왔다”라며, “해커톤과 내부 혁신 포럼을 통해 팀들이 AI 지원 리서치 엔진, 제안서 작성 가속 도구, 벤치마킹 자동화 워크플로, 내부 지식 코파일럿 등을 구축했다. 이는 중앙에서 지정한 과제가 아니었다. 팀들이 반복적이고 인지 부담이 큰 업무를 발견하고, 스스로 다시 설계한 결과였다”라고 설명했다.

AI는 멈추지 않는 고속열차

AI의 성능이 하루가 다르게 높아지고 있다는 점은 이제 새삼스러운 일이 아니다. 일부 추정에 따르면, AI 성능은 몇 달 간격으로 두 배씩 향상되고 있다. 이런 점이 AI 시대를 SaaS나 모바일 컴퓨팅 같은 과거 IT 전환기와 질적으로 다른 국면으로 만든다. 자야프라카삼은 “AI는 빠르게 달리는 기차와 같다. 도입할 때마다 더 좋아진다. 매달, 매일 달라질 수 있다는 전제 아래 AI를 구현하는 일은 모두에게 새로운 일하는 방식이다”라고 말했다.

이 같은 기술 쓰나미를 제대로 활용하는 기업이 경쟁우위를 가져갈 가능성이 높다는 점은 분명하다. AI를 단순한 기술 도입이 아니라 문화의 문제로 접근하는 기업이라면, 그 성과는 예상보다 빠르게 나타날 수 있다. 엘렌크바이그는 “2026년은 AI 활용 역량을 바탕으로 AI가 본격적인 돌파구를 만드는 해가 될 것”이라고 전망했다.

더 나아가 AI는 더 이상 특정 전문가만 다루는 개별 영역이 아니라, 기업이 일을 처리하는 기본 방식 자체가 될 것이라는 전망도 나온다. 자야프라카삼은 “우리는 AI가 기업의 비즈니스 모델을 지속적으로 바꾸는 방식이 될 것이라고 본다”라며, “결국 AI는 기업이 하는 모든 일에 자연스럽게 스며들게 될 것”이라고 덧붙였다.
dl-ciokorea@foundryco.com