“제대로 된 교육이 중요” AI 업스킬링에 실패하는 이유와 해법

하버드 비즈니스 스쿨(HBS)의 CIO 베스 클라크는 대부분 직원이 LLM의 내부 원리를 깊게 이해할 필요는 없다고 본다. 다만 모델이 데이터를 어떻게 입력받고, 그 데이터를 어떻게 활용해 결과물을 만들며, 그 과정이 업무 운영 방식을 어떻게 바꾸는지 정도는 알아야 한다는 입장이다.

클라크는 HBS 구성원에게 그런 지식을 전하는 일이 “특별하고도 어렵다”고 인정했다. 과거에는 IT가 새 소프트웨어를 ‘어떻게 쓰는지’를 가르쳤다면, 이제는 AI를 활용해 ‘일을 새로운 방식으로 하는 법’을 훈련해야 하기 때문이다. 클라크는 “이전 업스킬링을 반복하는 것과는 다르다”라고 강조했다.

이런 변화는 AI 혁명에 대비한 교육에서 많은 조직이 실패하는 배경을 일부 설명해준다.

직원 교육 플랫폼 기업 탤런트LMS(TalentLMS)가 발간한 ‘2026년 연간 L&D 벤치마크 보고서’에 따르면, 기업이 AI 학습을 적극적으로 지원한다고 느끼는 직원은 64%에 그쳤다. 액센추어의 조사에서도 기업 주도 업스킬링 차원에서 ‘AI와 협업하는 방법’에 대한 교육을 받았다고 답한 직원이 26%에 불과했다.

MIT 슬론 매니지먼트 리뷰(MIT Sloan Management Review)와 보스턴 컨설팅 그룹이 최근 발표한 보고서 ‘에이전틱 기업의 부상: 리더가 AI 시대의 새 국면을 항해하는 법’의 공동 저자 샘 랜스보섬은 “업스킬링이나 리스킬링이 필요하다고 말해놓고 거기서 멈추는 경우가 많다. 이제 질문은 ‘정확히 무엇을, 어떻게 해야 하느냐’로 바뀌었다”라고 짚었다.

업스킬링이 실패로 이어지는 지점

전문가들은 조직이 AI 업스킬링에 실패하는 지점이 여러 군데라고 말한다. 아예 교육을 하지 않는 경우(일부 연구에서 확인된 바)도 있지만, 모델이 어떻게 작동하는지 충분히 가르치지 못하는 경우도 흔하다. 랜스보섬은 대부분 직원이 모델을 ‘만드는’ 일을 하지는 않으니 AI 엔지니어가 될 필요는 없다고 전제했다. 그럼에도 AI가 신뢰하기 어려운 결과를 낼 때를 구분하고, 언제 출력물을 의심해야 하는지 판단하려면 작동 방식에 대한 기본 이해가 필요하다는 설명이다.

랜스보섬은 “AI가 어떻게 돌아가는지에 대한 ‘얕은 수준’의 이해는 적절하다. 무엇이 어떻게 만들어지는지 모르면 좋은 AI 소비자가 될 수 없다”라고 지적했다. 다만 모든 직원에게 요구해야 할 교육 깊이에 대한 표준은 없다고도 했다. 랜스보섬은 “내가 ‘X를 가르치라’고 말할 수 있으면 좋겠지만, 필요한 지식의 수준은 직무와 맥락에 따라 달라진다”라고 덧붙였다.

반대로 기술 요소와 인프라 요구사항을 과도하게 강조하는 경우도 문제로 꼽혔다. 너무 기술 세부 내용에 빠져 정작 업스킬링의 핵심인 ‘업무에서 AI로 어떻게 혁신할지’를 놓친다는 것이다. 랜스보섬은 “조직은 직원이 프로세스 자체를 왜 수행하는지부터 다시 생각하게 만들고, AI로 워크플로우를 어떻게 바꿀지 고민하게 해야 한다”라며, “가장자리만 다듬는 수준의 ‘튜닝’이 아니라 혁신하는 법, 질문하는 법, 무엇이 잘 안 돌아가는지 찾아내는 법을 가르쳐야 한다”라고 설명했다.

AI 교육을 ‘한 번 하고 끝’으로 취급하는 태도, 교육에 시간과 예산을 배정하지 않는 관행, 모든 직무에 같은 교육을 적용하는 방식도 대표적인 실수로 꼽힌다.

디지털 서비스 컨설팅 기업 웨스트 먼로(West Monroe)의 매니징 디렉터 케이티 피츠제럴드는 “공통된 실수는 사용자 그룹 전체에 필요한 것을 과도하게 일반화하고, 기초 소양 수준을 제외하면 교육을 지나치게 포괄적으로 구성하는 것”이라고 지적했다. 또 조직이 연습과 탐색을 AI 교육의 핵심 요소로 보지 않는 경우가 많다고 덧붙였다.

여기에 더해, 직원이 AI에 압도당하거나 일자리를 대체당할까 두려워하는 상황에서 ‘심리적 안전감’을 제공하지 못하면 교육이 현장에서 힘을 받기 어렵다. 글로벌 상업용 부동산·투자관리 기업 JLL의 ‘미래의 일’ 리더 피터 미스코비치는 IT 리더가 업스킬링 계획의 일부로 그 안전감을 확보해야 한다고 강조했다.

실제로 퓨 리서치 센터(Pew Research Center)가 2024년 10월 실시한 설문조사에서는 AI의 직장 내 활용이 가져올 영향에 대해 52%가 ‘우려한다’고 답했다. 장기적으로 자신에게 돌아올 일자리 기회가 줄어들 것이라고 본 응답자는 32%였고, 33%는 ‘압도당하고 있다’고 느꼈다.

교육은 ‘차별화’의 도구가 된다

랜스보섬은 효과적인 업스킬링에 대한 투자가 충분히 값어치가 있다고 본다. AI를 제대로 활용하는 직원이 조직의 변화를 이끌 수 있기 때문이다. 랜스보섬은 조직이 ‘AI를 잘 쓰는 법’을 가르치는 것을 목표로 삼아야 한다며, “도구를 더 잘 쓰는 능력이 곧 차별화 요소”라고 강조했다. 특히, CIO가 전사 업스킬링을 이끌기에 유리한 위치에 있다고 보는데, CIO는 오랫동안 기술 도입과 전환 과정에서 직원 교육을 주도해온 경험이 있다.

디지털 전환·비즈니스 프로세스 서비스 기업 서덜랜드(Sutherland)의 CIO 겸 최고디지털책임자(CDO) 더그 길버트도 같은 의견이다. 길버트는 AI 이니셔티브가 높은 비율로 실패한다는 연구 결과가 나온 만큼, CIO가 앞장서 업스킬링에 투자하면 흐름을 바꿀 수 있다고 주장했다.

이런 문제의식은 길버트와 서덜랜드 동료들의 행동으로 이어졌다. 서덜랜드는 올해 초 AI 시대에 맞춰 직원 업스킬링 접근법을 대폭 강화해야 한다고 판단했다. 길버트는 과거에 활용했던 교육 영상이 많은 직원에게 ‘체크박스 채우기’에 그치며 원하는 성과를 내지 못했다고 인정했다. 이후 HR 및 교육 리더들과 함께 업스킬링 프로그램을 재출시했다.

현재 서덜랜드는 전 직급 구성원이 AI 기초 역량을 학습하고, AI 활용 숙련도를 습득했음을 입증해야 한다. 이를 충족하면 인증서를 받는다. 이어 직원(리더 포함)은 직무와 부서의 필요에 맞춘 교육 과정을 이수하며 추가 인증을 획득하고, 인사 성과 목표도 함께 충족해간다.

교육 영상도 계속 활용하지만, 샌드박스 환경에서의 실습과 현장형 교육을 결합해 직원이 새 역량을 직접 연습할 기회를 제공한다. 교육은 상시로 진행된다. 길버트는 이런 조합이 직원이 AI를 더 잘 활용하는 데 필요한 지식을 얻고 기술 변화에 맞춰 계속 학습하며, 조직 성과로 연결되는 방식으로 AI를 활용하도록 돕는다고 설명했다.

효과적인 업스킬링의 구조

길버트가 채택한 방식은 다른 전문가들도 지지한다. 랜스보섬은 맞춤형 접근을 권한다. 먼저 역량 인벤토리를 만들고, 약하거나 부족한 역량을 찾아 그 결핍을 메우는 교육을 설계하라는 조언이다. AI 리터러시와 코딩 교육도 병행하라고 했다. 코딩이 AI 도구를 더 깊게 활용하는 데 도움이 된다는 이유다. 또한 AI로 새로운 일하는 방식을 시도하다 실패하더라도 허용하는 문화를 조성하라고 강조했다. 실험은 강력한 학습 방식 중 하나이다.

미스코비치도 비슷한 접근을 제시했다. 직무별 맞춤 교육, 실습 중심 세션, AI 진화 속도를 따라가기 위한 지속적인 교육이 필요하다는 주장이다. 미스코비치는 조직 리더십이 동일한 수준으로 참여하도록 임원 업스킬링을 전 직원 교육과 병행해야 한다고도 강조했다.

미스코비치는 “모두를 계속 다시 교육하는 일”이라며, “대부분 조직에 새로운 일”이라고 말했다. 그러면서 업스킬링 진행 상황을 추적하고, 학습 성과를 인정하며, 성공적인 업스킬링을 인사 성과 목표와 연결해야 한다고 덧붙였다.

이런 방식이 학습 문화를 만든다는 평가도 나온다. 피츠제럴드는 “내가 본 가장 효과적인 학습은 호기심과 탐색, 사용례 공유, 공식 학습 프로그램 문화가 함께 있는 조직에서 나왔다”라고 밝혔다.

CIO가 만든 업스킬링 성과

HBS의 클라크는 업그레이드된 업스킬링이 어떤 효과를 내는지 직접 경험한 IT 리더 중 한 명이다. 클라크는 HBS의 한 디렉터와 나란히 일하며 생성형 AI 기반 검색 도구를 만든 사례를 소개했다. 실습 중심 수업 과정에서 해당 디렉터는 기술의 유연성과 유용성을 체감했고, AI를 활용해 일을 ‘다르게’ 할 수 있는 방법을 익혔다.

클라크는 ‘하면서 배우는’ 방식이 직원의 동기를 끌어올린다며, “직원들은 이 기술이 완전히 다른 차원의 것이라는 점을 이해하게 되고, 자신의 일을 다양한 방식으로 수행하는 데 활용할 수 있다는 걸 보게 된다”라고 강조했다.

이런 인식을 바탕으로 HBS는 2025년 캠퍼스 내 교직원을 대상으로 의무 참여 프로그램인 ‘몰입형 AI 아카데미’를 출범시켰다. 케이스 기반, 체험형 방식으로 구성한 것이 특징이다.

다른 조직도 멀티모달 접근을 택하고 있다. 미시간대(University of Michigan) IT 담당 부총장 겸 CIO 라비 펜드는 생성형 AI가 이번 세기 가장 큰 영향을 미칠 기술이 될 것이라고 본다. 펜드는 AI가 책임감 있고 윤리적이며 신중하게 활용된다면, “긍정의 힘”이 될 수 있다고 평가했다.

AI가 노동시장에 가져올 충격도 직시한다. 펜드는 세계경제포럼의 ‘2025 미래 일자리 보고서’를 인용하며, AI가 2030년까지 9,200만 개 일자리를 대체하는 동시에 1억 7,000만 개를 새로 만들 것으로 추정된다고 전했다. 다만 역할 자체가 사라지지 않더라도, AI가 거의 모든 직무와 워크플로우를 건드릴 것이라고도 했다.

펜드는 “순증으로는 일자리가 늘어나는 것으로 보이지만, 대체는 여전히 발생한다. 그래서 업스킬링이 필요하다고 느낀다”고 말했다. 이어 “우리가 집중하는 건 직업 안전성이 아니라 경력 안정성”이라고 덧붙였다.

대학의 업스킬링 노력에도 관여하는 펜드는 구성원에게 같은 메시지를 반복해서 전달한다. 업스킬링에 노력을 기울여야 하고, 대학도 교육을 제공하겠다는 약속이다. 펜드는 “팀이 함께 모여 함께 배우는 것”이라고 강조했다.

미시간대는 직원의 AI 역량 강화를 위해 매주 챌린지, 주간 혁신 시간, 직무 커뮤니티 클러스터를 위한 학습 포럼, 기사 공유 등을 운영한다. 월~목요일에는 대면 교육 과정을 제공하고, 신기술 팀 구성원과 자유롭게 상담할 수 있는 드롭인 오피스아워도 마련했다.

펜드는 AI 교육이 실제로 효과를 내도록 멀티모달 수업을 빠르게 제작해, 정보가 금세 구식이 되는 문제도 줄인다고 설명했다. 오늘 필요한 역량뿐 아니라 ‘내일 필요한 역량’을 키우는 교육을 지향하며, “필요할 때 사용할 수 있는 지속 교육”도 강조했다. 목표는 구성원 모두가 AI가 자신의 업무에 미치는 영향을 이해하고, 워크플로우 재설계부터 기존에는 풀기 어려웠던 문제 해결까지 AI 도구를 효과적으로 활용할 수 있도록 만드는 것이다.
dl-ciokorea@foundryco.com