‘도구’와 ‘솔루션’을 구분해야··· MIT 연구진의 생성형 AI 접근법 조언

생성형 AI를 조직 내 확산하지 못하고 있는 CIO라면 이 기술을 도입하는 방법과 그에 맞는 AI 전략을 다시 생각해 볼 필요가 있다.

매사추세츠 공과대학(MIT)의 새로운 연구에 따르면, 생성형 AI 도입에 대한 전략이 세분화될 필요가 있다. 비즈니스 사례 중심의 AI 솔루션을 배포할 때와 생산성 향상을 위한 AI 도구를 배포할 때 각기 다른 전략이 필요하다는 의미다.

최근 MIT 정보 시스템 연구 센터(CISR)는 ‘생성형 AI의 두 얼굴 관리하기’라는 이름의 브리핑을 제시했다. 이에 따르면 ‘AI 도구’와 ‘AI 솔루션’은 생성형 AI에 관심이 있는 조직에 두 개의 서로 다른 기회를 제시하며, 성공을 위해서는 각 배포에 대해 서로 다른 접근 방식이 요구된다.

이 보고서의 저자들은 먼저 AI 도구와 AI 솔루션 모두에서 가치를 얻기 위해서는 올바른 기대치를 가지고 올바른 방식으로 배포하는 것이 핵심이라고 강조했다.

MIT CISR의 수석 연구 과학자인 바바라 윅섬은 먼저 이번 연구 보고서의 작성 배경을 설명했다. 지난 수십 년 동안 데이터 및 분석 기술에서 얻었던 것과 같은 가치를 생성형 AI에서 얻지 못하는 이유에 대한 IT 리더들의 질문이 그 시작이었다는 설명이다.

연구에 따르면, 가치 창출이 어려운 이유 중 하나는 AI에 대해 획일적인 접근 방식을 취했기 때문일 수 있다. 또 특정 AI 도구에 익숙해지면 향후 더 야심찬 이니셔티브를 통해 더 큰 발전을 위한 토대를 마련할 수 있다는 점을 기업들이 깨닫지 못했기 때문일 수 있다.

AI 도구군 ‘교육이 필요하다’

MIT CISR 보고서는 오늘날 기업 내의 생성형 AI를 세분화해 다룬다. 생산성 향상을 지원하는 챗GPT, 어도비 아크로뱃 AI 어시스턴트, 마이크로소프트 코파일럿과 같은 AI 도구가 하나다. 다른 하나는 대규모로 프로세스와 시스템을 변경하여 재무적 수익을 창출하는 것을 목표로 하는, 보다 복잡하고 전략적인 AI 솔루션이다.

윅섬은 AI 도구가 생산성 향상 외에도 직원들이 AI 사용에 익숙해지는 데 도움이 된다고 설명했다. “IT 리더는 AI 어시스턴트나 코파일럿과 같은 도구를 데이터 민주주의를 구축하는 데 매우 중요한 메커니즘으로 바라봐야 한다”라고 그녀는 덧붙였다.

이어 “직원과 인력이 이러한 일반적인 도구를 더 많이 사용하고 AI를 더 편안하고 창의적으로 사용한다면, 역량이 향상되고 솔루션 측면에서도 더 많은 혁신이 일어날 것”이라고 강조했다.

그러나 이 범주의 AI 제품에서는 입력된 회사 데이터가 오용될 수 있기에 가이드라인이 중요하다. 또한 AI 어시스턴트와 코파일럿이 향후 더 정교한 AI 솔루션의 효과적인 게이트웨이 기술이 될 수 있도록 하기 위해서는 교육도 필수적이다.

MIT CISR의 연구 과학자 닉 반 더 뮬렌은 “직원의 수준 관점에서 이런 접근과 실험은 가치를 가지지만, 안전하게 수행해야 한다. 이러한 생성형 AI 도구 중 상당수는 공개 도메인에서 사용할 수 있으므로 신뢰할 수 있는 공급업체의 몇 가지 도구를 선택해 좋은 가이드라인을 확보하는 것이 좋다”라고 말했다.

AI 코파일럿 초창기에는 많은 CIO가 도구의 잠재력을 완전히 믿지 못했다. 부분적인 이유 중 하나는 직원의 시간 절약 효과를 추적하기 어려운 경우가 많다는 것이다. 연구진이 보고서를 위해 인터뷰한 한 임원은 AI 도구가 문서를 요약하거나 이메일 초안 작성을 도와주는 등 각 작업에서 몇 분을 절약해 주기 때문에 생산성이 ‘대폭 향상’된다고 말했다.

AI 솔루션군 ‘전략적 계획이 필요’

AI 도구와 달리 AI 솔루션은 전략적 비즈니스 요구 사항을 해결하는 범주다. 컨택 센터에서 대화 내용을 처리하고 상담원에게 실시간 코칭을 제공하기 위해 사용하는 대규모 언어 모델(LLM)이 한 사례다. 연구진은 AI 솔루션을 배포하려는 경우 공식적이고 투명한 AI 혁신 프로세스를 만들고 커스터마이징 통한 경쟁 차별화를 우선시하는 AI 개발 지침을 구축해야 한다고 권고했다.

연구 보고서는 “(인터뷰에서) 한 임원이 ‘생성형 AI의 세탁 목록 사고방식’(gen AI laundry list mentality)를 경고했다. 이에 빠지지 않으려면 조직은 명확한 거버넌스 구조, 조기에 일관된 이해관계자 참여, 확장 가능한 솔루션에 초점을 맞춰야 한다”라고 제안했다.

이어 “해당 임원이 속한 조직은 고위급 워킹 그룹을 구성하여 생성형 AI 이니셔티브를 안내하고 해커톤과 외부 컨설턴트 등 다양한 소스를 활용하여 차세대 AI 솔루션에 대한 이해관계자의 아이디어를 도출했다”라고 전했다.

경우에 따라서는 AI 솔루션의 가치가 AI 도구의 가치보다 더 빨리 드러날 수 있다. 웍섬은 “콘텐츠가 많고 전문 지식이 많으며 문서가 많은 비정형 데이터를 다루는 산업에서 일하고 있다면 엄청난 기회가 존재한다. 그들은 자신들이 가장 잘 해결할 수 있는 황금 사용 사례를 갖게 될 것”이라고 말했다.

맞춤형 대응

SaaS 텍스트 마케팅 플랫폼 텍스트드립(Textdrip)의 CTO 다발 가자르는 이 두 가지 유형의 AI 구현에는 서로 다른 전략이 필요하다는 데 동의했다. 웹 사이트 및 모바일 앱 개발 회사 프란시테크(Pranshtech)의 CEO이기도 한 가자르는 배포하기 쉬운 AI 툴의 성공적인 사용은 사용자 교육에 달려 있다며 “공급업체별 표준화는 효과적인 사용을 위한 가이드라인 및 모범 사례와 함께 진행되어야 한다”라고 말했다.

반면 AI 기반 사기 탐지나 예측 분석 시스템과 같은 솔루션은 더 복잡하다는 설명이다. 내 생각에 모든 AI 솔루션은 출시에 체계적이고 공식적인 접근 방식이 요구된다. 따라서 엄격한 테스트와 명확한 거버넌스를 통해 이러한 가치를 대규모로 제공하려면 부서 간 협업이 필요하다”라고 그는 덧붙였다.

회계 및 컨설팅 회사인 BPM의 CIO인 모 아스가르니아는 AI 도구와 솔루션 간의 구분이 기술적인 구분이라기보다는 배포 프레임워크에 가깝다고 평했다. 그는 “기본 기술이 동일하다는 점을 기억할 필요가 있다. 다른 점은 적용 및 사용 방식이다. 챗봇이나 글쓰기 도우미와 같은 AI 도구가 특정 작업의 생산성을 향상시킨다면, AI 기반 고객 지원 플랫폼과 같은 AI 솔루션은 여러 AI 기능을 사용하여 전체 워크플로우를 혁신하도록 설계된다”라고 설명했다.

한편 아스가르니아는 코파일럿과 같은 AI 도구가 직원들이 더 복잡한 솔루션을 받아들이도록 유도할 수 있다는 데 동의했다. “AI 도구는 생산성과 효율성 측면에서 빠른 성과를 가져올 수 있으며, 향후 더 복잡한 AI 구현을 위한 디딤돌 역할을 할 수 있다. 이러한 도구에 친숙함과 편안함을 구축함으로써 기업은 향후 더 큰 규모의 AI 솔루션을 배포할 수 있는 강력한 기반을 마련할 수 있다”라고 말했다.

두 가지 유형의 생성형 AI 기술 모두 올바르게 배포하면 유용할 수 있다고 그는 덧붙였다. “각각의 범위와 복잡성의 차이는 배포 또는 구현 방식에 직접적인 영향을 미친다. 두 경우 모두 조직은 즉각적인 영향과 이러한 도구와 솔루션이 장기적인 비즈니스 목표에 얼마나 잘 부합하는지를 기준으로 성공 여부를 측정해야 한다”라고 그는 덧붙였다.
dl-ciokorea@foundryco.com