“AI 리스크를 기회로” 거버넌스와 혁신의 균형을 맞추는 비결

생성형 AI는 널리 알려진 이점과 함께 기업과 고객에게 새로운 위험을 가져오고 있다. 맥킨지의 연구에 따르면, AI를 사용하는 기업의 절반 이상이 최소 1차례의 부정적 결과를 경험했다고 보고했으며, 응답자의 약 1/3은 AI의 부정확성에서 비롯된 문제를 언급했다.

생성형 AI 도입과 관련한 과제는 환각만이 아니다. 가트너는 기업 가치, 보안, 데이터 준비도 같은 흔히 거론되는 우려 외에도 섀도우 AI, 기술 부채, 역량 약화, 데이터 주권, 상호운용성 문제, 업체 종속 같은 중대한 사각지대를 기업이 간과할 수 있다고 지적했다.

부정확성, 데이터 유출, 기타 영역이 결합된 위험 때문에 전 세계 규제기관은 기업이 엄격한 가이드라인 안에서 운영되고 고객을 보호할 수 있도록 규칙과 규정을 강화하는 데 속도를 내고 있다. 가장 주목받는 AI 관련 법은 유럽연합의 AI 법으로, AI를 위한 포괄적인 위험 기반 프레임워크이자 진화하는 규제 환경의 일부이다. 법무법인 버드 앤 버드(Bird & Bird)는 22개 관할권을 분석해 법률, 가이드라인, 조치를 포함한 AI 규제를 보여주는 AI 호라이즌 트래커(AI Horizon Tracker)를 개발했다. AI 호라이즌 트래커는 규제가 전혀 없는 수준부터 엄격한 실체인 요건까지 지역별 접근 방식의 폭넓은 스펙트럼을 제시했다.

이런 환경에서 AI 이니셔티브를 이끌어야 하는 디지털 리더는 거버넌스라는 지뢰밭을 마주하고 있다. 이런 규제의 압박 때문에 일부 기업은 AI 실험이 감수할 만한 위험인지 의문을 제기하고 있다. 예를 들어 제조산업 전문 서비스 기업 RS의 조사에 따르면, 제조 산업 선도기업 가운데 AI/ML을 우선순위로 둔 비율은 34%에 그쳤다. RS의 혁신 담당 부사장 마이크 브레이는 “결론은 도입에 대한 어느 정도의 신중함”이라고 말했다.

하지만 거버넌스가 혁신의 장벽으로 보일 수 있음에도 전문가들은 규칙과 규정 준수가 유용한 기본 규칙을 만들어 AI 탐색이 올바른 방향으로 나아가도록 돕는다고 말한다. 실제로 일부 전문가는 AI 배치가 CIO와 비즈니스 리더가 위험을 관리하는 데 도움이 될 수 있다고 본다.

거버넌스는 혁신의 장벽인가

영국의 긴급 출동 서비스 기업 RAC의 데이터·인사이트 총괄 책임자 이언 러플은 디지털 리더가 규제 준수에 정면으로 대응해야 한다는 점을 인정했다. RAC는 정보보안과 사업부 전문가가 참여하는 AI 거버넌스 포럼을 운영하며, 기업이 집중해야 할 영역을 올바르게 설정하고 있다.

러플은 “RAC는 AI를 두려워하는 기업이 되고 싶지 않다. AI의 잠재력을 받아들여야 한다”라고 강조했다. 또한, RAC의 데이터 기반 탐색을 통해 “효과적인 거버넌스는 팀 스포츠”라는 것을 알았다며, “규칙과 규정이 AI 구현을 어떻게 안내할 수 있는지 함께 고민하며 협업해야 한다”라고 말했다.

특히, “리더십 역할을 맡고 새로운 기술을 검토한다면, 무엇을 하고 있는지와 데이터를 처리하는 방식에 적절한 거버넌스를 붙이는 것이 첫 생각이 돼야 한다”라며, “변경 관리 프로세스를 면밀히 모니터링해 잘못된 일을 저지르지 않도록 해야 한다”라고 경고했다.

RS의 마이크 브레이도 거버넌스가 AI 구현을 안내해야 한다고 믿는다. RS 역시 다른 기업과 비슷한 처지에 있으며, 기회와 위험이 뒤섞인 환경을 헤쳐 나가야 한다. 브레이는 “이를 인정한다면, 강력한 거버넌스가 RS가 고객, 공급사, 내부 팀에 이익이 되는 방식으로 AI를 사용하면서도 위험을 완화하는 데 필수적이다”라고 설명했다.

런던에서 10월에 열린 DTX 2025 행사에서 정밀 테스트 및 계측 분야 선도기업 호팅거 브뤼엘 앤드 케아르(Hottinger Brüel & Kjær)의 디지털 퓨처 담당 디렉터 샬럿 비맨드는 혁신의 시대에 거버넌스를 관리하려면 신중한 균형이 필요하다고 말했다. 비맨드는 거버넌스가 고정된 규칙과 규정의 집합이 아니라 진화한다며, 현명한 비즈니스 리더가 가드레일과 프레임워크를 조직 성숙도에 맞춰 정교하게 설계한다고 설명했다.

비맨드는 “호팅거 브뤼엘 앤드 케아르는 매우 민감한 고도로 규제된 최종 시장을 상대하며, 그 영역에서 훨씬 높은 수준의 컴플라이언스 활동을 수행하고 있다. 한편으로는 빠른 혁신과 민첩성을 기대하는 시장과 고객 범위도 넓게 존재하며, 두 가지를 모두 균형 있게 맞춰야 한다”라고 강조했다.

기회를 탐색하는 경로가 되는 컴플라이언스

같은 행사에서 발언한 영국 세이브더칠드런의 최고 데이터·AI 책임자 슈루티 샤르마는 기반을 세우는 일과 혁신을 장려하는 일 사이에 미묘한 경계선이 있다고 말했다.

규제 준수가 관료주의와 과도한 행정으로 이어진다는 인식이 널리 퍼져 있지만, 샤르마는 거버넌스는 100페이지짜리 규정집이나 사람들이 계속 들춰보는 정책 묶음일 필요는 없다고 지적했다. 또, 거버넌스를 관리하는 최선의 방법이 명확한 경계를 세우는 것이라고 강조했다.

샤르마는 “페르소나와 역할 기반 접근 제어를 내재화하는 것 외에도 구성원이 탐색할 수 있는 샌드박스 환경을 제공하면서도 명확성을 확보하고 있다”라며, “명확성이란 경계와 올바른 정의를 마련하는 일이다. 구성원은 안전한 범위 안에서 탐색과 실험을 진행할 수 있다”라고 덧붙였다.

요컨대 거버넌스를 혁신 프로세스 안에 내재화해 추가 장애물로 보지 않는다면, 조직은 규제 준수를 구조로 삼아 AI의 잠재력을 안전하고 효과적으로 탐색할 수 있다.

영국 연금규제국의 디지털·데이터·기술 디렉터 폴 네빌은 “사람은 위험과 기회를 서로 분리된 두 가지로 이야기하는 경향이 있지만, 실제로는 하나의 긴 연속선”이라며, “위험은 기회가 될 수 있고, 기회는 위험이 될 수 있으며, 둘 다 사실”이라고 말했다.

네빌은 최근 한 기업 CEO와 이야기를 나눴는데, 이 기업은 오늘의 문제에 몰두한 나머지 자동화와 AI를 활용해 일을 완전히 다르게 할 수 있는 세계를 생각하지 못했다. 네빌은 “위험에만 집중해 앞으로 나아가지 못했다. 무척 안타까웠다”라고 말했다.

핵심은 ‘다른 무언가’를 상상할 수 있는 비전을 갖는 것이다. 최고의 리더는 더 나은 내일의 그림을 그리고 잠재적 위험을 부각하는 동시에 그 우려를 관리할 메커니즘을 제공한다. 네빌은 명확한 비전을 만들기 위해 동료와 함께 AI 자문위원회를 설립했다고 밝혔다.

네빌은 “AI 자문위원회는 외부와 내부 구성원을 포함하되, 독립성을 부여하기 위해 CIO가 아니라 COO가 의장을 맡을 것”이라고 말했다. 이어 “AI 자문위원회는 조직이 하는 일을 제대로 점검하고 윤리적 관점도 취할 수 있게 해준다. 기회 측면에서도 조직이 더 과감하게 시도하도록 하는 한편, 거버넌스와 혁신을 함께 살피게 된다”라고 설명했다.

리스크 관리를 위한 AI 활용

레노버의 글로벌 CIO 아트 후는 산업과 기업에 따라 맥락과 대응이 달라 거버넌스와 AI의 균형을 관리하는 단일한 방식은 없다고 말했다. 다만 위험 관리를 위해 AI를 활용하는 것이 성공으로 가는 잠재적 경로라고 제시했다. 아트 후는 거버넌스를 관리하는 CIO가 AI에 전술적으로 투자하면 성과로 돌아올 것이라고 믿고 있다.

아트 후는 “생성형 AI의 강점 중 하나는 사람이 할 수 있는 것보다 훨씬 많은 출처를 제시하고, 무엇을 해야 하는지에 대한 일정한 근거를 바탕으로 권고안을 만든다는 점”이라며, “접근법을 올바르게 잡으면 AI 도구가 위험 평가, 위험 완화, 위험 관리 기능을 개선할 수 있다”라고 설명했다.

제조·건설·산업 서비스 대기업 하이코 컴퍼니(The Heico Companies)는 실제로 그런 효과를 얻었다. 하이코의 환경·보건·안전 부사장 데이브 로버츠는 모든 사업장에서 위험과 잠재적으로 심각한 사고를 최소화하고 지역별 규제 요건을 충족하는 일을 책임지고 있는데, 업무 과정에서 가이드라인과 규칙이 계속 늘어나는 상황을 마주하고 있다고 말했다.

로버츠는 “업무의 일부는 이런 변화를 어떻게 따라잡을지 고민하는 일”이라며, “세상을 단순화하고 규제를 관리할 방법을 찾을 수 있다면, 그 자체로 잠재적으로 유용하다”라고 말했다.

그리고 바로 그 지점에서 AI가 등장했다. 하이코는 전 세계적으로 위험을 관리하는 데 들어가는 노력을 줄일 시스템이 필요하다는 사실을 인식했다. 로버츠는 IT 시장을 살펴본 끝에 벤치마크 젠수이트(Benchmark Gensuite)의 PSI AI 어드바이저(PSI AI Advisor)가 ‘좀처럼 풀기 어려운’ 대형 위험 관리 과제의 해법이 될 수 있다고 판단했다. 이 솔루션은 사고 보고서에서 세부 내용을 추출해 요약하는 AI를 활용한다.

하이코 컴퍼니는 AI 어시스턴트에서 얻은 인사이트를 활용해 사업장 전반의 산업 재해를 크게 줄였고, 재해 보상 비용을 60% 절감했다. 로버츠는 이런 결과가 AI와 거버넌스의 연결고리에 대한 대화의 방향을 바궈놓았다고 말한다.

로버츠는 “이 기술은 중요한 것이 무엇인지 바로 알 수 있도록 해준다”라며, “경영진은 손끝에서 인사이트를 확보하기 때문에 더 큰 위험이 어디에 있는지 알게 된다”라고 강조했다.
dl-ciokorea@foundryco.com