“편리함 뒤의 리스크”…오픈AI FDE 모델, CIO 통제 이슈 부상

오픈AI는 12일 새로운 조직 ‘오픈AI 디플로이먼트 컴퍼니(OpenAI Deployment Company)’를 공개했다. 이 조직은 ‘포워드 디플로이드 엔지니어(FDE)’로 불리는 최첨단 AI 배포 전문 인력을 기업 환경에 직접 투입해, AI 시스템 구축과 배포를 지원하는 것을 목표로 한다.

해당 조직은 19개 컨설팅 및 금융 기업의 지원을 받으며, 같은 날 발표된 AI 컨설팅·엔지니어링 기업 토모로(Tomoro) 인수 자원도 포함된다.

업계 분석가와 컨설턴트는 이번 행보가 최근 FDE 영역에 진입한 앤트로픽을 포함해 여러 AI 기업들이 추진 중이거나 이미 실행한 전략과 궤를 같이한다고 평가했다. 다만 오픈AI 디플로이먼트 컴퍼니 발표에서는 소유 구조와 통제 방식에 대한 구체적인 내용이 거의 공개되지 않았다.

오픈AI는 이 신규 기업이 40억 달러(약 5조 9,000억 원) 규모이며 “오픈AI가 과반 지분을 보유하고 통제한다”고 밝혔다. 그러나 정확한 지분율이나 각 파트너의 지분 비중을 명시하지 않아, 실제로 어느 정도의 통제권과 접근 권한이 파트너들에게 있는지는 여전히 불투명한 상태다.

또한 이번 조직을 “오픈AI와 글로벌 투자사, 컨설팅 기업, 시스템 통합 업체 19곳 간의 긴밀한 파트너십”이라고 설명했지만, 실제로 공개된 기업은 15곳에 그쳐 나머지 4곳의 정체는 밝혀지지 않았다.

한편 오픈AI는 고객이 시장 경쟁에서 우위를 확보할 수 있다는 점도 강조했다. 프로젝트 수행 과정에서 아직 공개되지 않은 향후 AI 기능을 선제적으로 활용할 가능성을 시사한 것이다.

오픈AI는 “FDE는 향후 오픈AI의 최첨단 역량이 나아갈 방향을 기반으로 시스템을 설계할 수 있어, 새로운 모델과 도구, 배포 방식이 등장할 때 지속적으로 성능이 개선되는 구조를 제공한다”며 “기업은 초기부터 빠르게 대응하고, 장기적으로 활용 가능한 시스템에 투자하면서 향후 등장할 기능을 중심으로 경쟁력을 확보할 수 있다”고 밝혔다.

다만 오픈AI는 CIO닷컴측의 추가 설명 요청에는 별도의 답변을 내놓지 않았다.

일반 컨설팅과는 다른 접근

코딩 생산성 도구 기업 코데지(Kodezi)의 최고경영자 이슈락 칸은 FDE의 특성상 오픈AI의 새로운 조직을 기존 방식과는 다르게 평가해야 한다고 강조했다.

칸은 “FDE 팀은 일반적인 소프트웨어 공급업체나 컨설턴트와는 다르다”며 “효과적으로 작동하기 위해서는 워크플로, 내부 도구, 비즈니스 로직, 데이터 파이프라인, 권한 체계, 의사결정 과정까지 폭넓은 접근 권한이 필요하다”고 설명했다. 이어 “CIO가 던져야 할 질문도 달라진다”며 “단순히 ‘이 모델이 잘 작동하는가’가 아니라 ‘누가 우리 운영 시스템 안에 들어와 있으며, 무엇을 볼 수 있고, 가장 민감한 워크플로를 구축하는 인력을 누가 통제하는가’로 바뀐다”고 말했다.

칸은 또한 복잡한 지분 구조를 고려할 때 계약 체결 시 각별한 주의가 필요하다고 지적했다.

그는 “기업은 데이터 접근, 모델 학습, 직원 접근 권한, 하청 구조, 감사 권한, 프로젝트 종료 이후 운영 지식의 귀속까지 명확한 계약 경계를 설정해야 한다”며 “AI를 실질적으로 활용하기 위해 엔지니어가 조직 내부 깊숙이 들어갈수록, 접근 모델이 불명확할 경우 오히려 큰 리스크로 이어질 수 있다”고 말했다. 이어 “다음 경쟁의 핵심은 배포 계층을 누가 통제하느냐에 달려 있다”며 “이 지점에 기업의 가치와 리스크가 동시에 존재한다”고 덧붙였다.

컨설팅 기업 액셀리전스(Acceligence)의 최고경영자 저스틴 그라이스도 우려를 나타냈다. 그는 “이번 조직은 전례 없는 수준의 접근 권한을 갖는 완전히 새로운 형태”라며 “팀이 학습한 내용에 실제로 누가 접근할 수 있는지가 핵심 질문”이라고 지적했다.

다층적 과제

IDC 보안 부문 그룹 부사장 프랭크 딕슨은 오픈AI의 새로운 조직이 충분히 타당한 접근이라고 평가했다. 다만 캡제미니(Capgemini), 맥킨지(McKinsey), 베인앤드컴퍼니(Bain & Company) 등 컨설팅 파트너의 역할을 투자자라기보다 실제 배포 역량을 제공하는 인력으로 봐야 한다고 강조했다.

딕슨은 기업 AI 도입이 단일 문제가 아닌 ‘다층적 과제’라고 설명했다. 일부 기업은 기반 모델을 조정하는 수준의 문제가 있지만, 다른 기업은 데이터 정제와 모델에 적합한 형태로 데이터 구조를 개선하는 작업이 필요하다.

또 다른 많은 기업에서는 조직 전반에 걸쳐 발생하는 사실상 무한에 가까운 AI 상호작용이 문제의 핵심이 된다. 이처럼 복잡한 환경에서는 오픈AI의 기술 역량만으로는 한계가 있을 수 있으며, 맥킨지·베인·캡제미니와 같은 컨설팅 기업의 현장 경험이 결정적인 역할을 할 수 있다.

신중한 접근 필요

그레이하운드 리서치의 수석 애널리스트 산칫 비르 고기아는 CIO들에게 매우 신중한 접근을 주문했다. 오픈AI의 제안을 거부하라는 의미가 아니라, 법무 부서와 IT 조직이 함께 참여해 계약을 정교하게 설계하고 접근 권한을 제한하는 방식으로 대응해야 한다는 설명이다.

고기아는 “과반 지분 보유와 통제는 겉으로 보이는 답일 뿐, 신뢰를 완전히 보장하지는 않는다”며 “실질적인 검토는 이사회 권한, 주요 의사결정 사항, 정보 접근 권리, 파트너 접근 범위, FDE 보고 체계, 사고 대응 권한, 데이터 통제, 고객 계약 조건 등에서 이뤄져야 한다”고 말했다.

이어 “이번 구조는 거버넌스 지형 자체를 바꾸고 있다”며 “오픈AI는 최첨단 모델 로드맵을, 토모로는 배포 역량을, 사모펀드는 규모 확장을, 컨설팅 기업은 혁신 추진력을, 시스템 통합 기업은 실행 범위를 제공한다”고 설명했다. 그러면서 “이 조합은 기업 AI 도입을 가속화할 수 있지만, 동시에 이해관계의 복잡성도 높인다”고 덧붙였다.

고기아는 “CIO는 단순히 누가 지분을 보유하고 있는지를 묻는 데 그쳐서는 안 된다”며 “누가 실제 업무를 통제하는지를 확인해야 한다”고 강조했다. 이어 “오픈AI의 통제력이 실제라면 계약서, 감사 체계, 에스컬레이션 프로세스, 데이터 경계 설정에 명확히 반영돼야 한다”며 “지분 구조는 검토의 출발점일 뿐, 그 자체로 충분하지 않다”고 말했다.

또한 민감한 접근 권한을 부여하기 전에는 이해하기 쉬운 형태의 거버넌스 공개가 필요하다고 지적했다. FDE 채용 승인 주체, 배포 데이터(텔레메트리) 접근 권한, 운영 과정에서 축적된 지식의 귀속, 재사용 승인 권한 등을 명확히 해야 한다는 것이다.

고기아는 “신뢰는 종종 ‘표면적 통제’와 ‘계약상 통제’ 사이의 간극에서 무너진다”며 “기업이 반드시 들여다봐야 할 지점이 바로 그 간극”이라고 강조했다.

그는 FDE를 고객의 운영 환경 내부에서 활동하는 고권한 AI 배포 조직으로 규정했다. FDE는 워크플로를 재설계하고, 모델을 데이터 및 도구와 연결하며, 실제 운영 시스템을 구축하고, 조직 내 업무가 실제로 어떻게 수행되는지를 관찰한다.

고기아는 “이들은 공식적인 아키텍처뿐 아니라 비공식적인 우회 방식까지 파악하고, 프로세스 흐름과 예외 처리 구조를 모두 들여다본다”며 “기업이 말하는 운영 방식과 실제 현장에서 돌아가는 방식의 차이까지 확인하게 된다”고 설명했다.

결국 오픈AI의 이번 시도는 FDE를 “내부 권한을 가진 제3자”로 만드는 구조라는 분석이다. 그는 “이들은 프로세스 부채, 수작업 우회, 취약한 API, 규정 예외, 데이터 품질 문제, 그리고 여전히 사라지지 않는 스프레드시트까지 모두 들여다본다”고 말했다.

이어 “장점은 파일럿 단계에서 실제 운영까지 빠르게 전환할 수 있다는 점이지만, 위험은 그 속도가 불투명성으로 이어질 수 있다는 데 있다”며 “CIO는 새로운 역량을 적극 수용하되, 접근 범위에 대한 통제는 반드시 병행해야 한다”고 강조했다.
dl-ciokorea@foundryco.com