오픈AI, 세션 가시성 문제는 해결했지만…AI 거버넌스 과제는 여전

기업들에게 AI 거버넌스는 끝없는 추격전과 같다. AI 모델 업데이트와 반복적인 개선이 매우 빠른 속도로 이뤄지면서, 거버넌스 프레임워크가 충분한 검증을 거치기도 전에 사실상 무용지물이 되는 경우가 적지 않다.

이 같은 한계를 개선하기 위해 오픈AI는 ‘액티브 세션(Active Sessions)’ 기능을 도입했다. 새로운 챗GPT 보안 기능인 액티브 세션은 사용자가 간단한 인터페이스를 통해 현재 로그인된 세션을 확인하고 하나 이상의 세션에서 로그아웃할 수 있도록 지원한다. 이 기능은 개인 계정과 관리형 워크스페이스를 포함한 모든 챗GPT 계정 및 워크스페이스에서 사용할 수 있다. 전문가들은 현재 월간 활성 사용자 수 10억 명을 보유한 오픈AI에 있어 중요한 진전이라고 평가했다.

사이버 위협 인텔리전스 기업 소크레이더(SOCRadar)의 최고정보보호책임자(CISO) 엔사르 세케르는 “그동안 기업은 사용자가 어디에서 로그인해 있는지 파악할 수 있는 가시성이 제한적이었고, 재인증을 강제하기 위해 비밀번호 재설정이나 계정 전체에 대한 광범위한 조치에 의존하는 경우가 많았다”라며 “세분화된 세션 제어는 보다 효율적이고 사용자에게 미치는 영향도 적은 방식이다. 거버넌스 관점에서도 세션 투명성은 책임성을 높이고 보안 조사 활동을 지원한다”라고 설명했다.

세션 활동을 한눈에 확인

액티브 세션 기능을 통해 관리자는 챗GPT, 코덱스(Codex), API 플랫폼 전반에서 사용 중인 브라우저 및 애플리케이션 세션을 확인할 수 있다.

구체적으로 기기 및 브라우저 정보, 대략적인 위치, 로그인 날짜와 시간, 신뢰된 기기 여부, 현재 활성 세션 여부 등을 조회할 수 있다.

사용자는 ‘설정(Settings)’ → ‘보안(Security)’ → ‘액티브 세션(Active Sessions)’ 메뉴를 통해 기능에 접근할 수 있다. 특정 세션에서 로그아웃하거나 신뢰 서비스에 등록된 기기를 제거할 수 있으며, 모든 세션에서 일괄 로그아웃하는 것도 가능하다. 다만 이 경우 모든 기기에서 세션이 종료되기까지 최대 30분이 소요될 수 있다.

다만 오픈AI는 세션 정보가 “대략적이거나 불완전할 수 있다”고 설명하며 기능의 한계를 인정했다. 연결된 애플리케이션이나 서드파티 앱 세션, 외부 인증 서비스를 통한 로그인, 코덱스 CLI 세션, 최근에 로그아웃된 세션 등은 표시되거나 관리되지 않는다.

또한 보안 인증 마크업 언어(SAML)와 오픈ID 커넥트(OpenID Connect, OIDC)를 포함한 기업의 싱글사인온(SSO) 계정과 연동된 사용자 계정에서는 액티브 세션 기능을 사용할 수 없다.

늦었지만 필요한 기능

액티브 세션은 보안 및 거버넌스 측면에서 의미 있는 발전이지만, 전문가들은 해당 기능이 기본적인 수준에 불과하며 도입 시점도 늦었다고 평가했다.

보서론 시큐리티(Beauceron Security)의 데이비드 쉽리는 “관리자가 챗GPT의 활성 세션을 종료할 수 있도록 한 것은 이미 많은 플랫폼에서 제공하는 기능”이라며 “더 일찍 도입됐어야 했지만, 지금이라도 제공된 것은 다행”이라고 말했다.

쉽리는 보안 측면에서 오픈AI가 챗GPT가 악성코드 유포에 악용되지 않도록 보다 적극적으로 관리할 필요가 있다고 지적했다. 최근 위협 행위자들이 챗GPT를 악성코드 호스팅에 활용하는 사례가 기업의 새로운 보안 위협으로 떠오르고 있다는 설명이다.

소크레이더(SOCRadar)의 최고정보보호책임자(CISO) 엔사르 세케르 역시 이 같은 수준의 가시성과 관리 기능은 기업이 SaaS 플랫폼에 수년간 요구해온 기본 역량이라고 평가했다.

세케르는 “관리자와 사용자가 비인가 접근을 신속하게 식별하고, 장기간 방치된 세션을 종료하며, 계정 침해가 탐지되지 않은 채 지속될 위험을 줄일 수 있다”라고 설명했다.

반복되는 모델 업데이트가 거버넌스를 흔든다

오픈AI는 지난주 챗GPT 애플리케이션과 API의 GPT-5.5 인스턴트를 업데이트했다고 밝혔다. 회사는 이번 업데이트가 응답 스타일과 품질 개선을 위한 것이라고 설명했다.

GPT-5.5 인스턴트는 지난 5월 GPT-5.3 인스턴트의 후속 모델로 출시됐다. 당시 오픈AI는 해당 모델이 전반적으로 더 똑똑해졌고 환각 현상도 줄어들었다고 소개했다.

오픈AI에 따르면 이번 업데이트를 통해 GPT-5.5 인스턴트는 가독성이 향상됐고, 일상적인 대화가 더욱 자연스러워졌으며, 실질적인 업무 지원 과정에서도 응답 흐름이 개선됐다. 또한 지나치게 길거나 불릿 포인트에 과도하게 의존하는 답변도 줄어들었다.

그러나 액티브 세션과 같은 관리 기능이 추가되더라도 기업은 끊임없이 반복되는 모델 업데이트로 인해 여전히 거버넌스 문제에 직면하고 있다.

쉽리는 “비결정적(non-deterministic) 시스템에서 적절한 테스트 계획을 어떻게 수립할 수 있겠는가”라며 현재와 같은 상황은 지속 가능하지 않다고 지적했다.

세케르는 많은 기업이 AI 모델을 운영 환경에 적용하기 전에 보안, 규제 준수, 비즈니스 검증 테스트를 수행하지만 동일한 버전 계열 내에서 모델의 동작 방식이 바뀌면 기존에 문서화된 가정이 실제 성능을 더 이상 정확하게 반영하지 못할 수 있다고 설명했다.

세케르는 “AI 거버넌스의 가장 큰 과제는 모델 도입이 아니라 모델 변화”라며 “대부분의 조직은 모델을 한 번 평가할 수는 있지만, 시간이 지나며 모델이 어떻게 변화하는지 지속적으로 평가할 준비가 된 곳은 훨씬 적다”라고 말했다.

그는 특히 감사 가능성, 재현성, 변경 관리가 중요한 규제 산업에서 이러한 문제가 더욱 심각하다고 지적했다. 설령 개선을 위한 업데이트라고 하더라도 무엇이 언제 어떻게 바뀌었는지 조직이 명확하게 파악하지 못한다면 새로운 거버넌스 우려를 야기할 수 있다는 설명이다.

인포테크 리서치 그룹(Info-Tech Research Group)의 자문 연구원 밸런스 하우든은 많은 조직이 모델 업데이트가 자신들의 통제 범위에 어떤 영향을 미치는지 평가하지 못하며, 더 심각한 문제는 업데이트 사실조차 인지하지 못하는 경우가 많다고 말했다.

하우든은 “초기에는 어떤 AI 모델을 사용하는지, 그 모델이 무엇을 하는지, 누가 소유하고 있는지가 가장 큰 과제였다”라며 “하지만 반복적인 업데이트는 상황을 더욱 복잡하게 만들고, 기업이 충분한 자원을 갖추지 못한 외부 벤더의 운영 방식과 도구에 대한 의존도를 높인다”라고 분석했다.

이어 “업데이트가 적용되기 전에 이를 거부할 수 있는 선택권이 없다면 기업은 사실상 고객과 함께 업데이트를 레드팀 테스트하는 셈”이라고 지적했다.

끝나지 않는 추격전

보안 기업 소크레이더(SOCRadar)의 최고정보보호책임자(CISO) 엔사르 세케르는 오늘날 보안팀이 한계 상황에 내몰리고 있다고 진단했다. 규제 준수와 리스크 관리, 비즈니스 연속성을 유지하는 동시에 빠르게 진화하는 AI 모델과 새로운 기능, 변화하는 동작 방식까지 관리해야 하기 때문이다.

세케르는 “거버넌스가 어려운 이유는 조직이 더 이상 정적인 제품을 평가하는 것이 아니기 때문”이라며 “기업은 기능과 연동 체계, 사용자 행동이 기존 보안 검토 주기보다 훨씬 빠르게 변화하는 ‘지속적으로 진화하는 서비스’를 관리하고 있다”라고 설명했다.

인포테크 리서치 그룹(Info-Tech Research Group)의 하우든도 이에 동의했다. 그는 기업의 기존 거버넌스 체계와 리스크 관리 역량, 특히 책임성(accountability) 측면이 전반적으로 부족하다고 지적했다.

하우든은 “원래 잘하지 못하던 일을 갑자기 잘하게 되는 것은 어렵다”라며 “기업은 속도와 혁신을 우선시하도록 동기부여돼 있기 때문에 거버넌스를 제약 요소로 여기거나 아예 중요하게 생각하지 않는 경우도 많다”라고 말했다.

기업은 어떻게 대응해야 하나

세케르는 기업이 궁극적으로 AI 모델을 고정된 소프트웨어 릴리스가 아닌 ‘살아있는 시스템’으로 바라봐야 한다고 조언했다.

그는 보안 및 거버넌스 프로그램이 일회성 승인 절차에만 의존해서는 안 되며, 지속적인 검증과 모니터링, 정기적인 재평가 체계를 포함해야 한다고 강조했다. 또한 모델 업데이트와 동작 방식 변화, 기존 업무 프로세스에 미치는 영향 등에 대한 투명성을 요구하는 등 벤더의 변경 관리에 대한 명확한 기준도 마련해야 한다고 덧붙였다.

세케르는 “효과적인 AI 거버넌스는 이제 단순히 위험에 대한 가시성뿐 아니라 변화 자체에 대한 가시성에 점점 더 의존하게 될 것”이라고 말했다.
dl-ciokorea@foundryco.com