IBM, 차세대 메인프레임 운영체제 ‘z/OS 3.2’ 공개···AI 가속·보안·운영 간소화 강화

IBM은 22일 메인프레임 운영체제 최신 버전인 ‘z/OS 3.2’를 공개했다. 이 버전은 z17 메인프레임 제품군에서 가장 눈에 띄는 AI, 관리, 보안 기능을 본격적으로 구현하는 데 중추적 역할을 할 예정이다.

오는 9월 30일 공식 출시되는 z/OS 3.2는 z17 메인프레임의 기반이 되는 운영체제로, 대형 시스템(Big Iron)의 새로운 AI 가속 기술을 지원한다. 하이브리드 클라우드 애플리케이션을 위한 향상된 관리 기능, 고급 암호화 및 위협 탐지, 통합된 간소화된 프로그래밍 기능도 포함됐다.

현재 출시된 z17 메인프레임은 5.5GHz의 IBM 텔럼 II(Telum II) 프로세서와 내장 AI 가속기를 탑재하고 있다. IBM에 따르면 이 조합은 고객이 하루 4,500억 건 이상의 AI 추론 작업을 1밀리초 응답 시간으로 처리할 수 있도록 지원한다. 여기에 더해 ‘스파이어(Spyre)’라는 32코어 AI 가속기가 4분기부터 선택형 PCIe 카드 형태로 제공되며, 필요에 따라 여러 장을 추가할 수 있다. 이 가속기는 새로운 유형의 AI 워크로드 전반을 처리하도록 설계됐다.

z17에 탑재된 텔럼 II 프로세서, 내장 AI 가속기, 스파이어는 상호 유기적으로 작동하도록 설계돼 실시간 고속 AI 추론과 모델 실행을 플랫폼 내에서 직접 수행할 수 있다. 이를 통해 민감한 데이터를 외부로 이동하지 않아도 되고, 지연 시간이 줄어든다. 켈리 라이언(Kelly Ryan) IBM Z & 리눅스원 운영체제 부사장은 “AI를 중요 업무에 직접 통합해 고도화된 사기 탐지, 공급망 최적화, 자동 의사결정과 같은 고성능 애플리케이션을 실행할 수 있게 됐다”고 설명했다.

라이언은 “전 세계 은행의 95%, 포춘 500대 기업의 70%를 포함한 많은 정부와 기업들이 메인프레임을 통해 대용량·고보안 데이터 처리를 수행하고 있지만, 현재 LLM(대규모 언어 모델)에 입력된 엔터프라이즈 데이터는 1%에 불과하다”며 “따라서 AI는 데이터를 중심으로 구축돼야 한다”고 강조했다.

하이퍼프레임리서치(HyperFRAME Research)의 CEO 스티븐 디킨스는 “이번 릴리스에서 가장 눈에 띄는 기능은 메인프레임 기반 AI”라며 “IBM은 이미 스파이어에 대해 200건 이상의 활용 사례를 확보하고 있으며, 특히 금융 분야에서 사기 탐지, 고객 신원 확인(KYC), 자금세탁 방지(AML)와 같은 영역에 적합하다”고 분석했다.

메인프레임 내 AI 활용을 가능하게 하는 또 다른 구성 요소는 ‘IBM z/OS용 AI 프레임워크(AI Framework for IBM z/OS)’다. IBM 문서에 따르면 “이 프레임워크의 구성 워크플로우는 데이터 수집을 보다 효율적이고 협업적으로 만들며 사용자 경험을 향상시키도록 고객을 안내한다. z/OS 3.2는 초기 데이터 수집 단계를 분해하고, 작업 및 변수 설명을 보다 명확하고 일관되며 효율적으로 업데이트해 핵심 기능을 개선했다”고 설명했다.

AI가 작동하는 또 다른 사례는 AI 기반 워크로드 관리자(WLM)의 새로운 버전이다. IBM은 “AI가 워크로드 패턴을 감시하고 급증을 예측해, 배치 작업을 시작하고 관리하는 컴포넌트 수를 사전 조정할 수 있도록 한다”고 전했다.

라이언은 “이 시스템을 통해 처리되는 방대한 데이터량을 고려할 때, 고객은 AI 추론 기술을 통해 데이터를 빠르게 해석하고 결과를 도출하길 원한다”며 “IBM은 하드웨어, 운영체제, 전체 스택 측면에서 AI 기능을 시스템 전반에 완전하게 통합했고, 핵심은 보안성과 보호 기능”이라고 강조했다.

보안 측면에서는 미국 국가표준기술연구소(NIST)의 양자내성 암호(Quantum-safe algorithm)를 내장해, 현재는 물론 향후의 거래, 데이터, 신원 관리까지 보호하고, 미래에 발생할 수 있는 양자컴퓨팅 기반 공격에 대비할 수 있다. IBM Z 및 리눅스원 제품관리 디렉터 켈리 푸숑(Kelly Pushong)은 이와 같이 설명했다.

또한 IBM은 ‘IBM z/OS용 위협 탐지(Threat Detection for z/OS, TDz)’ 기능도 개선했다. 이 기능에는 새로운 격리(quarantine) 기능이 포함돼 있어, 대형 시스템의 리소스 접근 제어 기능(RACF)을 활용해 보안 위협을 보다 쉽게 차단할 수 있다. TDz는 행동 분석, 머신러닝, 보안 데이터 피드를 기반으로 AI 기반 위협 탐지를 구현하며, 내부 위협, 도용된 자격 증명, 무단 접근 시도, 의심스러운 행동 등을 z/OS 환경에서 실시간으로 감지한다.

푸숑은 “새로운 RACF 기능은 더 강력한 제어 역량을 제공한다”며 “예전에는 사용자 ID가 회수돼도 진행 중이던 작업은 그대로 유지됐지만, 이제는 그 사용자의 요청이 고유 코드와 함께 실패 처리되며, 이벤트는 시스템 관리 시설(SMF)에 기록되고, 이는 다시 z/OS 위협 탐지 기능에 반영된다”고 설명했다. 그녀는 “이 기능의 목표는 접근을 더 정밀하게 제어하고, 의심스러운 활동의 노출과 영향을 줄이는 것”이라고 덧붙였다.

z/OS 3.2는 AI 기반 네트워크 패킷 배치 기능도 지원한다. 이 기능은 네트워크 패턴 변화에 반응해 TCP/IP 스택과 메인프레임 네트워크 인터페이스 간 통신을 최적화하며, 네트워크 CPU 오버헤드를 줄이면서도 거래 지연에 미치는 영향은 최소화한다. 푸숑은 이 기능이 4분기부터 제공되며, 고객은 이를 손쉽게 활성화하고 사용할 수 있다고 전했다.

메인프레임 운영 간소화

IBM z/OS 3.2의 주요 목표 중 하나는 기업의 운영 효율성을 높이고 메인프레임 환경 전반을 간소화하는 것이다. IBM Z 및 리눅스원 제품관리 디렉터 켈리 푸숑(Kelly Pushong)은 이를 위한 대표적인 사례로 주요 시스템 전반에 REST API를 적용한 점을 들었다. REST API는 클라우드, 웹, 모바일, 마이크로서비스 애플리케이션 접근에 있어 업계 표준으로 통용되는 방식이다.

푸숑은 “이번 버전은 CISC 트랜잭션, 배치 작업, 시스템 관리 기능(SMF), 스토리지 관리 작업 등 다양한 z/OS 데이터를 손쉽게 활용하고, 이를 자동화해 현대적인 툴에 통합할 수 있도록 설계됐다”며 “기존에는 수작업이 많고 복잡한 과정이었지만, 이제는 이런 복잡성을 모두 제거했다”고 설명했다.

이러한 변화는 인력 운용 측면에서도 의미가 있다. 그동안은 메인프레임 작업이 주로 숙련된 시스템 프로그래머에 의해 수행됐지만, 이제는 자동화를 통해 메인프레임 프로그래밍에 익숙하지 않은 인력도 보다 빠르게 적응할 수 있다.

하이퍼프레임리서치(HyperFRAME Research)의 CEO 스티븐 디킨스(Steven Dickens)는 “IBM 내부에서도 메인프레임의 단순화, 다시 말해 ‘덩치 큰 시스템의 탈각화(de-clunkifying)’가 오랜 과제로 추진돼 왔다”며 “메인프레임의 기대치를 충족하면서도 초보자와 저연차 직원이 더 쉽게 활용할 수 있게 만든 이번 변화는 언론의 주목을 받지는 않겠지만 실질적인 진전”이라고 평가했다.

디킨스는 또 다른 핵심 변화로 메인프레임의 컨테이너화 확장을 꼽았다. 특히 z/OS 3.2에서는 z/OS 컨테이너 확장(zCX) 기능이 강화됐다. 이 기능은 고객이 z/OS 내에서 리눅스 기반 도커(Docker) 컨테이너를 네이티브로 실행할 수 있게 한다. 새로운 버전에서는 zCX가 z/OS 3.2에 기본 포함되면서 별도의 하드웨어 기능 코드 없이 사용할 수 있어 배포 비용이 크게 줄었다.

IBM은 zCX의 네트워크 기능도 확장해, 이제는 내부 컨테이너 간 네트워크 트래픽을 더 쉽게 분산할 수 있게 됐다. 이에 따라 외부 로드 밸런서도 더 이상 필요하지 않다. 또한 IBM은 이제 zCX 환경에서 레드햇 오픈시프트 컨테이너 플랫폼(RHOCP) 클러스터를 직접 실행할 수 있도록 지원한다.

디킨스는 “이제 zCX와 RHOCP는 물론 레드햇의 다양한 통합 기능이 메인프레임 플랫폼에서 실행되면서, 고객 입장에서는 메인프레임이 마이크로서비스 배포 환경의 핵심 참여자로 자리 잡게 됐다”고 설명했다.
dl-ciokorea@foundryco.com