AWS 리인벤트 2024, CIO 관점의 요약

AWS의 연례 리인벤트 개발자 컨퍼런스가 지난주에 막을 내렸다. 이 행사에서는 기술 발전 외에도 비용 최적화, 워크플로우 효율화, 가속화된 AI 애플리케이션 개발 등 CIO의 눈길을 끌 만한 발표가 다수 있었다. 이 거대 클라우드 업체는 아마존 세이지메이커, 아마존 Q 디벨로퍼, 아마존 베드록, Q 비지니스 등 인기 제품에 대한 몇 가지 새로운 기능과 업데이트를 선보였다. CIO에게 직접적인 영향을 미치는 주요 발표 내용을 살펴본다.

IT 지출 최적화

인프라 측면에서 AWS는 아마존 EC2 P6 인스턴스에 엔비디아의 새로운 블랙웰 칩이 탑재될 것이라고 발표했다. 또한 트레니움2 기반 EC2 인스턴스를 일반에 공개하고 트레이니움3 칩에 대한 계획을 공개했다. 아마존은 이번 발표에서 더 많은 컴퓨팅 용량에 더해 경쟁사 대비 더 나은 가격 대비 성능을 제공하는 데 중점을 두었다.

예를 들어, AWS 트레이니움2 기반 EC2 인스턴스는 이전 세대인 트레니움1 기반 인스턴스보다 4배 빠른 속도와 4배의 메모리 대역폭, 3배 더 많은 메모리 용량을 제공한다. 이 모든 것을 합하면 트레이니움1 기반 인스턴스보다 35% 낮은 지연 시간을 제공할 것으로 예상된다.

가격 대비 성능 효율을 높이기 위한 또 다른 노력의 일환으로 출시된 트레이니움3 칩은 트레이니움2보다 2배 더 빠른 컴퓨팅 성능과 40% 더 높은 에너지 효율을 제공할 것으로 관측된다.

모델 및 모델 개발 측면에서는 노바(Nova) 기본 모델의 공개가 있었다. AWS의 CEO 매트 가먼은 대부분의 경쟁 모델보다 특히 비용 측면에서 더 나은 가치를 제공할 것이라고 강조했다.

베드록 업데이트에는 베드록 프롬프트 캐싱과 모델 디스틸레이션(Model Distillation)이 있었다. 모델 디스틸레이션은 기업의 LLM 운영 비용을 낮추기 위한 관리형 서비스이며, 프롬프트 캐싱은 프롬프트를 캐시 메모리에 저장하여 LLM 프롬프트 비용을 절감하도록 설계된 기능이다.

아마존 세이지메이커의 AI 모듈에도 비용 절감 기능이 추가됐다. 세이지메이커 하이퍼팟(SageMaker Hyperpod)의 플렉시블 트레이닝 플랜(lexible Training Plans) 태스크 거버넌스(Task Governance)가 그것이다. 이들은 기업이 구매한 클러스터와 인스턴스를 90% 이상 활용하면서 LLM 트레이닝, LLM 추론, AI 모델 개발 작업을 완료하는 데 필요한 시간을 단축할 수 있도록 설계됐다.

워크플로우 간소화 및 생산성 향상

기업의 워크플로우를 간소화하고 개발자와 데이터 전문가의 생산성을 높이는 데 초점을 맞춘 발표도 다수 있었다. 먼저 AWS는 애널리틱스와 AI 서비스를 세이지메이커 서비스로 통합한다고 발표했다.

기업이 IT 통합 오버헤드와 복잡성을 줄이는 데 도움이 될 수 있는 이러한 통합을 특히 잘 보여주는 존재는, SQL 분석, 데이터 처리, AI 개발, 데이터 스트리밍, 비즈니스 인텔리전스, 검색 분석을 결합한 아마존 세이지메이커 내의 새로운 서비스인 유니파이드 스튜디오(Unified Studio)다.

통합과 관련한 또 다른 오퍼링은 기업이 아마존 S3 데이터 레이크와 아마존 레드시프트 데이터 웨어하우스 전반에서 데이터를 통합할 수 있도록 지원하는 세이지메이커 데이터 레이크하우스다. AWS는 이 밖에 5가지 새로운 스토리지 도구와 서비스를 출시했다.

AI 앱 개발 가속화

AI 도입이 이미 대세이지만, 충분히 빠른 도입은 여전히 문제다. 이 문제를 해결하기 위해 아마존은 개발자 컨퍼런스에서 일련의 업데이트를 발표했다.

개발자의 작업을 용이하게 하기 위해 고안된 첫 번째 업데이트는 마이크로소프트의 GPT 기반 코파일럿 생성형 AI 어시스턴트에 대한 아마존은 답변인 아마존 Q 디벨로퍼라고 할 수 있다. Q 디벨로퍼의 새로운 확장 기능에는 코드 검토, 단위 테스트 자동화, 문서 생성 등이 있다.

또한 AWS는 윈도우에서 리눅스로 닷넷 앱을 현대화하는 기능, 메인프레임 코드 현대화, VM웨어 워크로드 마이그레이션을 지원하는 기능 등 Q를 위한 여러 코드 번역 기능을 프리뷰로 공개했다. 가먼은 Q 디벨로퍼가 번역 작업을 수행하면 개발자는 다른 작업에 집중할 수 있어 생산성이 향상될 것이라고 말했다.

AWS의 생성형 AI 플랫폼인 베드록에 추가된 다른 업데이트에는 베드록 인텔리전트 프롬프트 라우팅(Bedrock Intelligent Prompt Routing), 아마존 켄드라 젠AI 인덱스(Amazon Kendra GenAI Index), 정형 데이터를 위한 베드락 지식 기반 지원(Bedrock Knowledge Bases support), 그래프RAG(GraphRAG), 비정형 데이터 검색을 위한 베드락 데이터 오토메이션(Data Automation) 등이 있다.

스토리지 측면에서 AWS는 S3 테이블 버킷과 S3 메타데이터 기능을 공개했다. S3 테이블 버킷은 스토리지 서비스 내에서 아파치 아이스버 테이블을 쉽게 구현하는 것을 목표로 한다. S3 메타데이터 기능은 기업이 S3에 저장된 객체의 메타데이터를 자동으로 생성하여 데이터를 더 쉽게 찾을 수 있도록 함으로써 분석 및 AI를 비롯한 다양한 워크로드의 시간을 단축할 수 있도록 지원한다.
[email protected]