구글, 멀티모달 온디바이스 AI 모델 ‘젬마 3n’ 출시

구글이 차세대 온디바이스 AI 모델인 ‘젬마 3n(Gemma 3n)’을 공개했다. 이 모델은 텍스트, 이미지, 오디오, 비디오 등 다양한 입력과 출력을 동시에 지원하는 멀티모달 아키텍처를 기반으로 하며, 성능과 효율성을 모두 갖춘 것이 특징이다.

구글에 따르면 젬마 3n은 지난 5월 처음 공개됐으며, 스마트폰, 태블릿, 노트북, 데스크톱, 단일 클라우드 가속기 등 다양한 엣지 디바이스에서 구동되도록 설계됐다. 이 모델은 메모리 사용량이 최소 2GB~3GB 수준으로, 소형 디바이스 환경에서도 효율적인 작동이 가능하다.

젬마 3n은 모델의 ‘유효 파라미터(effective parameters)’ 기준으로 E2B와 E4B 두 가지 크기로 제공된다. 각각의 원시 파라미터 수는 50억 개(5B), 80억 개(8B)지만, 메모리 소모는 전통적인 20억 개(2B), 40억 개(4B) 모델과 유사한 수준이라고 구글은 설명했다.

이 모델은 구글의 제미나이 나노(Gemini Nano) 모델과 동일한 기술 기반 위에 구축됐으며, 컴퓨팅 유연성을 위한 ‘MatFormer’ 아키텍처, 메모리 효율성을 높이는 ‘계층별 임베딩(Per Layer Embeddings, PLE)’, 구조적 효율성을 위한 ‘LAuReL’과 ‘AltUp’, 그리고 온디바이스 활용 사례에 최적화된 오디오·비전 인코더 등을 포함하고 있다.

또한 텍스트는 140개 언어, 멀티모달 이해는 35개 언어를 지원하며, 특히 E4B 모델은 LMArena 벤치마크에서 1300점을 넘는 성능을 기록해 100억 개 미만 파라미터 모델 중 최초로 해당 기준을 돌파했다는 게 구글의 설명이다.

젬마 모델 패밀리는 2024년 첫 출시됐으며, 보안부터 의료용, 커뮤니티 기반 모델까지 12종 이상의 특화 모델을 포함한다. 이 가운데에는 엔터프라이즈 컴퓨터 비전 모델과 일본어 전용 젬마 모델도 포함돼 있다.

젬마 3n은 6월 26일 정식 출시됐으며, 현재 허깅페이스와 캐글에서 다운로드할 수 있다. 또한 구글 AI 스튜디오를 통해 온라인 테스트도 가능하다.
dl-ciokorea@foundryco.com