메타, 차세대 멀티모달 AI 모델 ‘라마 4’ 시리즈 공개
5일 공개된 라마 4는 오픈 가중치(Open-weight) 방식으로 배포되어 외부 개발자가 자유롭게 연구하고 맞춤 활용할 수 있다. 이 모델은 메타가 처음으로 전문가 혼합(MoE) 아키텍처를 적용한 사례로, 하나의 토큰을 처리할 때 전체 파라미터 중 일부만 사용함으로써 연산 효율을 크게 높였다. 또한 텍스트와 이미지를 함께 처리할 수 있도록 초기 단계에서 정보를 결합하는 ‘초기 융합(early fusion)’ 기술을 적용해 멀티모달…