AI 에이전트는 왜 RAG가 필요한가…장기 기억이 만드는 성능 차이
AI 에이전트는 작업과 관련된 맥락 정보를 많이 확보할수록 더 뛰어난 성능을 발휘한다. 하지만 에이전트의 메모리에는 한계가 있다. 에이전트가 기반으로 하는 대규모 언어 모델(LLM)은 상태를 유지하지 않는(stateless) 구조이기 때문이다. 메모리가 한계에 이르면 에이전트는 오류를 일으키거나 응답이 멈추고, 사실과 다른 내용을 생성하기도 한다. 메모리를 잘라내거나 압축하는 기법으로 이를 어느 정도 보완할 수는 있지만, 근본적인 해결책은 아니다. 이…

