지식 그래프로 AI 환각 잡는다…러브레이스, LLM 신뢰성 강화 도전

AI 에이전트 도입의 장애 요인으로 지적돼 온 컨텍스트 부족 문제에 대해 스타트업 러브레이스가 해결 방안을 제시했다.

전 구글 클라우드 AI 책임자 출신이나 러브레이스의 공동 창업자 앤드루 무어는 해법으로 자사의 신규 플랫폼 ‘엘리멘탈(Elemental)’을 제시했다. 엘리멘탈은 지식 그래프를 구축하는 AI 기반 시스템으로, 경쟁 제품 대비 비용은 낮추고 속도와 정확성은 높였다고 무어는 설명했다. 또한 이 플랫폼은 대규모 언어 모델(LLM)이 정확한 컨텍스트에 기반해 작동하도록 지원하는 동시에, 기업이 의사결정에 사용된 정보의 출처를 명확히 추적할 수 있도록 완전한 감사 기능을 제공한다.

무어는 “에이전트가 안전이 중요한 추론을 수행할 때, 기존 챗봇 방식만으로는 충분하지 않다”라며 “추론 과정이 제대로 조율되도록 보장하는 별도의 수단이 필요하다”라고 설명했다.

문제의 중요성은 수치로도 확인된다. 스탠퍼드대학교가 4월 중순 발표한 ‘2026 AI 인덱스’에 따르면, 주요 26개 AI 모델의 환각 발생률은 22%에서 94%에 이른다.

무어에 따르면 엘리멘탈은 기업의 자체 데이터를 기반으로 지식 그래프를 구축한다. 이 과정에서 개체와 관계, 시간 및 위치 속성을 식별하고, 정보의 원 출처까지 함께 기록한다.

예를 들어 향후 일주일 동안 호르무즈 해협을 통과할 500척의 선박 중 일부가 이란 무기를 실었을 가능성이 있는 상황을 가정할 수 있다. 이때 어떤 선박을 선별해 검사할지 판단하는 것이 과제다.

러브레이스에 따르면, 엘리멘탈은 선박과 선장의 이력, 화물 목록, 시장 상황, 날씨 조건 등을 종합적으로 분석해 해당 선박이 정상적인 위치에 있는지, 또는 의심스러운 행동을 보이는지를 판단할 수 있다.

무어는 엘리멘탈이 LLM을 대체하는 기술이 아니라 기존 LLM의 성능을 향상시키는 보완 솔루션이라고 강조했다. 지식 그래프 구축에는 LLM이 활용되지만, 그래프를 실제로 사용하는 단계에서는 전통적인 코딩 방식이 적용된다.

지식 그래프, AI에 컨텍스트 제공

미국 IT 시스템 통합 기업 인사이트(Insight)의 공공 부문 CTO 카름 탈글리엔티는 지식 그래프가 AI에 제공하는 가치에 대해 설명했다.

탈글리엔티는 “지식이 지식 그래프에 저장되고, 이를 통해 컨텍스트 설정이나 질의 응답, 결과 생성에 활용되면, 확률 기반으로 작동하는 LLM도 보다 일관된 방식으로 운영할 수 있다”라고 말했다.

컨설팅 기업 콘스텔레이션 리서치(Constellation Research)의 설립자이자 수석 애널리스트 레이 왕은 지식 그래프가 다양한 정보 소스를 통합하고 LLM에 더 나은 컨텍스트를 제공한다고 강조했다. 그는 “오류를 줄이고 환각 문제를 완화하며, 데이터셋을 확장하는 데 도움이 된다”라고 분석했다.

지식 그래프는 부가적으로 LLM에 전달해야 하는 데이터 양을 크게 줄이는 효과도 있다. 무어에 따르면 복잡한 질의는 수천만 개의 토큰을 사용할 수 있지만, 엘리멘탈은 이를 약 1만 개 수준으로 줄일 수 있다.

러브레이스는 별도로 ‘요타그래프(YottaGraph)’라는 컨텍스트 엔진도 운영하고 있다. 이 시스템은 공개 및 라이선스 데이터를 활용해 고객의 지식 그래프를 보강한다. 현재 약 1조 개에 가까운 사실 데이터를 보유하고 있으며, 매주 약 10억 개씩 증가하고 있다. 금융 정보 관련 질의에 한해 무료로 사용할 수 있는 실험적 프리뷰 형태로 제공된다.

이 같은 흐름은 ‘컨텍스트 엔지니어링’으로 불리는 새로운 접근의 일환이다. 이는 기업이 LLM에 더 나은 데이터를 제공하는 데 초점을 맞추는 전략으로, 지식 그래프가 핵심 요소로 자리 잡고 있다. 데이터엠 인텔리전스(DataM Intelligence)에 따르면, 글로벌 지식 그래프 시장은 2025년 13억 4,000만 달러(약 1조 9,000억 원)에서 2033년 190억 달러(약 27조 원) 이상으로 성장할 전망이다. 연평균 성장률은 약 31%에 달한다.

“확장성 측면에서 차별화”

러브레이스는 초기 공략 대상으로 정보기관과 금융 서비스 분야를 겨냥하고 있으며, 이는 팔란티어(Palantir)와 네오4j(Neo4j) 등 기존 강자들과의 경쟁을 의미한다.

무어는 “우리는 초기 팔란티어와 자주 비교된다”라며 “하지만 초당 수십만 건의 새로운 데이터를 기반으로 추론을 수행하는 능력은 현재 팔란티어 인프라로는 감당하기 어렵다”라며 팔란티어와 AI 모델 공급업체들 역시 잠재적인 협력 파트너가 될 수 있다고 덧붙였다.

마이크로소프트(MS)의 기술 펠로우이자 오픈AI 전 기술 자문인 R.V. 구하는 이 시장이 이미 경쟁이 치열한 분야라고 짚었다. 다만 그는 지식 그래프 스키마를 구축하는 과정이 그동안 큰 병목이었다고 지적했다.

구하는 “무어와 그의 팀은 이를 해결하기 위해 매우 영리한 접근 방식을 적용했고, 그 결과 뛰어난 확장성을 확보했다”라며 “현재로서는 유사한 기술을 다른 기업에서 거의 보지 못했지만, 12개월 내 업계 표준으로 자리 잡을 가능성이 크다”라고 전망했다.
dl-ciokorea@foundryco.com