“AI 답변 근거 추가 더 쉽게”··· 앤트로픽, 출처 검증 기능 ‘사이테이션’ 출시

사이테이션은 클로드가 답변 생성에 사용한 정확한 문장과 구절의 출처를 제공해주는 기능이다. 앤트로픽 API와 구글 클라우드의 버텍스 AI에서 바로 이용이 가능하다.

앤트로픽에 따르면, 사이테이션의 핵심 장점은 AI 응답의 검증 가능성을 크게 향상시키는 것이다. 사이테이션 이전에는 특정 출처를 원할 때 “답변할 때 반드시 출처를 밝히세요”, “사용한 정보의 페이지 번호를 알려주세요”, “어떤 문서의 어느 부분을 참고했는지 명시하세요” 구체적인 지시문(프롬프트)을 일일이 작성해야 했는데, 그 과정을 사이테이션 기능으로 대체할 수 있다는 것이다. 사이테이션을 이용하면 개발자는 컨텍스트 창에 참고 문서를 추가하기만 하면 자동으로 관련 출처를 인용한다고 설명했다.

앤트로픽은 사이테이션의 주요 활용 사례로 긴 문서의 핵심 내용 요약, 금융 문서 분석, 고객 지원 등을 제시했다. 특히 각각의 경우에 원본 출처를 명확히 제공할 수 있다는 점을 강조했다.

이미 톰슨로이터스(Thomson Reuters)는 이 기능을 직접 개발한 법률 AI 플랫폼 ‘코카운슬’에 도입했다고 한다. 코카운슬의 제품 책임자인 제이크 헬러는 “사이테이션 기능이 출처 인용과 원본 문서 연결을 훨씬 쉽게 만들어주었으며, AI 생성 콘텐츠에 대한 신뢰도를 높이는 데 큰 도움이 된다”고 앤트로픽 블로그를 통해 밝혔다.

금융 기업 엔덱스(Endex)도 같은 블로그를 통해 사이테이션 도입 후 환각 현상이나 잘못된 형식과 내용으로 출처를 표시하는 문제가 10%에서 0%로 감소했으며, AI가 답변할 때 인용하는 문서의 수가 20% 증가했다고 전했다.

앤트로픽은 사이테이션이 클로드 3.5 소넷과 클로드 3.5 하이쿠 모델에서 사용 가능하며, 표준 토큰 기반 가격 정책을 따른다고 밝혔다. 이때 AI가 문서를 읽고 분석하는 과정(입력 토큰)에는 비용이 발생하지만, AI가 답변할 때 원본 문서의 내용을 그대로 인용하는 부분(출력 토큰)은 무료라고 설명했다.
[email protected]