“AI 시장, 골드러시에 조정으로” 기업과 솔루션 업체 모두 속도 줄인다

AI 시장이 지나치게 과열된 탓이든, 기업 CIO들이 구매 계획을 축소하기로 결정했기 때문이든, 마이크로소프트와 오픈AI를 비롯한 주요 AI 서비스 업체가 매출 전망을 하향 조정하는 움직임이 나타나고 있다. 더인포메이션(The Information)은 여러 영업 조직이 목표를 달성하지 못한 이후 마이크로소프트가 일부 제품의 AI 영업 할당량을 줄였다고 보도하면서, 복잡한 업무를 자동화하는 AI 에이전트에서 기대한 매출에 대한 전망을 “조정하고 있는” 기업이…

지역·세대별 AI 활용 및 디지털 웰빙 격차 확대…시스코·OECD 분석

시스코와 경제협력개발기구(OECD)가 협력하여 공동으로 구축한 ‘디지털 웰빙 허브(Digital Well-being Hub)’가 기술의 위험과 이점, 그리고 AI가 사람의 삶에 미치는 영향을 심층적으로 분석한 최신 연구 결과를 공개했다. 생성형 AI가 일상에 빠르게 자리 잡는 가운데, AI 활용을 둘러싼 지역별/세대별 격차가 더욱 뚜렷해지고 있다는 분석이다. 이런 격차는 누가 AI의 혜택을 누리고, 누가 더 큰 위험을 감수하는지, 그리고 디지털 생활이…

레거시 유지보수에 발목 잡힌 IT, 서드파티로 돌파구 모색

기술 부채가 IT 조직을 마비시킬 위협 요인으로 떠오르자 상당수 CIO가 레거시 소프트웨어와 시스템 유지보수·업그레이드를 위해 서드파티 서비스 업체에 눈을 돌리고 있다. 매니지드 서비스 업체 엔소노(Ensono)가 실시한 설문조사 결과, IT 리더 100명 가운데 95명이 레거시 IT를 현대화하고 기술 부채를 줄이기 위해 외부 서비스 업체를 활용하고 있는 것으로 나타났다. 이 같은 움직임은 부분적으로 레거시 IT 비용 증가에서…

클라우드플레어 기고| AI 시대, 콘텐츠 통제권을 위한 ‘허가 기반 인터넷’으로 전환해야

과거 검색 엔진 크롤링은 웹으로 다시 트래픽을 돌려주는 이로운 구조였지만, 이제는 상황이 다르다. AI 기업들은 웹에서 수집한 콘텐츠를 학습 데이터로 활용해 요약·응답·개요 형태의 파생 콘텐츠를 제공하고, 사용자는 원본 사이트를 방문하지 않고도 필요한 정보를 얻게 된다. 이는 트래픽과 광고 수익을 감소시켜 콘텐츠 제작자의 수익 구조를 위협할 뿐 아니라, 지적 재산권 보호·데이터 출처 확보·콘텐츠 오남용 문제를 야기하는…

Closing the IT estate expectation gap

Talk to CEOs today and some common themes emerge: they’re moving faster, making bigger bets and relying more heavily on technology to execute their strategic agenda. Expectations on the IT estate have never been higher, yet many CEOs feel it’s a “black box” – essential, but difficult to see into and even harder to gauge.…

US federal software reform bill aims to strengthen software management controls

Software management struggles that have pained enterprises for decades cause the same anguish to government agencies, and a bill making its way through the US House of Representatives to strengthen controls around government software management holds lessons for enterprises too. The Strengthening Agency Management and Oversight of Software Assets (SAMOSA) bill, H.R. 5457, received unanimous…

LLMエージェントとRAGの実務的な組み合わせ方──ドキュメント検索から“自律アシスタント”へ

なぜRAGだけでは「能動的に動かない」のか

RAGの基本的な仕組みは比較的シンプルです。ユーザーからの質問を意味ベクトルに変換し、その近くに位置する社内ドキュメントやナレッジ記事を検索し、その内容をもとにLLMが回答を生成します。このアプローチにより、モデルが学習していない最新の情報や企業固有のルールに基づいた回答が可能になり、従来のFAQボットよりも柔軟な応答が実現します。

しかし、RAGはあくまで「情報を取り出してくる」能力に特化した仕組みです。ユーザーから明示的な質問が来ない限り動き出さず、「次に何をすべきか」「どんな資料を作るべきか」といったタスクレベルの提案は自発的には行いません。また、多くの場合、RAGシステムはチャットインターフェースの内側に閉じており、社内のワークフローや外部ツールとの連携は限定的です。その結果、便利ではあるものの「検索窓が少し賢くなった」程度のインパクトに留まり、業務全体の生産性を大きく変えるところまでは到達していないケースが目立ちます。

この状況を打破するためには、「情報を探して答える」から一歩進んで、「目的達成のために情報を取りに行き、使いながらタスクを進める」存在としてRAGを組み込む必要があります。ここで鍵になるのが、LLMエージェントとの統合です。

RAGをツールとして扱うエージェントの設計

RAGとエージェントを統合する最も自然な方法は、RAGをエージェントから呼び出す「一つのツール」として扱うことです。エージェントは、タスクを遂行する中で「社内ドキュメントに関連情報がないか調べる必要がある」と判断すると、RAGツールを呼び出します。RAGは質問文を受け取り、関連資料とその要約を返します。エージェントは、その結果を読み解きながら計画を更新し、次のアクションを決めていきます。

例えば、新製品の提案書を作るタスクを考えてみます。ユーザーがエージェントに対して「〇〇業界向けの提案書の叩き台を作って」と指示すると、エージェントはまずRAGを使って、過去の提案書や関連する技術資料、業界レポートを検索します。その内容を要約し、今回の提案に使えそうな要素を整理し、提案書の構成案を作ります。続いて、各セクションのドラフトを書きながら、必要に応じてRAGで追加情報を取りに行きます。最終的には、提案書の骨子と本文ドラフト、参考資料の一覧までをまとめて提示することができます。

この設計のポイントは、RAGが単独でユーザーと対話するのではなく、エージェントの「目」として機能していることです。ユーザーのゴールと全体の流れを理解しているのはエージェント側であり、RAGは必要なときに呼び出される知識リソースという位置づけになります。こうすることで、RAGが持つ「情報へのアクセス能力」と、エージェントが持つ「タスク遂行能力」が自然に統合されます。

ワークフロー全体の中でRAG+エージェントを位置づける

RAGとエージェントを組み合わせるとき、個別のチャット体験だけに注目するのではなく、業務ワークフロー全体の中でどのステップを置き換えるのかを設計する視点が重要です。たとえば、社内の稟議書作成プロセスを考えてみると、関連規程や過去の稟議書の確認、文面のドラフト作成、必要な資料の添付、関係者への説明資料の準備など、多くのステップがあります。

この一連の流れの中で、RAGは規程や過去事例の検索に強みがあります。一方、エージェントは「どの項目をどう埋めるべきか」「どの資料を添付すべきか」といったタスクの流れをコントロールすることができます。したがって、理想的には、稟議システムの画面そのものにエージェントを組み込み、ユーザーが稟議を新規作成すると、エージェントが必要項目の入力をガイドしながら、裏側でRAGを使って参考情報を探し、フィールドごとに候補を埋めていくような体験が望ましいでしょう。

また、ワークフローエンジンと連携させることで、エージェントが単なる文書作成支援を超えて、次のステップのトリガー役を担うこともできます。たとえば、ある条件を満たした稟議が提出されたら、エージェントが自動的に関連部門のレビュー担当者へ説明メモを送付し、必要に応じて質疑応答のサポートも行う、といった具合です。ここでもRAGは、過去の類似案件やQ&Aログの検索に使われ、エージェントは対話とタスク管理の両方を司る存在として動きます。

もちろん、こうした統合には注意点もあります。RAGが返す情報は常に正確とは限らず、古い資料や誤った文書が含まれる可能性もあります。そのため、エージェント側で「情報の新しさ」や「社内での信頼度」を判断するロジックを組み込んだり、人間のレビューを挟むポイントを明示したりすることが重要です。また、RAGにどの範囲の社内文書を読み込ませるかという権限設計も、セキュリティと利便性のバランスを左右します。

RAGとエージェントの組み合わせは、単なる技術的なトリックではなく、企業内の情報フローを再設計するための強力なレバーです。ドキュメント検索の延長線上にとどまらず、「この組織で人が日々行っている情報収集と意思決定プロセスを、どこまでエージェントに肩代わりさせるか」を考えることが、真の価値を引き出す鍵になります。


Read More from This Article: LLMエージェントとRAGの実務的な組み合わせ方──ドキュメント検索から“自律アシスタント”へ
Source: News