Closing the IT estate expectation gap

Talk to CEOs today and some common themes emerge: they’re moving faster, making bigger bets and relying more heavily on technology to execute their strategic agenda. Expectations on the IT estate have never been higher, yet many CEOs feel it’s a “black box” – essential, but difficult to see into and even harder to gauge.…

US federal software reform bill aims to strengthen software management controls

Software management struggles that have pained enterprises for decades cause the same anguish to government agencies, and a bill making its way through the US House of Representatives to strengthen controls around government software management holds lessons for enterprises too. The Strengthening Agency Management and Oversight of Software Assets (SAMOSA) bill, H.R. 5457, received unanimous…

LLMエージェントとRAGの実務的な組み合わせ方──ドキュメント検索から“自律アシスタント”へ

なぜRAGだけでは「能動的に動かない」のか

RAGの基本的な仕組みは比較的シンプルです。ユーザーからの質問を意味ベクトルに変換し、その近くに位置する社内ドキュメントやナレッジ記事を検索し、その内容をもとにLLMが回答を生成します。このアプローチにより、モデルが学習していない最新の情報や企業固有のルールに基づいた回答が可能になり、従来のFAQボットよりも柔軟な応答が実現します。

しかし、RAGはあくまで「情報を取り出してくる」能力に特化した仕組みです。ユーザーから明示的な質問が来ない限り動き出さず、「次に何をすべきか」「どんな資料を作るべきか」といったタスクレベルの提案は自発的には行いません。また、多くの場合、RAGシステムはチャットインターフェースの内側に閉じており、社内のワークフローや外部ツールとの連携は限定的です。その結果、便利ではあるものの「検索窓が少し賢くなった」程度のインパクトに留まり、業務全体の生産性を大きく変えるところまでは到達していないケースが目立ちます。

この状況を打破するためには、「情報を探して答える」から一歩進んで、「目的達成のために情報を取りに行き、使いながらタスクを進める」存在としてRAGを組み込む必要があります。ここで鍵になるのが、LLMエージェントとの統合です。

RAGをツールとして扱うエージェントの設計

RAGとエージェントを統合する最も自然な方法は、RAGをエージェントから呼び出す「一つのツール」として扱うことです。エージェントは、タスクを遂行する中で「社内ドキュメントに関連情報がないか調べる必要がある」と判断すると、RAGツールを呼び出します。RAGは質問文を受け取り、関連資料とその要約を返します。エージェントは、その結果を読み解きながら計画を更新し、次のアクションを決めていきます。

例えば、新製品の提案書を作るタスクを考えてみます。ユーザーがエージェントに対して「〇〇業界向けの提案書の叩き台を作って」と指示すると、エージェントはまずRAGを使って、過去の提案書や関連する技術資料、業界レポートを検索します。その内容を要約し、今回の提案に使えそうな要素を整理し、提案書の構成案を作ります。続いて、各セクションのドラフトを書きながら、必要に応じてRAGで追加情報を取りに行きます。最終的には、提案書の骨子と本文ドラフト、参考資料の一覧までをまとめて提示することができます。

この設計のポイントは、RAGが単独でユーザーと対話するのではなく、エージェントの「目」として機能していることです。ユーザーのゴールと全体の流れを理解しているのはエージェント側であり、RAGは必要なときに呼び出される知識リソースという位置づけになります。こうすることで、RAGが持つ「情報へのアクセス能力」と、エージェントが持つ「タスク遂行能力」が自然に統合されます。

ワークフロー全体の中でRAG+エージェントを位置づける

RAGとエージェントを組み合わせるとき、個別のチャット体験だけに注目するのではなく、業務ワークフロー全体の中でどのステップを置き換えるのかを設計する視点が重要です。たとえば、社内の稟議書作成プロセスを考えてみると、関連規程や過去の稟議書の確認、文面のドラフト作成、必要な資料の添付、関係者への説明資料の準備など、多くのステップがあります。

この一連の流れの中で、RAGは規程や過去事例の検索に強みがあります。一方、エージェントは「どの項目をどう埋めるべきか」「どの資料を添付すべきか」といったタスクの流れをコントロールすることができます。したがって、理想的には、稟議システムの画面そのものにエージェントを組み込み、ユーザーが稟議を新規作成すると、エージェントが必要項目の入力をガイドしながら、裏側でRAGを使って参考情報を探し、フィールドごとに候補を埋めていくような体験が望ましいでしょう。

また、ワークフローエンジンと連携させることで、エージェントが単なる文書作成支援を超えて、次のステップのトリガー役を担うこともできます。たとえば、ある条件を満たした稟議が提出されたら、エージェントが自動的に関連部門のレビュー担当者へ説明メモを送付し、必要に応じて質疑応答のサポートも行う、といった具合です。ここでもRAGは、過去の類似案件やQ&Aログの検索に使われ、エージェントは対話とタスク管理の両方を司る存在として動きます。

もちろん、こうした統合には注意点もあります。RAGが返す情報は常に正確とは限らず、古い資料や誤った文書が含まれる可能性もあります。そのため、エージェント側で「情報の新しさ」や「社内での信頼度」を判断するロジックを組み込んだり、人間のレビューを挟むポイントを明示したりすることが重要です。また、RAGにどの範囲の社内文書を読み込ませるかという権限設計も、セキュリティと利便性のバランスを左右します。

RAGとエージェントの組み合わせは、単なる技術的なトリックではなく、企業内の情報フローを再設計するための強力なレバーです。ドキュメント検索の延長線上にとどまらず、「この組織で人が日々行っている情報収集と意思決定プロセスを、どこまでエージェントに肩代わりさせるか」を考えることが、真の価値を引き出す鍵になります。


Read More from This Article: LLMエージェントとRAGの実務的な組み合わせ方──ドキュメント検索から“自律アシスタント”へ
Source: News

From oversight to intelligence: AI’s impact on project management and business transformation

For CIOs, the conversation around AI has moved from innovation to orchestration, and project management, long a domain of human coordination and control, is rapidly becoming the proving ground for how intelligent systems can reshape enterprise delivery and accelerate transformation. In boardrooms across industries, CIOs face the same challenge of how to quantify AI’s promise…

“방어를 넘어 복구가 핵심” IBM·파운드리, 사이버 회복탄력성 전략 주제로 무료 웨비나 개최

최근 랜섬웨어를 비롯한 사이버 공격이 기업의 핵심 리스크로 부상하고 있다. 공격의 빈도와 정교함이 높아지면서 침입 차단에만 의존한 기존 보안 체계의 한계가 지적되고 있다. 이에 따라 공격 발생 후 얼마나 신속하게 탐지하고 복구하느냐가 비즈니스 연속성 확보의 핵심 요소로 떠오르고 있다. 이번 웨비나는 사이버 보안과 공격 이후 복원 체계를 포괄하는 사이버 회복탄력성(Cyber Resilience) 개념을 다룬다. IBM 스토리지…

AI는 은유에 약하다? 이탈리아 연구진 “시 형식 프롬프트가 AI 보안 장치 무력화”

시는 때때로 인간에게도 해석하기 어려운 예술 형식으로 여겨지는데, AI 역시 이러한 시적 표현에 걸려 넘어지고 있는 것으로 보인다. 이탈리아의 윤리적 AI 기업 덱스AI(DexAI) 산하 이카로 랩(Icaro Lab), 로마 사피엔차대학교와 피사의 산탄나고등연구원 연구진은 시 형태의 프롬프트가 주어질 경우 AI가 안전장치를 벗어나 무기급 플루토늄 제조법이나 원격 접근 트로이 목마(RAT) 제작 방식 같은 위험한 정보를 설명하는 사례가 나타났다고…