【図解で解説】AIエージェント、RAG、LLMがどう動いているかを調べて流れを図にまとめてみた

このブログはTeam xG Advent Calendar 2025 10日目の記事になります。

こんにちは！D&A事業本部の寺内です。
10月から生成AIを扱う部署に配属されました、今回が初めてのブログ投稿になります！
配属当初、AIエージェント、RAG、LLMなど、言葉は聞くけれど、具体的にどう動いているのかあまりイメージしづらいのが悩みでした。そこで今回は、最近よく聞くAIエージェント、RAG、LLMの定義について調べ、ユーザーとのやり取りの流れを図解してまとめてみました。
同じような悩みを持っている方の助けになれば幸いです！

LLM(大規模言語モデル)とは？

LLM(Large Language Models)とは、ChatGPTやGeminiといったAIチャットボットなどに用いられている生成AIの頭脳に当たる部分です。LLMだけでは過去に学習したデータの中にあることしか答えられず、純粋な知識と推論能力だけで回答する仕組みです。

LLMが使われているChatGPTやGeminiがWebサイトを検索しているのはなぜ？

LLMであるChatGPTやGeminiがGoogle検索（またはWeb検索）ができるのは、LLMそのものが持つ能力ではなく外部ツール呼び出しとしてWebサイトを検索するという機能がアプリケーションに組み込まれているからです。

RAG(Retrieval-Augmented Generation)とは

RAG (Retrieval-Augmented Generation) とは、LLMに外部の知識検索機能を組み合わせることで、その応答能力を強化する技術です。RAG自体はLLMのような生成AIモデルではなく、LLMのような生成AIを強化するための仕組みです。

RAGを使ってできること、使われているもの

LLMが学習データに含まれていない最新の情報や、特定の企業の独自データ（社内文書など）を回答の根拠として利用できるようにします。これにより、LLMは提供された資料を参照しながら、より正確で信頼性の高い、根拠に基づいた回答を生成することができます。
RAGが使われているものの例として、NotebookLMや社内FAQのチャットボットなどがあげられます。

RAGがない時、ある時

もし社内FAQシステムを構築する際に、RAGの機能を持たないLLMだけで構築すると、LLMは一般的な知識しか持っていないため正しく答えることができなくなってしまいます。

RAGがあると、社内文書に基づいて回答することができるので、社内のトラブル対応先などの情報を回答することができます。また、情報源を示すことができるのでFAQの信頼性を高く保ち、ハルシネーション（AIがつくもっともらしい嘘）を低減することにも効果的です。

AIエージェントとは？

AIエージェントとは、従来のチャットボットのように会話ができるだけではなく、行動まで完結できるシステムのことです。エージェントが自律的に状況認識、意思決定を行い、WebサイトやRAGを用いた検索、他のエージェントやツール（APIなど）の呼び出しを行うことで、人間の介入を最小限に抑えて与えられた指示を達成することができます。

どんな場面で使うことができる？

• カスタマーサポート
  RAGを用いて顧客からの質問に答えるだけでなく、ユーザーの注文履歴をデータベースから検索し、配送状況の確認や返品対応などを行うことができます。
• 日程調整
  参加者全員の空き情報をカレンダーから確認、メールの送信まで行うことができます。

Webサイトから要約を作成して上司にメールを送るエージェントとの会話と推論の流れ

まとめ

さいごに

今回は、AIエージェント、RAG、LLMの定義を調べ、それぞれの処理の流れを図解を用いて整理してみました！LLMがユーザーの質問に対して回答する技術、RAGがLLMに特定のデータを参照させる技術、AIエージェントはそれらの技術を用いた上で、質問の回答だけではなく指示を達成することができる仕組みであることが分かりました。
理論については踏み込まず、大枠の流れだけを追ったので記載できていない部分もありますが、生成AIについて同じような疑問を持っている方の疑問解消をお手伝いできれば幸いです。
最後までご覧いただき、ありがとうございました。