watsonx Assistantからwatson DiscoveryとChatGPTを呼び出してRAGを構築してみた！（Part1）

# ChatGPT # Watson # watsonx # 生成AI

投稿者：泉

こんにちは！
日本情報通信の泉です。

お客様から社内情報に対して単純にキーワード検索ではなく、生成AIを活用してより高度で示唆に富んだ回答をしてほしいといったようなご相談をよくお伺いします。
この社内情報（生成AIが学習していないデータ）に基づいて生成AIに回答させるために、RAG（Retrieval-Augmented Generation）という方法を利用することができます。
そこで実際にIBM社のチャットアプリであるwatsonx Assistantと検索エンジンのwatson Discovery、OpenAI社の生成AIであるChatGPTを利用して実際にRAGを構築してみようと思います！（2回のTechBlogに分けてご紹介します。）

■RAGとは

RAGとは生成AIが学習していないデータから情報を検索し、回答を生成するAIの自然言語処理の技術のことを指します。RAGには以下のようなメリットがございます。

メリット１：LLMだけでは回答できない情報を得ることができる
専用の知識ベースで検索を実行するため、LLMだけを使った回答よりもより専門的な回答や最新情報を提供することが可能になります。

メリット２：質問の文脈を踏まえた回答を得られる
検索とLLMを組み合わせることで多くの情報源から情報を収集し、文書検索と比較して人間のような自然な回答を生成することができます。

メリット３：モデル学習に必要なデータ準備と作業労力を削減
LLMの追加学習には大量のデータとリソースが必要ですが、RAGは自社ドキュメント/自社データが利用可能なためモデルへ学習データを取り込む必要がなく、労力やリソースが削減できます。

■RAGの構成図と質問から応答が返ってくるまでの流れ

今回構築するRAGの構成図は以下の通りになります。

質問から応答が返ってくるまでの流れは以下の通りとなります。
※今回は弊社HPのSAS導入事例について質問してみます。
※SASとはSAS社が提供する統計解析や機械学習＆AIが利用可能なデータ分析ソリューションです。

①弊社HPのSAS導入事例についてwatsonx Assistantに質問を入力
②入力した質問を元にwatson DiscoveryにクロールしているSAS導入事例の情報を抽出
③SAS導入事例の情報をwatsonx Assistantに連携
④watsonx AssistantがSAS導入事例の情報とプロンプト（生成AIに出す命令文）をChatGPTに連携
⑤ChatGPTが導入事例の情報とプロンプトを元に回答を生成し、watsonx Assistantに連携
⑥watsonx Assistantで出力された内容を見て、質問者がSAS導入事例について把握

■構築手順

それでは早速RAGを構築していこうと思います！
今回はRAGを構築する上で以下の作業が必要になります。
※本TechBlogでは作業内容の手順3までを実施します。

１．ChatGPTのAPIkey発行
２．watson Discoveryで弊社HPの情報をクロール
３．watson DiscoveryのProject id・APIkey・URLの取得　
４．watsonx Assistantの環境作成
５．watsonx AssistantからChatGPTへの接続設定
６．watsonx Assistantからwatson Discoveryへの接続設定
７．watsonx Assistantのアクション設定

１．ChatGPTのAPIkey発行

ChatGPT側の作業としてAPIkeyを発行する必要が有ります。
APIkeyを発行するためにChatGPTにログイン後、”SETTINGS”→”Your profile”からAPIkeyを発行します。
※後の手順で使用するためメモします。
※予めChatGPTのアカウントを作成しておく必要が有ります。