Technical Blog テクニカルブログ
  1. HOME
  2. テクニカルブログ
  3. 生成AI「watsonx.ai」を新人が使ってみた

生成AI「watsonx.ai」を新人が使ってみた

投稿者:土橋

こんにちは!

日本情報通信の土橋です。

2024年10月からwatsonx.aiを扱う部署に配属されました。初めてのブログ投稿ですが、よろしくお願いいたします!

近年、生成AI技術の発展により、多くのお客様から生成AIへの関心が寄せられています。弊社ではIBM社の生成AIであるwatsonx.aiを取り扱っています。

そこで、今回はwatsonx.aiを新入社員の視点から使ってみた感想や、watsonx.aiの研修で学んだことについてご紹介します。

watsonx.aiを使ってみて感じたこと

■そもそもwatsonx.aiとは?

watsonx.aiとはIBM社の生成AI製品です。

watsonx.aiではプロンプト・ラボという機能において、プロンプトというAIへの指示文を試すことができます。

プロンプト・ラボにはチャット・構造化・フリーフォームという3つの入力フォームがあり、用途に合わせて入力フォームを切り替えて使うことができます。

今回はwatsonx.aiの中でも、プロンプト・ラボの3つの入力フォームを使ってみた感想をお伝えします。

■チャット

チャットでは、会話形式でAIにプロンプトを与えることができます。

以下は、チャットで ” 筋トレ初心者が行うべきことは何ですか? ” とプロンプトを入力した結果です。

AIの出力結果として、筋トレ初心者が行うべきこと5つと参考資料を得ることができました!

このように、チャットではAIがわかりやすいように返答をまとめてくれるのが特徴です。

そのため、わからないことを聞くときにはこのチャット形式が適していると感じました。

■構造化

構造化では、AIに命令文と例を与えることができます。

以下は、構造化で ” 文章を読み取り、文章内の感情が「ポジティブ」か「ネガティブ」に分類してください。 ” とプロンプトを入力し、いくつかの例とテスト文章を与えた結果です。

例を与えたことにより、テスト文章の感情を分類することができました!

このように、構造化では与えた例を参考にして回答を生成することができます。

また、命令文と同時に回答例を生成AIに与えることで、より良い回答を得る手法を「Few shotプロンプティング」といいます。

構造化形式では、このFew shotプロンプティングを行いやすいため、分類や抽出作業に向いていると感じました。

■フリー・フォーム

フリー・フォームは、チャットや構造化とは異なり、プロンプトの入力構成や回答の出力構成が決まっていません。

そのため、フリー・フォームでは、ユーザーは自由な構成でプロンプトを入力することができます。

以下は、フリー・フォームで ” 情報を利用して、配属部署の全員に対して行う自己紹介の文章を作成してください。 ” とプロンプトを入力し、「情報」の欄に自己紹介する人の特徴を記入した結果です。

AIの出力結果として、 情報 を利用した自己紹介文を得ることができました!

このように、フリー・フォームではユーザーが好きなようにプロンプトの入力をすることができ、高い自由度でAIを利用できるのが特徴です。

今回の例のように、AIに情報を与え、その情報を基にした生成結果が欲しい場合、フリー・フォーム形式が適していると感じました。

また、回答の出力構成を指定できるため、メールや記事の作成など、特定の文章構造を求められる場合にも便利だと感じました。

■watsonx.aiを使ってみた感想

watsonx.aiのプロンプト・ラボを使ってみた感想のまとめです。

  • チャット形式は、わからないことを知りたいときに適している。
  • 構造化形式は、分類や抽出作業に向いている。
  • フリー・フォーム形式は、AIに情報を与えて生成結果を得たい場合や、メール文などの文章作成に適している。

watsonx.aiは、用途に合わせて入力フォームを使い分けることができます。

そのため、生成AIをより効率的に利用することができ、大変便利だと感じました。

watsonx.aiの研修で学んだこと

10/16(水)にIBMビジネスパートナー・コミュニティである愛徳会主催の「プロンプト・エンジニアリング入門」を受講しました。

プロンプト・エンジニアリングとは、AIから望ましい応答を得るためにプロンプトを書くスキルのことです。

IBMビジネスパートナー・コミュニティである愛徳会主催の「プロンプト・エンジニアリング入門」では、watsonx.aiを使って、プロンプトを改善することでより良い回答を得る方法を学びました。

今回は研修内容に基づいて、テーマを「千葉県の魅力」とし、プロンプトを改善して得られた結果をお伝えしようと思います。

watsonx.aiに千葉県の魅力を伝えてもらおう

① 簡単なプロンプトを試す

フリー・フォーム形式で、以下のプロンプトを入力します。

出力結果:

千葉県の特産品だけ出力されてしまいました。

また、文章の後半は、ピーナッツ最中が羅列する意味不明な文章になっています。

このように、簡単なプロンプトでは、ユーザーが求めている出力結果を得づらいことがわかります。

② プロンプトの入力構成を変更する

AIに指示内容が伝わりやすいように、タスクごとに切り分けたプロンプトに変更します。

AIへの指示を「### 指示:」、ユーザーの要望を「### 入力:」、AIの出力結果を「### 応答:」とします。

入力構成を変更したプロンプトは以下の通りです。

出力結果:

①の出力結果と比べて、回答内容が大幅に改善したことがわかります。

しかし、最終行は回答途中で途切れてしまっています。

これは、出力が最大文字数に達したためです。次の手順では、出力文字数などのモデルの設定を変更していきます。

③ モデル パラメータを変更する

モデルの設定を変更できる場所を「モデル パラメータ」といい、様々な機能を変更することができます。

「デコード」では、AIの回答の表現を調整することができます。

「Greedy」は、質問に対して正確に回答を生成します。同じ質問には常に同じ回答を返し、回答の生成が速いです。

「Sampling」は、質問に対して創造的な回答を生成します。Greedyとは異なり、同じ質問でも様々な回答を得ることができますが、回答の生成速度は遅いです。

「反復ペナルティ」は、回答内で同じ内容が繰り返して出力されることを制御します。①の回答のように、同じ言葉を繰り返している結果が得られたときは、反復ペナルティの数値を変えることで改善が可能です。値が大きいほど同じ言葉の繰り返しを抑制し、多様で変化にとんだ回答になります。

さらに、モデルパラメータでは、回答の停止基準を定めることができます。

「シーケンスの停止」では、文字列を指定すると、その文字列が生成されたときに自動で出力を抑止することができます。

また、「最小トークン数」と「最大トークン数」では、出力の最小文字数と最大文字数を設定することができます。

今回は、反復ペナルティを「1.3」に、最小トークン数を「200」、最大トークン数を「1000」に変更します。

出力結果:

②の出力結果と比べて、回答の文体が変化し、文字数が増えたことがわかります。

一方、回答内容をみると不確かな情報が含まれています。

回答の「#1富士山のような山」に関しては、千葉県に鋸山は実在しますが、富士山のような山としては知られていません。また、「#5花の海」も不明確な情報です。

このように、AIは事実ではないもっともらしい嘘を生成することがあります。これを「ハルシネーション」といいます。

次の手順では、ハルシネーションを抑制するために、AIに事前に情報を与えていきます。

④ プロンプトに「文脈」として情報を与える

千葉県についての情報を事前にAIに提供するために、プロンプトに「文脈」を加えます。

文脈には、様々な千葉県の情報を記入しておきます。

文脈を加えたプロンプトの内容は以下の通りです。

また、反復ペナルティは「1」に戻してから実行します。

出力結果:

文脈として与えた情報を利用した文章になり、回答がかなり改善されました!

しかし、回答を詳しく確認すると、文脈にはない「サッカーチーム」に関する情報が含まれてしまっています。

また、文章の語尾が「です・ます調」に統一されていない箇所もあり、完全な回答とは言えません。

次の手順では、文脈として提供した情報のみを使用した回答を得られるようにしていきます。

⑤ 制約を加えたプロンプトに変更する

文脈として与えた情報以外は回答しないようにするために、プロンプトの指示欄に「知識にないことは答えないでください。」と書き加えます。

変更後のプロンプトは以下の通りです。

出力結果:

「知識にないことは答えないでください。」と追加したことで、文脈にある情報だけを使った回答を得ることができました!

また、回答文章の語尾も「です・ます調」に統一されたことがわかります。

このように、プロンプトを少し変更するだけで、要望通りの回答を得たり、思わぬ改善結果を得ることができます。

■研修で学んだこと

watsonx.aiの研修で学んだことのまとめです。

  • 生成AIに要望を分かりやすく伝えるためには、「指示」「入力」「応答」とタスクを分けて記入するのが良い。
  • 生成AIはハルシネーションを起こすため、「知識にないことは答えないでください」と指示に加えることでハルシネーションを抑えることができる。
  • プロンプトの書き方を少し変えるだけで回答の表現を自由に調整できる。

研修を通して、生成AIからより良い結果を得るためには、プロンプトの書き方を工夫することが重要だと学びました。

まとめ

今回は、watsonx.aiを新入社員の視点から使ってみた感想や、watsonx.aiの研修で学んだことについてご紹介しました。

watsonx.aiの使いやすさを実感することができ、プロンプト・エンジニアリングの重要性を学ぶことができました。

ぜひ一度watsonx.aiを試してみてはいかかでしょうか。

ページのトップへ