Technical Blog テクニカルブログ

HOME
テクニカルブログ
watsonx OrchestrateにGoogle Geminiをつないでみた！

2025年12月6日

テクニカルTIPS データサイエンス

watsonx OrchestrateにGoogle Geminiをつないでみた！

# AIエージェント # Gemini # watsonx

投稿者：泉

こんにちは！
D&A事業本部の泉です。
本TechBlogはTeam xG Advent Calendar 2025 6日目の記事になります。

最近、ビジネスにおける生成AI活用が進む中で、watsonx OrchestrateのようなAIエージェント構築・運用プラットフォームの導入を検討するケースが増えてきています。しかし、活用にあたって「標準で提供されているLLMだけでは、コストや精度の面で要件を満たしきれない」「特定のタスクに強い最新のモデルを使いたい」と悩んでいる方も多いのではないでしょうか。
そんな中、用途に合わせて柔軟にモデルを切り替えたいといった要望もあるかと思います。そこで本TechBlogでは、watsonx Orchestrate ADKのAI Gateway機能を利用して、watsonx OrchestrateとGoogleのモデルであるGeminiを接続し、利用できる環境を構築してみたいと思います。

AI Gatewayとは

AI GatewayとはADKを使用して外部プロバイダーが提供するLLMを導入する仕組みです。有償の高精度モデルを使えるので、より高品質なエージェントを構築することが可能になります。

また、Model Policy を設定して複数のモデルにリクエストをルーティングすることも可能です。
・Load balancing : 一定の割合で複数のモデルに振り分ける
・Fallback : あるモデルが利用不可の場合に、別のモデルを利用する
・Single : 単一のモデルを使うが、指定したエラーの場合にリトライする

構成図

watsonx OrchestrateのAI Gateway機能を利用した、今回の全体構成イメージ図は以下のようになります。

実装手順

ここから実際にwatsonx Orchestrate ADKのAI Gatewayを使用してwatsonx OrchestrateとGeminiを接続していきたいと思います。

■環境準備

今回Pythonの実行環境にはVisual Stadio Codeを使用します。
まずは以下のコマンドを実行し、仮想環境を構築します。

python -m venv venv

続いて作成した仮想環境をアクティベートします。

.\venv\Scripts\activate

■ADKのインストール

ADKとはAIエージェントを開発するためのオープンソースのフレームワークです。ADKを用いることで、より細かなエージェントの設定を行ったり、外部のLLMとの連携を設定することができます。
なお、ADKの詳細については12月中に別のBlogで解説する予定ですので、そちらを併せてご参照いただければと思います。

それではまず初めにwatsonx Orchestrate ADKをインストールします。

pip install --upgrade ibm-watsonx-orchestrate

上記コマンド実行後、インストールの確認をします。
ADKのバージョン情報が出力されればインストール成功です。

orchestrate --version

■環境への接続

続いてSaaS環境で動作しているwatsonx Orchestrateに接続します。

１．サービスインスタンスURLの取得

watsonx Orchestrateの右上にあるアカウントアイコンをクリックし、”設定”→”APIの詳細”の順に選択すると”サービスインスタンスURL”が表示されるのでコピーします。

２．環境の追加

取得したサービスインスタンスURLをもとに環境を追加します。
<environment-name>には任意で環境名を入力し、<service-instance-url>には手順１でコピーしたサービスインスタンスURLを入力します。

orchestrate env add -n <environment-name> -u <service-instance-url>

３．環境のアクティベート

追加した環境をアクティベートします。
※実行するとAPIkeyが求められるので、IBMCloudのコンソールから取得できるAPIkeyを入力します。

orchestrate env activate <environment-name>

４．アクティベートの確認

最後に環境がアクティベートされているかを確認します。
環境が追加され、activeになっていれば成功です。

orchestrate env list

■Geminiを追加

ここから実際にwatsonx OrchestrateとGeminiを接続していきたいと思います。
今回はGemini 2.5 Pro を接続してみます。

１．Gemini APIkeyの取得

Google Cloudの「APIとサービス」→「認証情報」のページからAPIKeyを作成します。

２．YAMLファイルの作成

以下のyamlファイルをディレクトリ上に配置します

spec_version: v1
kind: model
name: virtual-model/google/gemini-2.5-pro
display_name: Google Gemini 2.5 Pro
description: Google Gemini 2.5 Pro model
tags:
  - google
  - gemini
  - gemini-2.5
model_type: chat
provider_config: {}

３．接続の作成

以下のコマンドを順に実行します。
google_api_keyには手順１で取得したAPIkeyを入力します。

orchestrate connections add -a google_creds

orchestrate connections configure -a google_creds --env draft -k key_value -t team

orchestrate connections set-credentials -a google_creds --env draft -e <google_api_key>

４．接続確認

続いて接続が作成できているか確認します。
出力されるリストの中でgoogle_credsにチェックがついていれば成功です。

orchestrate connections list

５．モデルのインポート

手順２で配置したYAMLファイルを使ってモデルを追加します。

orchestrate models import --file <yamlのファイル名> --app-id google_creds

６．登録確認

最後にモデルが正しく登録されたかを確認します。
リストの中にvirtual-model/google/gemini-2.5-proが追加されていれば成功です。

orchestrate models list

■動作確認

watsonx Orchestrateを開き、モデルが追加されていることを確認します。

Gemini 2.5 Proが追加されていることが確認できました。
続いて動作確認をしてみます。ここでは”watsonx Orchestrateの機能の概要を説明してください”と質問してみます。

問題なく回答が返ってきました。
特に難しい箇所はなく、簡単にwatsonx OrchestrateとGeminiを接続することができました。

まとめ

今回のTechBlogでは、watsonx Orchestrate ADKのAI Gateway機能を利用して、GoogleのGeminiを接続する方法をご紹介しました。AI Gatewayを活用することで、標準搭載のモデルだけでなく、用途やコストパフォーマンスに合わせて外部の最新LLMを柔軟に組み込むことが可能になります。タスクに応じて「適材適所」なモデルを選択することで、エージェントの精度向上やコスト最適化が見込まれます。標準モデルで課題を感じている場合は、一度試してみてはいかがでしょうか。

また、弊社では貴社固有の業務課題を深く掘り下げ、具体的な解決策を見出すための伴走型支援サービス「課題解決ワークショップ」の実施やAIエージェントの構築支援等を行っております。生成AIの業務適用にご興味のある方は、ぜひご連絡いただけますと幸いです。ご覧いただき、ありがとうございました。