watsonxとは?
watsonxプラットフォームは、3つのコンポーネントから成り立っており、それぞれを組み合わせたり、個別に利用することで、お客間のご要望にあったAIソリューションにカスタマイズすることが可能です。
解決可能な課題
下記のような課題を解決します
- 実際の業務で生成AIを活用できていない。
- 生成AI信頼性に懸念があるため業務利用できない。
- オンプレミスやクラウド基盤上にデータが散在しており、データを効率的に利用できていない。
- データレイクにあらゆるデータを投入した結果、分析に必要なデータを見つけるのが困難になった。
- AIリスクの識別と管理ができていない。
- 一つのガバナンスプラットフォームで複数のベンダーのモデルを管理できない。
サービスのご紹介
watsonx.ai
watsonx.ai は基盤モデルの選択から調整、テスト、デプロイまでを一貫して行うことができるAI開発スタジオです。watsonx.aiの主な機能をご紹介いたします。
✓基盤モデルライブラリ
- IBM独自モデルや、他のオープンソースモデルも活用して構築することが可能
✓プロンプトラボ
- AIに入力するプロンプトを試行し、最適化が可能
- データや用途に応じて、特定のタスクや応答スタイルを自由にカスタマイズすることが可能
✓チューニング・スタジオ
- 独自データを使ってモデルを再学習させることによって、モデルをより具体的なタスクに合わせてカスタマイズして、より優れたパフォーマンスを取得可能
✓MLOps
- 様々なAPI、SDK、ライブラリーとの接続により、開発から導入まで、AIモデルのライフサイクル全体を自動化が可能
watsonx.data
watsonx.dataは散在した様々な形式のデータを統合し、AIやデータの利活用を促進するデータレイクハウスソリューションです。
✔データの柔軟性
- 非構造化データや構造化データをオブジェクトストレージへ統合
- 多種多様なデータソースへ接続するコネクタを提供
- オープンテーブルフォーマット形式により、データの管理を効率化
- ベクトルデータベースであるMilvusが利用でき、様々なデータ形式を一元的に管理することで生成AIの利活用を促進可能
✔ワークロードの最適化
- 業務要件に応じてクエリエンジンを選択できる
✔ガバナンス機能
- セキュリティポリシーとアクセス制御を提供し、適切なユーザーに適切なデータを公開
watsonx.governance
watsonx.governanceはIBM社が提供するAIモデルのライフサイクルを可視化し、適切な管理・監視を実現するAIガバナンスソリューションです。信頼できるAIを構築するために主に3つの機能を提供します。
✔ イベントリ管理(AI factsheet)
- AIライフサイクル(モデルの開発~展開)を通じてモデルの実態(ファクト)を把握
✔ リスクガバナンス(OpenPages)
- リスクおよび課題管理のためのワークフロー/ダッシュボード機能を提供
✔ 評価とモニタリング(OpenScales)
- モデルの精度、ドリフト、バイアス、説明可能性の評価と継続モニタリングを実現
導入によるメリット
watsonx.ai
企業向け生成AIの提供
信頼性の高いAIを信頼性機能で守られた プラットフォームの上で利用することができます。
基盤モデルの多様性と柔軟性
1つのプラットフォームでIBM独自のモデルや他社のAIモデルなど複数の基盤モデルから選択できます。
ユーザーは翻訳タスクや要約タスク、コード生成タスクなど業務用途に応じて、適切な基盤モデルを選択することで最適な成果を得ることができます。
対応している基盤モデル
IBMモデル:Graniteモデル
他社モデル:Llama3(Meta)、Mixtral(Mistral AI)、flan(Google)、elyza(ELYZA)など
効率的かつ高パフォーマンス
必要なリソースの使用を最小限に抑えながら、高いパフォーマンスを実現できるIBM独自のモデルを利用できます。
watsonx.data
統一されたデータ管理
データウェアハウスで管理していた構造化データや、画像や音声などの非構造化データといった異なる種類のデータをオブジェクトストレージ上に統合することで、データの保存・管理・アクセスを一元化します。
オブジェクトストレージにデータを保管・管理するため、急なデータ量の増加や大規模なデータセットに対してもコストを抑えた柔軟な拡張が可能です。
また、データのアクセス管理を簡素化し、「社内のデータソースが多く、アクセス管理が複雑・手間」という課題を解決します。
効率的なデータ検索
メタデータを一元管理し、効率的なデータの内容や利用状況の追跡を実現します。
データカタログ機能(※1)により、ユーザはチャット形式で「欲しいデータ」を簡単に見つけることができ、データ検索の時間を大幅に短縮します。
スピーディな分析により迅速なビジネスジャッジを実現可能とします。
※1. IBM Knowledge Catalogとの連携が必要となります。
watsonx.governance
AIガバナンスの自動化
AIライフサイクル(モデルの構築~展開)全体にわたるモデルの監視、文書化、管理を自動化することが可能です。
これにより、手動によるライフサイクルの管理やデータやAIモデルの更新に伴う煩雑な手作業などを削減します。
対応するAIモデルの多様性
IBM以外のツール (Microsoft Azure や Amazon Web Servicesなど) を使用して作成された生成AI、機械学習モデルも管理することが可能です。
-対応している他社AIモデル
LLM:OpenAI、AWS Bedrock、MicrosoftAzure
ML:AWS SageMaker、ML Studio、ML Service
リスクとコンプライアンスを一元管理
公正さ、バイアス、ドリフト、新しいLLM指標の監視を通じてリスクを検出し、ブランドの侵害や顧客信頼の喪失、内部監査や罰金などのリスクを軽減します。また重要な指標が侵害された際にはアラートを発生し、リスクとコンプライアンスを大規模に管理する事が可能です。
活用例
watsonx.aiとwatsonx.dataを使用した生成AI検索(RAG)
RAGとは生成AIが学習していないデータから情報を検索し、回答を生成するAIの自然言語処理の技術です。ここではwatsonx.aiとwatsonx.dataを使用したRAGの活用例をご紹介します。
①〇〇商品のクレームについてチャットアプリに質問
②質問内容をベクトル化
③watsonx.dataが”ベクトル化した質問”と予め格納されている”ベクトル化された自社情報”を照合し、クレーム情報を抽出
④クレーム情報をチャットアプリに連携
⑤チャットアプリがクレーム情報とプロンプト(生成AIに出す命令文)をwatsonx.aiに連携
⑥watsonx.aiからクレーム情報についての回答(自然な会話文)をチャットアプリに連携
⑦企画担当者がチャットアプリに出力された内容を見て、クレーム情報について把握
RAGのメリット
メリット1:LLMだけでは回答できない情報を得ることができる
外部の知識ベースで検索を実行するため、LLMだけを使った回答よりもより専門的な回答や最新情報を提供することが可能になります。
メリット2:質問の文脈を踏まえた回答を得られる
検索とLLMを組み合わせることで多くの情報源から情報を収集し、文書検索と比較して人間のような自然な回答を生成することができます。
メリット3:モデル学習に必要なデータ準備と作業労力を削減
LLMの追加学習には大量のデータとリソースが必要ですが、RAG は自社ドキュメント/自社データも
利用するためモデルへ学習データを取り込む必要がなく、労力もリソースも削減できます。
watsonx製品紹介デモ
watsonxの生成AIを用いた社内情報検索の例と、AIリスクの危険性の説明、ガバナンス管理機能についてご紹介いたします。