【Zscaler】生成AI時代の新常識：ZscalerAIガードレールのご紹介
投稿者：セキュリティ＆ネットワーク事業本部 セキュリティ担当 星
こんにちは。セキュリティ担当の星です。
近年、生成AIツールの利用は急速に拡大しており、もはや業務利用は当たり前、大多数の企業で活用される時代となりました。
ツールは、情報収集、文書作成、コード生成など、私たちの業務効率を劇的に向上させますが、その利便性の裏側で、重大なセキュリティリスクが潜んでいます。
このブログでは、生成AIツールの利用がもたらすリスクを皆さんに知っていただき、そのリスクに対する対策の一つとして、Zscalerの新しいセキュリティ機能「AIガードレール」をご紹介します。
目次
1. はじめに～生成AIの業務利用に潜むリスク～
先ほど冒頭で話した生成AIの業務利用に潜むリスクは、主に3つ。
・シャドーAIからのデータが流出するリスク
業務で認可されていないAIツールに機密情報や個人情報を入力してしまうと、ツール側にデータが保持され、第三者に漏れてしまう可能性があります。
・内部データを利用した不適切な情報公開
1つ目のリスクに付随して、AIが保持している機密情報や、過度なアクセス権を持つ内部データを利用することで、本来回答すべきではない質問に対して機密性の高い回答を出力し、内部データが漏洩する可能性があります。
・悪意あるプロンプトによるAIの不正操作
ユーザーがプロンプト（AIに指示するテキスト）にPrompt InjectionやJailbreakingといった悪意ある指示を組み込むことでAIのセキュリティ対策を迂回させたり、出力結果を不正に操作する攻撃を受けるリスクがあります。
これらのリスクは、うっかりミスから悪意のある操作まで、思わぬ形で企業の情報資産を危険にさらしてしまう可能性を秘めています。
生成AIツールを安心して活用し続けるためにはこれらのリスクへしっかりと備えておくことが大切です。
では、次の項からこれらの情報漏洩リスクの対策として用いられるAIガードレールについて、ご紹介していきます！
2.AIガードレールとは？
AIガードレールとは、ZscalerのZIA（Zscaler Internet Access）というサービスで提供される「可視化とブロック」および「アクセス制御」の各機能を組み合わせ、生成AIツールからの情報漏洩を防止する対策全体のことを指します。
【可視化とブロック】（セキュリティ監視・防御）に用いられる機能
・Gen AIセキュリティ
・DLP検査
【アクセス制御】（ユーザーの権限・環境管理）に用いられる機能
・クラウドアプリ制御
・ブラウザ分離
それぞれの機能について、簡単にご紹介します。
- Gen AIセキュリティ
シャドーAI可視化や、プロンプトの履歴からデータ流出の兆候を監査できる新機能になります。
Gen AIセキュリティレポートから業務利用している生成AIツールの利用状況を閲覧できます。
プロンプトの可視化については3項で実際の画面を用いてご紹介します！
- DLP検査
Zscalerの持っている標準DLP辞書（クレジットカード情報やマイナンバー情報etc…）やファイルタイプ、ユーザー、URLカテゴリなど、各種条件で合致した場合のアクションを制御できます。（ブロック/許可/通知）
- クラウドアプリ制御
指定したクラウドアプリケーションカテゴリへの接続を制御（ブロック/許可/分離）できます。
- ブラウザ分離
指定のブラウザに接続した際、隔離環境にて実行できるように制御をかける機能です。ユーザーには悪意のあるコードを含まない画面のピクセル情報のみが配信されるため、リスクを低減しつつアクセスを可能にします。
AIガードレールの活用により、ユーザーが社内機密の開示を狙ったプロンプトを送っても、AIは公開済み情報の範囲でのみ回答させることができるので、機密情報の漏洩防止が期待できます。
3．新機能Gen AIセキュリティレポートのご紹介
では、Gen AIセキュリティレポートの実際の画面を見ていきましょう。
機能と記載内容について以下の番号順で説明します。
Gen AI セキュリティレポート
①レポートの表示期間フィルタリング
[過去1日間]、[過去7日間]、[過去15日間]、[先月]、[前四半期]のいずれかで表示期間をフィルタリングできます。
②指定期間内のGenAIアプリケーション利用量
組織内での生成AIツールの利用状況が表示されています。
数字部分をクリックすると利用アプリの利用量一覧を確認することができます。
Sanctioned…企業によって認可されている認可アプリケーション
Unsanctioned…未認可アプリケーション
青の数字の部分をクリックすると、指定期間内に使用されたアプリケーションごとのリクエスト数やユーザー数が表で表示されます。
各アプリケーション名をクリックすると指定期間内の詳細な利用状況を確認できます。
③基本情報の一覧
③-1指定期間内の「生成AIへのトランザクション数」（左）
指定期間内の全体のAIツール利用量を確認できます。
③-2「生成AIに入力された機密データ数」（中央左）
ZscalerのDLPエンジンとDLP辞書に基づいたアプリケーションごとの機密コンテンツの総数を確認できます。
青文字をクリックすると、機密コンテンツが検出されたAIツールや実際に投入されたプロンプト、ユーザーを確認できます。
画像はChatGPT内のやり取りでDLP辞書のクレジットカード情報が含まれていると判断されたユーザーが表示されています。
ユーザーをクリックし、「View Prompts」を選択するとログ閲覧画面にリダイレクトされ、プロンプト内容を確認することができます。
※画像の機密情報はダミーの情報となります。
ちなみに、プロンプトにはSSNという社会保障番号が含まれています。
アメリカではクレジットカード情報と同等に悪用リスクの高い機密情報になります。
③-3「生成AIツールにアクセスしたユーザ数」（中央右）
AIツールにアクセスしたユーザーの数を確認できます。
③-4「生成AIツールにアップロードされたファイルの合計数」（右）
④組織内のAIツールの利用量棒グラフ
利用上位の生成AIツールと、各アプリケーションのポリシーアクション(許可済み、ブロック済み、分離済み)の分布を棒グラフの形式で表示します。バーにカーソルを合わせると、アクションごとの利用量が表示されます。
データは合計バイト数、トランザクション数、ユーザー数でフィルタリングが可能です。
⑤AIツールごとの利用量折れ線グラフ
指定期間内のAIツール利用量が折れ線グラフで確認できます。
日付にカーソルを合わせると、その日付の生成AIアプリケーションの利用傾向を確認できます。
データは合計バイト数、トランザクション数、ユーザー数でフィルタリングが可能です。
⑥生成AIツールごとに検出された機密コンテンツの円グラフ
DLPエンジンに基づいて、生成AIツールごとに検出された機密コンテンツが円グラフで表示されています。
データは合計バイト数、トランザクション数でフィルタリングが可能です。
「Analyze more」をクリックすると先ほどご紹介した③-2のアプリケーションごとの機密情報を含むやり取りのページにリダイレクトします。
⑦各部署の利用状況棒グラフ
部署ごとの生成AIツール利用状況が確認できます。
フィルターを「Top AI Applcations」を選択することで、それぞれの部署のアプリごとの利用状況を一目で確認することができます。
「Analyze more」をクリックすると部署内での利用状況をより詳細に確認できます。
※部署情報はダミーの情報になります。
⑧プロンプト分類ごとの割合分布
MLモデルを使用して作成されたプロンプト分類に基づいて、生成AIアプリケーションの使用傾向が表示されています。
ブロック チャートにカーソルを合わせると、プロンプト分類のパーセンテージごとの分布と、プロンプトに使用された対応する生成AIアプリケーションが表示されます。
「Prompt Classification」ではプロンプト内容の傾向を確認できます。
各生成AIツールをどのような目的で使用しているかを確認する際に効果的です。
各生成AIツールでフィルタリングをかけることも可能です。
隣タブの「Document Classification」では、ファイル形式や内容等どのようなドキュメントタイプの利用に対してユーザがどのようなプロンプト入力をしているかを確認することができます。
「Analyze more」をクリックすると先ほどご紹介した③-2のアプリケーションごとの機密情報を含むやり取りのページにリダイレクトします。
⑨生成AIツール上位利用ユーザの棒グラフ
生成AIツールを頻繁に利用している上位ユーザーとそれぞれ利用しているAIツールを確認できます。AIツールごとにフィルタリングできるので誰がどのAIツールを利用しているのかを確認できます。
※ユーザ情報はダミー情報になります。
以上がGen AIセキュリティレポートのご紹介になります。
4.おわりに
今回はAIガードレールについてご紹介しました。
GenAIレポートは「誰が」「どの生成AIツールを」「どのように」利用しているのか社内の利用状況を可視化できるので、情報漏洩等のリスクの早期発見や迅速な対応に効果的です。
生成AIツールの社内利用に関してセキュリティ課題を感じている方はぜひお気軽にご相談ください。
最後まで読んでいただきありがとうございました。
