【Zscaler】生成AI時代の新常識：ZscalerAIガードレールのご紹介
投稿者：セキュリティ＆ネットワーク事業本部 セキュリティ担当 星
こんにちは。セキュリティ担当の星です。
近年、生成AIツールの利用は急速に拡大しており、もはや業務利用は当たり前、大多数の企業で活用される時代となりました。
ツールは、情報収集、文書作成、コード生成など、私たちの業務効率を劇的に向上させますが、その利便性の裏側で、重大なセキュリティリスクが潜んでいます。
このブログでは、生成AIツールの利用がもたらすリスクを皆さんに知っていただき、そのリスクに対する対策の一つとして、Zscalerの新しいセキュリティ機能「AIガードレール」をご紹介します。
目次
1. はじめに～生成AIの業務利用に潜むリスク～
先ほど冒頭で話した生成AIの業務利用に潜むリスクは、主に3つ。
・シャドーAIからのデータが流出するリスク
業務で認可されていないAIツールに機密情報や個人情報を入力してしまうと、ツール側にデータが保持され、第三者に漏れてしまう可能性があります。
・内部データを利用した不適切な情報公開
1つ目のリスクに付随して、AIが保持している機密情報や、過度なアクセス権を持つ内部データを利用することで、本来回答すべきではない質問に対して機密性の高い回答を出力し、内部データが漏洩する可能性があります。
・悪意あるプロンプトによるAIの不正操作
ユーザーがプロンプト（AIに指示するテキスト）にPrompt InjectionやJailbreakingといった悪意ある指示を組み込むことでAIのセキュリティ対策を迂回させたり、出力結果を不正に操作する攻撃を受けるリスクがあります。
これらのリスクは、うっかりミスから悪意のある操作まで、思わぬ形で企業の情報資産を危険にさらしてしまう可能性を秘めています。
生成AIツールを安心して活用し続けるためにはこれらのリスクへしっかりと備えておくことが大切です。
では、次の項からこれらの情報漏洩リスクの対策として用いられるAIガードレールについて、ご紹介していきます！
2.AIガードレールとは？
AIガードレールとは、ZscalerのZIA（Zscaler Internet Access）というサービスで提供される「可視化とブロック」および「アクセス制御」の各機能を組み合わせ、生成AIツールからの情報漏洩を防止する対策全体のことを指します。
【可視化とブロック】（セキュリティ監視・防御）に用いられる機能
・Gen AIセキュリティ
・DLP検査
【アクセス制御】（ユーザーの権限・環境管理）に用いられる機能
・クラウドアプリ制御
・ブラウザ分離
それぞれの機能について、簡単にご紹介します。
- Gen AIセキュリティ
シャドーAI可視化や、プロンプトの履歴からデータ流出の兆候を監査できる新機能になります。
Gen AIセキュリティレポートから業務利用している生成AIツールの利用状況を閲覧できます。
プロンプトの可視化については3項で実際の画面を用いてご紹介します！
- DLP検査
Zscalerの持っている標準DLP辞書（クレジットカード情報やマイナンバー情報etc…）やファイルタイプ、ユーザー、URLカテゴリなど、各種条件で合致した場合のアクションを制御できます。（ブロック/許可/通知）
- クラウドアプリ制御
指定したクラウドアプリケーションカテゴリへの接続を制御（ブロック/許可/分離）できます。
- ブラウザ分離
指定のブラウザに接続した際、隔離環境にて実行できるように制御をかける機能です。ユーザーには悪意のあるコードを含まない画面のピクセル情報のみが配信されるため、リスクを低減しつつアクセスを可能にします。
AIガードレールの活用により、ユーザーが社内機密の開示を狙ったプロンプトを送っても、AIは公開済み情報の範囲でのみ回答させることができるので、機密情報の漏洩防止が期待できます。
3.GenAIレポートによるプロンプトの可視化
本項では、2項でお話した「プロンプトの可視化」についてご紹介していきます。
閲覧手順としてはGenAIレポートの「生成AIに入力された機密データ数」をクリックします。
すると、「どのAIツールで検知されたか」「どのDLP辞書で機密情報と判断されたか」「どのユーザーが入力したか」を閲覧できるレポートにリダイレクトされます。
ユーザーをクリックし、「View Prompts」を選択するとログ閲覧画面にリダイレクトされ、プロンプト内容を確認することができます。
※画像の機密情報はダミーの情報となります。
ちなみに、プロンプトにはSSNという社会保障番号が含まれています。
アメリカではクレジットカード情報と同等に悪用リスクの高い機密情報になります。
4.おわりに
今回はZscaler AIガードレールについてご紹介しました。
Gen AIセキュリティの活用により、 シャドーAIの可視化で利用状況を正確に把握し、プロンプトの履歴監査によってデータ流出の兆候を早期に検知・対処することが可能になります。
本記事が、生成AIを活用するすべての企業様の情報漏洩対策を考えるきっかけとなれば幸いです。
最後までお付き合いいただきありがとうございました。
