シャドーITとシャドーAIの違い

組織のカスタマーサービス担当者がメールをより迅速に下書きするために機密の顧客データをAIツールにアップロードしている状況を想像してみてください。 従業員がIT部門の承認なしにAIツールを使用する場合、それはシャドーAIと呼ばれ、そのような事例はますます一般的になってきています。 Microsoftの2024年Work Trend Indexによると、職場でAIを使用している従業員のうち、78％が組織で正式に承認されていないツールを使用していると報告しています。 セキュリティチームは従来型のシャドーITに対処するための戦略を策定してきましたが、シャドーAIはより現代的な手段を必要とする新たなリスクをもたらしています。 シャドーITとシャドーAIの主な違いは、シャドーAIは機密データを転送・保存するだけでなく、積極的に処理し、場合によっては保持する点です。

以下では、シャドーITとシャドーAIの概要に加え、シャドーAIを効果的に検出・管理する方法についてご紹介します。

シャドーITとは何ですか？

シャドーITとは、従業員がITの知識や承認なしに使用するソフトウェアやクラウドサービスを指します。 これには、仕事用ファイルを共有するために個人のメールアカウントを使用したり、許可されていないブラウザ拡張機能をインストールしたり、個人用デバイスを社内ネットワークに接続したりすることが含まれます。 これらの行為は正式な承認プロセスを経ていないため、使用前にセキュリティチームによる審査を受けていません。 シャドーITは悪意ではなく主に生産性向上を目的としているものの、さまざまなセキュリティリスクをもたらす可能性があります。

• 限定的な可視性: ITチームが承認されていないアプリケーションの存在を認識していないと、使用状況を監視したり、企業データを保護したりすることはできません。 これらのアプリケーションのセキュリティ上の脆弱性は、ネットワークへの隠れた入り口になる可能性があります。
• コンプライアンス違反: 未承認のソフトウェアがGDPRやHIPAAなどの規制のデータ取り扱い基準を満たすことはほとんどありません。 データを正しく取り扱わないと、組織は厳しい罰則や罰金に直面する可能性が生じます。
• 攻撃対象領域の拡大: どの未承認のアプリケーションも、サイバー犯罪者の潜在的な攻撃経路になります。 シャドーITが拡大するにつれ、特にクラウド環境においては、組織の境界を保護することがより困難になります。

シャドーAIとは何ですか？

シャドーAIとは、ITの知識や承認なしにAIツールやアプリケーションを使用することを指します。 一般的な例としては、従業員が生成型AIを使用して機密データを含む社内文書を作成したり、開発者が個人アカウントを使用してAIツールでコードを実行したりすることが挙げられます。 シャドーAIが特に厄介なのは、従業員が必ずしも意図的にセキュリティ対策を回避しているとは限らない点にあります。 最近のアプリケーションの多くはデフォルトでAI機能が組み込まれているため、従業員は自分がAIを使用していることにまったく気付かないかもしれません。

シャドーAIは、多くの組織が対処する準備ができていないリスクをもたらします。

• 追跡できないデータ漏洩: 従業員が個人アカウントを通じてAIツールを使用すると、エンタープライズ向けプランでログ機能が提供されているプラットフォームであっても、組織側は通常、そのやり取りのログにアクセスできません。 入力されたデータ、その処理方法、またはどのデータが保持されたかどうかの監査証跡はありません。
• アイデンティティセキュリティへの影響: シャドーAIは、従来のセキュリティモデルでは対応できなかった新たなセキュリティリスクを取り込みます。それは、主に自律型AIエージェントの台頭によるものです。 従業員が外部のAIプラットフォームでアカウントを作成すると、組織はそれらのIDが機密データにアクセスする方法を管理できなくなります。

シャドーITとシャドーAIの主な違い

シャドーITとシャドーAIは、従業員がより生産的に働くためにツールを採用するという同じ根本的な理由を共有していますが、それぞれがリスクをもたらす方法は異なります。

データ処理と共有

シャドーITでは、データは通常、ファイルのアップロードや文書の共有といった構造化された流れに従って処理されます。 これらの運用過程では予測可能なパターンが作成され、セキュリティツールでそれを検出できます。 一方、シャドーAIは構造化されていない会話入力を通じて動作します。 従業員は機密データをプロンプトに入力し、それらはリアルタイムで処理され、標準的なHTTPSトラフィックを介して送信されるため、このトラフィックを通常の活動と区別することは困難です。

可視性と監査可能性

シャドーITの活動は通常、アプリケーションの使用状況、ファイル転送、ネットワーク監視などを通じて、監査証跡が生成され、セキュリティチームがセキュリティインシデントを調査できます。 それとは対照的に、シャドーAIは、多くのAIプラットフォームが組織に詳細なインタラクションログを提供しないため、多くの場合、一元的な可視性に欠けています。 従業員が外部AIツール、特に個人用アカウントを通じて利用すると、組織はインタラクションデータへのアクセスが限られているか全くないため、情報がどのように利用され、保存されているのかを特定するのが難しいです。

データ保持リスク

シャドーITは、不正なデータの保存や機密データが承認されたシステム外の特定可能な場所に流出するリスクをもたらします。 シャドーAIはこれまでとは異なるタイプのリスクをもたらします。 一般消費者向けAIプラットフォームでは、プロンプトに入力されたデータはデフォルトで将来のモデルの学習に使用される場合がありますが、ほとんどのエンタープライズ向けプラットフォームではこの機能は無効になっています。 従業員が個人用アカウントで消費者向けツールを使用する場合、企業ライセンスが提供するデータ保護機能を回避するため、リスクが最も高くなります。

シャドーAIの検出と管理方法

シャドーAIは、検出が困難な方法で機密データを漏洩させるため、組織はシャドーAIの管理に積極的なアプローチを採用する必要があります。 シャドーITを管理するために従来使用されてきたツールでは、従業員が機密データをAIプラットフォームに入力したり、AIに内部システムへのアクセスを許可したりすることに伴うリスクには対処できません。 多くの組織ではAIツールを全面的に禁止しようとしますが、その結果、従業員が可視化されていない未承認のツールを利用するようになり、かえって逆効果になることがあります。 組織は、以下を実施することでガバナンスの強化に注力する必要があります。

• AI利用規定を作成: どのAIツールが承認され、どのデータを共有できるか、乱用された場合の罰則を定義する明確なガイドラインを確立しましょう。
• 社内のAIアプリカタログを作成: 従業員が使用できる検証済みのAIツールのリストを提供し、従業員が未承認で潜在的に危険な代替手段を探すのを防ぎます。
• エンタープライズグレードのAIソリューションを導入: エンタープライズAIソリューションは、一般消費者向けAIツールと比較して、データの処理とストレージをより細かく管理できます。
• 定期的なAIコンプライアンス監査を実施: どのAIツールが使用されているかを監視し、新たなセキュリティリスクを特定します。
• AIの使用について従業員に研修を実施: 継続的に研修して教育することで、従業員がポリシーを読むだけでは完全には理解できないかもしれない組織レベルの認識を高めるようにします。 組織で研修プログラムを積極的に実施することで、従業員はAIを安全に使用する方法を理解できるようになります。

シャドーAIを完全に管理

シャドーAIは急速に拡散し、監視が困難な経路を通じて運用され、従来のセキュリティツールでは検知できないリスクをもたらします。 効果的に管理するには、AIシステムやそれがアクセスするデータと対話する、すべてのアイデンティティ (人間とマシン) の可視性が必要です。 AIエージェントが企業のワークフローに組み込まれるにつれ、それらが依存するマシンアイデンティティ (APIキー、サービスアカウントトークン、インフラストラクチャシークレットなど) を人間のユーザーアカウントと同じように管理する必要が高まります。 過剰な権限と監査証跡のないAIエージェントは、最も危険なシャドーAIリスクです。

Keeper^®のようなゼロトラスト特権アクセス管理 (PAM) ソリューションにより、組織はユーザー、システム、アイデンティティ全体について一元的な可視性と制御を得ることができます。 未承認のアプリケーションまたは未認可のAIの使用によるリスクであっても、Keeperはすべてのアクセスが厳密に監視され、保護されていることを保証します。

環境内のすべてのアイデンティティを適切に管理するために、ぜひKeeperPAMの無料トライアルをお試しください。