世界中のITセキュリティ部門で警鐘が鳴らされていますが、今回の原因はハッカーや高度なマルウェアではなく、それよりもはるかに懸念されるもの、すなわち「シャドウAI」なのです。
「shadow IT」という用語を耳にしたことがある方なら、従業員が公式のルートを迂回して自分のデバイスやソフトウェアを使用する「シャドウIT」の概念をご存知でしょう。それなら、「シャドウAI」という概念についても、おそらくご存じのことと思います。 この用語は、 のChatGPT（）、GoogleのGemini、その他の の大規模言語モデル（LLM）（ ）といった生成AI（GenAI）ツールを、組織内の従業員がIT部門の承認を得ずに、無断で不正に利用することを指します。 そして、これは企業のデータに対する脅威として拡大しつつあります。
実際、ガートナー社の予測によると、 2027年までに、 従業員の75％ が、IT部門の監視の及ばない範囲でテクノロジーを入手、変更、または作成することになるとされています。これは、2022年の 41％から増加した数値です。 一方、 セールスフォースが 2023 年に実施した調査では、調査対象となった世界中の従業員の半数以上（55％） が、職場で承認されていないGenAIツールを使用していることを認めました。 企業のファイアウォールの外で、多くの機密性の高いコードや文書、プレゼンテーションが開発され、モデルに投入されていることになります。
もし、従業員が初めて会社のポリシーを無視し、個人の端末を使って社内ネットワークに接続し始めた、あの熱気あふれる日々を思い出させるのであれば、それは当然のことです。 職場での「個人所有端末の持ち込み（BYOD）」という傾向は、IT担当者にも同様の疑問を投げかけました。この技術を全面的に禁止し、企業が審査済みの代替手段を提供すべきか、それとも安全に受け入れられる方法を模索すべきか、ということです。
ほとんどの企業は、その勢いの止まらないBYODの波を食い止めることはできないとすぐに悟りましたが、歴史は繰り返されるものです。 によると、アクセンチュア、アマゾン、アップル、バンク・オブ・アメリカ、カリックス、シティグループ、ゴールドマン・サックス、マイクロソフト、ノースロップ・グラマン、サムスン、スポティファイ、ベライゾン、ウェルズ・ファーゴといった企業は、いずれも従業員によるChatGPTなどの社外AIツールの利用を禁止しようとしているとのことです。 の製薬企業トップ 20 社のうち3分の2 や、多くの 公立学校 も同様の取り組みを行っています。
「シャドウAI」をめぐる深刻化する問題
なぜこれほど過酷な措置を講じるのでしょうか？ ジェネレーティブAIツールが時代の潮流を席巻する中、雇用主は、自社の機密データが、不正利用や情報漏洩の恐れがある外部のAIシステムと共有されることで、競争上のリスク、金銭的なリスク、あるいは法的リスクが生じることを懸念しています。
「悪意のあるものではありませんが、危険です。」 そして、これらは単発の出来事ではありません。”バーナード・マー氏（テクノロジーの未来学者、著述家、コンサルタント）
例えば、マーケティングチームがAIを活用したソーシャルメディア分析を用いて、顧客の行動を解明し、広告キャンペーンを最適化し、次の大きなトレンドを予測する様子を想像してみてください。 効率的です。 しかし、IT部門の承認がない場合、こうしたツールは、 顧客の機密データや 、あるいは企業の機密情報が漏洩する原因となり、データ漏洩 や、HIPAAやGDPRなどの規制に対する重大な違反につながる可能性があります。
「最近、私のクライアントの間で、従業員が製品のロードマップから財務データに至るまで、機密情報をうっかり公開のAIシステムに共有してしまうという、憂慮すべき事例をいくつか目にしてきました」と、テクノロジーの未来学者であり、著作家、コンサルタントのバーナード・マー氏は述べています。 「悪意があるわけではありませんが、危険な行為です。」 「そして、これらは単発の出来事ではありません。企業が認識している、あるいは認めたくないほど、こうした事態は頻繁に発生しているのです。」
タニウムの米州地域チーフ・セキュリティ・アドバイザーであるティム・モリス氏は、あまり知られていないもう一つの「シャドウAI」の傾向について警告しています。それは、特定の業務を処理するためにジェネレーティブAIツールを必要とする部門が、既存のツールでは必要な機能が得られないため、市販のLLMを用いて独自にツールを構築しているというものです。 そのアプローチの問題点は、IT部門が社内利用向けのモデルを評価していないことです。
「そのモデルがどこから来たのか、何が含まれているのか、どのような目的で作成されたのか、そして御社でどのような役割を果たしているのか、誰も理解していません」と彼は述べています。 「そのセキュリティがどれほど堅固なのか、また、それによってデータや組織が外部からの脅威や情報漏洩のリスクにさらされているのかどうかを、正確に把握することは不可能です。」
[関連記事: 4 AIの時代におけるCISOの重要なリーダーシップの優先事項]
マー氏とモリス氏は、外部のチャットボットを禁止することでこうした問題を封じ込めようとする企業の姿勢を理解しています。 マー氏は、ChatGPTやBard、その他のツールと同等の機能を備えている限り、安全な代替手段を構築し、従業員に提供することが、実行可能な解決策になり得ると述べています。
「社内ソリューションは、十分に堅牢であれば機能するものです」と、マー氏は述べています。 「重要なのは、一般消費者向けAIの性能と使いやすさに匹敵することです。」
しかし、企業がそれを実現できない場合、従業員は会社のポリシーにかかわらず、何らかの方法で公開ツールを利用するようになると、同氏は述べています。
「シャドウAI」に関する1つの意外な事実――そして、それに対抗するための 4 の対策
このような規則違反の背景には、一部の企業経営者を驚かせるような理由があるかもしれません。
「シャドー[AI]を利用している御社の従業員は、本当に善意で行動しています。多くの場合、彼らは単に自分の仕事をより良く、より速くこなす方法を模索しているだけなのです。」Candy Alexander、CISOおよびサイバープラクティスリード、NeuEon Inc.
「シャドー[AI]を利用している御社の従業員たちは、本当に善意で行動しています。多くの場合、彼らは単に自分の仕事をより良く、より速くこなす方法を模索しているだけなのです」と、NeuEon Inc.のCISO兼サイバー部門責任者であるキャンディ・アレクサンダー氏は述べました。 先日放送された『 』の最新エピソードで、Focal Point（）の姉妹ポッドキャストである『 』（）および『Let’s Converge』（、 ）に出演したアレクサンダー氏は、企業が承認したソフトウェアの枠を超えて探求したいという衝動について語りました。 「多くのユーザーは、米国の企業や大企業において、ソフトウェアの利用申請を行うことが、長くて困難な道のりになり得ると感じています。」 そこで、彼らは外に出て、「空欄埋め」の無料版を試してみるのです。」
[こちらもぜひお聴きください：キャンディ・アレクサンダー氏が当ポッドキャストにゲスト出演し、2回シリーズの第1回として、シャドウAIやIT、そしてスマートなビジネス戦略について語ってくれます]
そうなると、従業員のAIツールの使用を管理しようとしても、まるで猫を追い回すようなものです。なぜなら、この技術はあまりにも普及しており、また非常に役立つため、従業員の手から遠ざけることはできないからです。 実際、セールスフォースの調査によると、従業員の 40％が、職場で禁止されているジェネレーティブAIツールを使用していることを認めています。
「ChatGPTを全面的に禁止することは、逆効果になる可能性が高い」とマール氏は述べています。 「従業員は代替策を講じるでしょうし、企業は重要なAI機能において遅れをとるリスクがあります。」
では、企業がサードパーティ製のGenAIアプリをいつまでも禁止し続けることはできないと認めた場合、どのようにして状況を把握し、シャドウAIを制限すればよいのでしょうか？ ここでは、検討すべき4つの戦略をご紹介します：
1. 従業員に対し、シャドウAIのリスクについて周知徹底してください
第一の防衛策は教育です。 多くの従業員は、公開されているAIツールによって機密データが漏洩する可能性があることを理解していません（ ）。また、 によると、世界中の従業員の 70％が、生成AIを安全かつ倫理的に使用するための研修を受けたことも、修了したこともないとSalesforceに回答しています。 専門家であるITセキュリティチームでさえ、これが自分たちにとって未踏の領域であることを認めており、 とSplunkが最近実施した調査（ ）では、専門家の65％が、GenAIに関する知識が不足していると認めています。
モリス氏のような専門家は、企業が社内のチームに対し、外部のLLMを通じて自社の機密情報が漏洩するリスクについて教育し、そのような事態を防ぐための対策を講じるよう指導することを推奨しています。 これらのベストプラクティスには、AIチャットボットがデータをどのように保存・処理するか、これらのツールと共有してよい情報とそうでない情報、組織が使用を承認しているツール、およびツールの不正使用を報告するための手順など、基本的な情報を盛り込む必要があります。
「企業は、従業員全員がすでに受講した『 』のサイバーセキュリティ啓発研修（ ）と同様に、シャドウAIのリスクについて全従業員に周知するための包括的な研修プログラムを策定する必要があります」とモリス氏は述べています。
2。 AIに関する方針を策定し、実施する
のデジタル・トラスト 担当者の60％が、悪意のある者がジェネレーティブAIを悪用することを懸念しています。 とはいえ、ISACAのパルス調査によると、この問題に対処するためのAIポリシーを策定している組織は、わずか 15％にとどまっています。
「革新と管理のバランスを適切に取らなければ、従業員は制限をすり抜けてしまうでしょう。」Taniumの米州担当チーフ・セキュリティ・アドバイザー、ティム・モリス氏
「イノベーションと管理のバランスをとらなければなりません。そうしなければ、従業員はBYODの時と同じように、制限をすり抜けてしまうでしょう」とモリス氏は述べています。
具体的には、モリス氏は、組織に対し、AIツールの利用に関する明確な基準を定めた「 」AIガバナンスの枠組み を確立することを推奨しています。 これを先延ばしにすると、従業員がセキュリティプロトコルを無視して独自のAIプロジェクトを立ち上げるようになってしまう恐れがあると、同氏は述べています。 重要なのは、革新と管理のバランスを取り、安全な範囲内で柔軟性を確保することです。
[関連記事：デジタルエクスペリエンスモニタリングの基本と、従業員体験の向上（および規則違反の削減）におけるその役割について詳しくご覧ください]
モリス氏は、一点注意すべき点として次のように付け加えています。あらゆるAIポリシーには、例外に対処するためのプロセスを盛り込む必要があります。 従業員には、この方針の内容、その理由、および例外措置や追加ツールの申請方法について周知する必要があります。 同氏は、明確なコミュニケーションが不満を防ぎ、従業員が独自に許可されていないAIツールを探そうとする可能性を低減すると述べています。
3。 エンドポイントセキュリティでAIの利用状況を監視する
「シャドウAI」の利用を監視することは、もはや任意の措置ではなく、不可欠なものです。なぜなら、たとえ企業が適切なジェネレーティブAIツールを提供していたとしても、不満を抱いた一部の悪意あるユーザーが、必ず独自の派生版を作り出すからです。
や、本誌を発行しているTanium（ ）などのエンドポイントセキュリティソリューションは、従業員の端末上でLLMや関連スクリプトを検知することで、許可されていないAIの利用状況を可視化します。 これらのツールは、IT部門が不正なダウンロードを追跡し、不審な活動を検知し、社内ポリシーの遵守を確保するのに役立ちます。 プロキシによるコンテンツブロックなどのネットワークレベルの制御も、承認されていないAIツールへのアクセスを防ぐことができます。
4。 定期的な監査と見直しを実施する
AIの分野は急速に進化しているため、「一度設定すれば後は放っておける」というアプローチでは対応しきれないのです。 IT部門は、組織全体におけるAIの利用状況について、継続的に監査および見直しを行う必要があります。 これには、AIポリシーの遵守状況の監視、新たな脅威の分析、そして新しいツールやユースケースが登場した際のセキュリティプロトコルの更新などが含まれます。
[関連記事：AI最高責任者（CIO）はなかなか見つかりません――ここでは、その人材を見つける方法をご紹介します]
AIは目まぐるしいスピードで進化しており、セキュリティ上のリスクも同様に急速に増大しています。 潜在的なセキュリティ侵害を未然に防ぐためには、継続的な監査とリスク評価が不可欠です。
今後の道筋
シャドウAIは、かつてのシャドウITやBYODと同様、テクノロジーの急速なコンシューマ化がもたらした当然の結果です。 従業員は、AIを活用することで生産性が向上するため、その導入を望んでおり、IT部門もその生産性向上を無視することはできません。 しかし、適切なガバナンス、監視、およびセキュリティ対策が講じられなければ、シャドウAIは世界中の企業にとって時限爆弾となりかねません。
「解決策は、こうしたツールを禁止することではなく、明確な方針を策定し、従業員への教育を行い、ビジネスのニーズを満たす安全な代替手段を導入することにあります」とモリス氏は述べています。 「あらゆる技術と同様に、シャドウAIもまた、課題であると同時に機会でもあります。 「イノベーションとセキュリティの適切なバランスを保てる企業こそが、AIが支える未来において繁栄していくでしょう。」
