フォーチュン 500 にランクインする企業のセキュリティオペレーションセンターの奥深くで、高度なアルゴリズムを搭載したのエージェンティックAI「 」（通称「Sentinel」）が、従業員がのフィッシングメール（）内のリンクをクリックした際に、侵害されたエンドポイントを特定しました。 また、Sentinelは東ヨーロッパからの不審なログインや、データ流出が進行中であることを示す兆候を即座に検知します。 センチネルは、侵入源を特定し、隔離するためにハンターを派遣しました。
一方、エージェント「Defender」は、このマルウェアをサイバー犯罪グループ「LockBit」によるランサムウェア「 」の亜種 であると識別し、攻撃者が侵入に利用した脆弱性を修正します。 数分以内に、人間のアナリストは事後分析レポートを受け取り、確認を行います。そして、ダウンタイムやデータ損失により数百万の損害をもたらしかねなかったセキュリティ侵害は、膨大な分析エンジンと10年分に及ぶセキュリティイベントおよび攻撃データを基盤とする3つのAIシステムによって、その影響が軽減されます。
[「エージェント型AIセキュリティ」とは何か、従来のAIセキュリティとどう異なるのか、そしてどのような脅威ベクトルが企業のインフラにリスクをもたらすのかについて解説します]
あらかじめお断りしておきますが、これらのAIエージェント（センチネル、ハンター、ディフェンダー）は架空のものであり、この出来事も架空のものです。 しかし、この で紹介されている、エージェント型サイバーセキュリティの新たな世界 は現実のものであり、業界の専門家によれば、ごく間もなく、お近くの セキュリティオペレーションセンター（SOC） に導入される見込みです。 そして、その普及は急速に進むと見込まれています。PagerDutyが最近実施した「 PagerDuty Agentic AI Survey」（）によると、来年には、約 86％の組織がAIエージェントを活用して を実現する見込みです（）。
ロボティック・プロセス・ ・オートメーション（ ）や、セキュリティ・オーケストレーション・オートメーション・アンド・レスポンス（SOAR）（）（ ）といったツールとして存在してきたルールベースのツールとは異なり、Sentinel、Hunter、DefenderといったAIエージェントは、環境から学習し、予測を行い、意思決定を行い、指定されたタスク（侵害されたデバイスの隔離（）、脆弱性へのパッチ適用（）、侵害されたシステムのオフライン化など）の範囲内で対応を実行し、必要に応じて他のエージェントや人間のセキュリティ専門家からの支援を求めることが期待されています。
これらのエージェントがセキュリティ運用を一変させると主張する人もいれば、現在の技術水準を踏まえると、近い将来にどの程度の変化が可能かについて懐疑的な見方をする人もいます。
セキュリティ管理者にとって、そのメリットは極めて魅力的です。ベンダーのレポートによると、 24/7 脅威監視 により対応時間が最大 90%短縮され、 アラート疲労を軽減し、さらに反復的で単調なタスクを自動化することで人材不足の解消にも寄与します。 また、Agentic AIは、 の行動分析機能（ ）を活用して、エクスプロイトを未然に防ぎ、セキュリティポリシーを徹底することで、の予防的防御（）を実現します。
「当初はエージェント型AIには懐疑的でしたが、ビジネス用途やセキュリティ運用で実際に活用されている様子を見て、考えが変わりました」と、ベルギーのアントワープに拠点を置くセキュリティコンサルティング会社Toreonのプリンシパルコンサルタント、ウィム・レメス氏は述べました。 「エージェント型AIは、SOCアナリストのための情報の収集や文脈付け、さらにはインシデント対応の自動化において、大きな活用の余地があります。」
確かに、期待の持てる評価ですね。 しかし、そうした自律的なワークフローを構築し、パッチ適用サイクルを短縮し、ビジネス全体に価値を生み出す前に、エージェント型AIのメリットと落とし穴を理解しておく必要があります。
以下では、来年に向けて知っておくべきこと、そして自律型AIをビジネスモデルやエンタープライズアーキテクチャに組み込むプロセスを始めるための最善の方法について、専門家のアドバイスに基づいた有益な入門ガイドをご紹介します。
能動型AIの台頭：あなたの（半）自律型守護者
従来のAIは答えを提示してくれます。 エージェント型AIは、ご希望であれば、ご承認を待たずに意思決定を実行します。
「当初はエージェント型AIには懐疑的でしたが、ビジネスアプリケーションやセキュリティ運用で実際に活用されているのを見て、考えが変わりました。」セキュリティコンサルティング会社Toreonのプリンシパルコンサルタント、ウィム・レメス氏
これは、ロボットによるプロセス自動化や従来のAI、およびその他の決定論的プロセスの自然な延長線上にあるものであり、あらかじめ定義されたシナリオによってトリガーされる、あらかじめ用意されたワークフローで構成された厳格な手順書に従うのではなく、ある程度の判断や意思決定を必要とするものです。 S&Pグローバル・マーケット・インテリジェンスの情報セキュリティ研究責任者であるスコット・クロフォード氏は、「エージェント型AIは、現在の自動化では埋められないギャップを、最終的には埋めることができると期待されています」と述べました。
そこでのキーワードは何でしょうか？ 「いずれは。」
アナリストたちは、エージェント型AIがこれらのシステムにより多くの「主体性」をもたらすという点では一致していますが、SecOpsにおけるエージェント型 AI が、どれほど早くゲームチェンジャーとなることが証明されるかについては、さまざまな議論が交わされています。
能動型AIへの移行に対する意欲は高いです。 長年にわたり、サイバーセキュリティチームは、雪崩のように押し寄せるシステムアラートとの戦いに苦戦してきました。また、ますます急速に拡大し、自動化が進み、創意工夫を凝らすようになった攻撃者たちにより、防御側は絶えず対応を迫られてきました。 そして、アラート疲れと闘いましょう。 また、 はキャリアの燃え尽き症候群に苦しんでいます。 静的なプレイブックや脆弱なロジックを備えた、従来のルールベースのツールでは、もはや対応しきれない状況でした。 「そこがここでの真の価値なのです」とレメス氏は付け加えました。 「アカウントのロックアウトなどのアクションを単に自動化するのではなく、アラートや関連資産、過去のインシデント、 の脆弱性スキャンに関する情報を一元的にまとめるなど、アナリストの認知的負荷を軽減することです」と彼は述べました。
[関連記事: 4 AIの時代におけるCISOの重要なリーダーシップの優先事項]
エージェント型AIが、この状況を好転させるのにどのように役立つか、以下にご説明します：
- アラート疲労から自律的な対応へ――一般的な企業のセキュリティ運用チームは、毎日数千件ものアラートに直面しており、その大半は誤検知か、リスクの低いものです。 人員不足によりすでに手一杯の状態にある人間のアナリストたちは、優先順位付けや調査、対応を余儀なくされており、その結果、実際の侵害を示す微妙な兆候を見逃してしまうことがよくあります。 Agentic AIの分析機能と自律的な対応は、新たなアプローチをもたらすものと期待されています。
- 脅威の自動検出と対応 —エージェント型AIシステムは、クラウド、ネットワーク、エンドポイントの各ソースからデータを取り込み、潜在的な脅威を示す異常なパターンを特定します。 検知されると、感染したデバイスを自律的に隔離したり、悪意のあるトラフィックを遮断したり、認証情報を無効にしたりすることができます。かつては数時間かかっていたこうした処理が、今では数秒で完了します。
- 動的なプレイブック —静的なインシデント対応計画はしばしば機能しなくなるため、多くのセキュリティ専門家は、こうした計画が近いうちに過去のものになることを望んでいます。 Agentic AIは、刻々と変化する脅威の状況に応じて対応を適応させる、動的で状況に応じたプレイブックを作成します。 インシデントの優先順位付けや、異常の調査、さらには多段階にわたる封じ込め戦略の調整まで行うことができます。場合によっては、人間の承認を待たずに実行することも可能です。
- 継続的な学習、象のような記憶――あらゆるやり取り、あらゆる出来事が学習データとなり、インターネットの記憶のように、AIは決して忘れません。 エージェント型AIは、遭遇するたびにモデルを最適化し、時間の経過とともに検出率を向上させ、誤検知を減らしていきます。 SOCは、よりスマートになるにつれて、処理速度も向上します。
- 予防的な防御とゼロトラストの徹底 —Agentic AIは、行動分析を活用してベースライン活動からの逸脱を検知し、 ゼロデイ攻撃 および 内部者による脅威 が深刻化する前に警告を発します。 ユーザーの行動や資産の重要度を継続的に監視することで、 のゼロトラストポリシー（）を適用し、アクセスが常に状況に応じて正当化され、動的に調整されることを保証します。
エージェント型AIの落とし穴と危険性
エージェント型AIの愛好家たちは、そのような可能性はあるものの、すべてがセキュリティの理想郷になるわけではないこと、また、エージェント型AIを活用したSOCを実現することは、スイッチを切り替えるほど簡単ではないことを認識しています。
「この技術は、必ずしも導入が容易というわけではありません。」デビッド・マーカス氏、連邦政府上級セキュリティ技術者兼インテル社プリンシパル・エンジニア
「この技術は必ずしも導入が容易なわけではなく、新たな課題も少なからず生じることになるでしょう」と、半導体メーカーのインテルで連邦政府担当シニアセキュリティ技術者兼プリンシパルエンジニアを務めるデビッド・マーカス氏は述べました。
こうした課題には、独自形式や旧式のプログラミング言語に起因するレガシーシステムとの統合に加え、リアルタイムのデータ交換に必要なアプリケーション・プログラミング・インターフェース（API）を必要とする最新のAIフレームワークへの対応が不十分な点などが挙げられます。 こうした機能がなければ、SOC内のエージェント型AIは、十分な情報に基づいたタイムリーな行動をとるために必要なデータを得ることができません。
こうした課題は、データ形式の標準化、古いログの整理、不正確なデータや必要なメタデータが欠落しているデータの削除など、データ品質やデータ整備に関する一般的な課題に加えて生じるものです。
さらに、AIエージェントはツールやデータへのアクセスが容易であり、自律的に機能する能力も備えているため、人間に関連するあらゆる課題はAIエージェントにも当てはまります。 そのため、権限の悪用や認証情報の盗難のリスクにさらされやすくなります。 これは人間のスタッフの場合と同様で、攻撃者が担当者を装い、機密データを損傷・妨害したり、 機密データを漏洩させたりするような不正な操作を行う可能性があります。。
規模が大きくなるにつれ、組織がチームやワークフロー全体にエージェントをさらに導入するにつれて、これらのリスクは相乗的に増大し、しばしば「 」と呼ばれるエージェント型AIの無秩序な拡大につながります。これは、自律システムが、ガバナンス、可視性、説明責任の仕組みが適応できる速度を上回るペースで増殖してしまう状態を指します。
[関連記事：AIがデータ損失防止をどのように再定義しているか]
また、AIへの過度な依存というリスクもあります。信頼が高まりすぎて人間の監視が緩み、人的なチェックが疎かになると、「アラート・ブラインドネス」が生じる恐れがあります。 「プロセスの成熟度が高くない状態で完全自動化を行うのはリスクが伴います」とレメス氏は付け加えました。 「まずは手作業によるプロセスから始め、次に人が制御する自動化、その次に人が監督する自動化へと移行し、最後に完全自動化へと進むべきです。」 「組織は、プロセスが成熟するにつれて、能動型AIを導入すべきです。」
より安全なエージェント型AIを実現するための5 のステップ
セキュリティの責任者たちは、エージェント型AIのスピードを活用しつつ、重要な判断を委ねることなく、これらのエージェントを適切に制御し、適切なレベルの自律性を実現する方法を学びます。
「これは、こうした大きな技術革新の波が訪れるたびに目にする問題の一つです。 「私たちは良い面については話し合いますが、悪い面について十分に議論する時間がありません。」S&Pグローバル・マーケット・インテリジェンスの情報セキュリティ研究責任者、スコット・クロフォード氏
「ここにはバランスが必要なのです」とクロフォード氏は述べました。 「これは、こうした大きな技術革新の波が訪れるたびに目にする問題の一つです。 私たちは良い面についてよく話し合いますが、会話に健全なバランスをもたらすために、悪い面について十分に話し合う時間が足りていません。 残念ながら、その結果、人々はその可能性に非常に期待を膨らませるものの、自分がどのような事態に巻き込まれることになるのか、その影響については考えないのです。」
企業がそのバランスを確実に保つために講じることができる措置はいくつかあります：
1. 堅牢な能動型AIガバナンスの枠組みを確立する
まず、セキュリティ運用において自律型AIをどのように活用するかを定めた明確な方針とガイドラインを作成することから始めましょう。これには、意思決定ルールや、 業界標準への準拠（）などが含まれます。 これにより、組織内の全員が、展開されるエージェントの適切な登録を含め、権限の範囲や責任を確実に理解できるようになり、誤用や法的問題のリスクを軽減することができます。 新たな脅威や規制に対応できるよう、これらの枠組みを定期的に見直し、更新し、責任感ある文化を醸成しましょう。
「当研究所には、独自のエージェンティック・エージェントを開発しているスタッフが数多く在籍しており、これは素晴らしいことです。」 しかし、私たちは……それらが適切な安全策に基づいて作成・開発されていることを確認する必要があります。”ServiceNowのCISO補佐、ジェフリー・ディムーロ氏
これが、ServiceNowの副CISOであるジェフリー・ディムーロ氏が、同社でかつて データガバナンス、セキュリティリスク 、およびサードパーティリスク を統括していた経験から、こうしたガバナンスなしに自律型AIが蔓延することへの警鐘を鳴らしている理由の一つです。
「当社には、独自のエージェント型エージェントを開発しているスタッフが数多くいます。これは素晴らしいことです」と彼は述べました。 「しかし、私たちは……適切な安全対策に基づいてそれらが作成・開発されていることを確認し、それらの［エージェント］を登録するとともに、作業の重複を避けることで、環境全体のすべてのユーザーが検証済みのツールを利用できるようにする必要があります。」
2。 きめ細かなアクセス制御を通じて、エージェント型AIの境界を設定します
AIエージェントがアクセスできる対象や実行できる操作について、詳細な制御を適用し、ロールベースの権限やゼロトラストの原則といったモデルを活用して、リスクの露出を制限します。 これにより、不正な操作を防止し、 は重要な資産を潜在的な脅威から保護します。 こうした管理措置により、AIが新たな脆弱性を生み出すことなくセキュリティを強化できることが保証され、安心感をもたらします。
たとえば、セキュリティ担当者は、アラートの調査やログの照会を行うための読み取り専用アクセス権限を持っている場合がありますが、是正措置を実行することはできません。つまり、不審なアカウントを無効化するのではなく、人間による確認のためにフラグを立てることになります。 別のエージェントは、侵害されたエンドポイントを自動的に隔離することはできますが、 のID管理システム（ ）にアクセスして認証情報をリセットすることはできません。 3つ目の方法は、脆弱性のあるアプリケーションにパッチを適用することはできますが、ファイアウォールのルールを変更することはできません。
3。 多層防御による自律型AIのチームワークを促進する
AIシステムには複数の安全対策を講じ、ある対策が機能しなくなった場合でも、他の対策が代わって保護機能を維持できるようにします。
SOCのエージェントは、侵害されたエンドポイントを検出して隔離するかもしれませんが、別のネットワークセグメンテーション層によって、そのエンドポイントの横方向の移動が阻止されます。 の自動パッチ管理エージェント が更新プログラムを適用しますが、パッチによって重要なアプリケーションに不具合が生じた場合、別のロールバックシステムを使用して変更を元に戻すことができます。 この多層的なアプローチにより、個々のセキュリティ侵害による影響を軽減し、運用を安定させることができます。 これは、事業継続の目標に沿った、強靭なセキュリティ体制の構築を促進します。
4。 能動型AIと人間の監督を組み合わせる
特に重大な局面においては、経験豊富な担当者がAIによる重要な意思決定の監視および承認に関与し続けるようにしてください。 このハイブリッドモデルは、人間の判断を活用してAIの強みを補完することで、エラーを減らし、信頼性を高めています。 監督体制は、倫理的な指針に沿った行動を確保するとともに、必要に応じて迅速な対応を可能にします。
「依然として人間の関与が必要です。」 これが「信頼はするが、検証もする」という考え方です。”ディムーロ
「もしアシスタント――私が『エージェント型AI』と呼ぶ、私がこれまでに得たことのないほどの情報にアクセスできるアシスタント――に、その情報を関連付けさせ、私の作業を効率化してもらうとしても、それでもなお、人間の関与は不可欠です。」 「これが『信頼はするが、確認もする』という原則です」とディムーロ氏は助言しました。
5。 エージェント型AIの継続的なテストと検証を実施する
AIの性能を検証し、実際の運用に影響が出る前に弱点を洗い出すため、定期的に攻撃やシナリオのシミュレーションを行ってください。 この継続的なプロセスにより、システムは絶えず変化する脅威に対しても強靭さを維持しています。
もちろん、コンピューティングの鉄則である「ゴミを入れれば、ゴミが出る」という原則が当てはまります。 組織は、AIシステムに投入するデータが正確かつ安全であることを確保することに注力する必要があります。
能動型AIの3要素：透明性、信頼、そしてチームビルディング
また、結果がどのように導き出されたかを説明するツールを活用し、すべてのアクションをログに記録して確認しやすくすることで、AIの意思決定プロセスをより理解しやすいものにすることも極めて重要です。
「現在、エージェント型AIは有効に機能していますが、信頼と適切なガバナンスのためには、十分な透明性と説明可能性が不可欠です。」Cybr.SEC.Community 最高経営責任者（CEO）、マイケル・ファーナム氏
これにより、チームや関係者の間で信頼が築かれ、問題や異常を迅速に特定できるようになります。 また、透明性の高いシステムは、監査の効率化にもつながり、規制当局やパートナーに対して、AIが倫理的に活用されていることを示す上でも役立ちます。
「現在、エージェント型AIは有効に機能していますが、信頼と適切なガバナンスを確保するためには、十分な透明性と説明可能性が不可欠です」と、テクノロジーコンサルティング会社 Trace3 の元顧問CISOであり、現在はヒューストンを拠点とするサイバーイベント企業Cybr.SEC.CommunityのCEOを務めるマイケル・ファーナム氏は述べました。
[関連記事：AIエージェントや自動化されたワークフローが、いつになったら信頼できるようになるのか]
最後に、SOCチームはAIへの対応準備を整えておく必要があり、 のスタッフには適切なトレーニングを受けさせる必要があります。。 リーダーは、AIを導入する前に、自組織の現在のインフラ、データ整備状況、チームのスキル、そして組織風土を評価し、課題を特定することで、円滑な導入を実現する必要があります。 研修プログラムを提供することで、従業員がAIツールを効果的に活用できるようになり、より付加価値の高い業務に注力できるようになります。 この準備は、AIの導入に伴う抵抗を最小限に抑え、生産性の向上を最大限に引き出すことを目的としています。
架空の「センチネル」「ハンター」「ディフェンダー」といったエージェントが、現代のセキュリティ運用チームにおいて、チームメンバーとして恒久的な地位を確立できるかどうかは、まだ未知数です。 しかし、現時点ではそれらが導入されており、役に立っているようですので、セキュリティの責任者はそれらについて理解を深め、長所と短所を把握し、最大限に活用する必要があります。
過重な負担を抱えている彼らのセキュリティチームには、確かに助けが必要でしょう。
