英国に拠点を置くエネルギー企業に対する のサイバー攻撃（ ）では、AIを用いてCEOの声を模倣し、従業員を騙して2019年に243,000 ドルを偽の口座に送金させました。 によるサイバー諜報活動 は、AIで生成された フィッシングメール を用いて、世界各国の通信企業 2021 社を標的としました。 And last year, hackers using AI injected fake video streams into the biometric verification process of crypto exchange Bitfinex, ultimately earning themselves $150 million worth of digital assets.
AIを活用したサイバー攻撃は、日を追うごとにますます巧妙かつ検知を逃れやすくなってきています。
良いニュースは？ AIの力は諸刃の剣であり、自社のサイバー防御にAI （およびそのサブ分野である 機械学習）を導入する「 」の機会を模索する企業が増えています。いわば、「火で火を消す」ような取り組みと言えるでしょう。
デロイトの調査「 」によると、脅威がサイバーアナリストの対応能力を超える水準にまで高まっていることから、現在、企業の3分の2以上（69％）が、サイバーセキュリティにはAIが必要であると考えています。
サイバーセキュリティプログラムにおけるAIの普及は、まだ比較的初期の段階にあるものの、その潜在的なメリットは明らかです。クラウド・セキュリティ・アライアンス（CSA）のAIガバナンスおよびコンプライアンス・イニシアチブの共同議長を務めるマリア・シュウェンガー氏は、AIには膨大な量のデータを処理し、パターンを迅速に認識し、情報に基づいた意思決定を行う能力があり、これにより組織が脆弱性や脅威を特定し、脅威を最小限に抑えるか排除し、より迅速に対応できるよう支援すると述べています。 「AI――そしてGenAI――は、単にサイバーセキュリティの保護を支援しているだけではありません」と彼女は言います。 「彼らは、新しい、強靭なシステムを通じて、私たちが新しい、強靭な世界を築くのを支援してくれています。」
組織がサイバーセキュリティプログラムにおけるAIの活用を検討し始めている中、専門家たちは、以下の分野に大きな可能性があると指摘しています。
1. AIを活用したサイバーセキュリティツールが、脆弱性テストをどのように改善するか
ソフトウェアエンジニアは、安全なコードを書くよう努めていますが、時にはミスが起きてしまうこともあります。 彼らは、不適切なエラー処理を行ったり、ユーザー入力の検証を怠ったりすることで、意図せず脆弱性を生み出してしまう可能性があります（ 、 ）。また、システムが複雑になると、考えられるすべてのセキュリティ上の脆弱性を予測することが困難になる場合もあります。あるいは、ソフトウェアエンジニアが新機能を迅速に提供するために厳しい納期に追われ、コードの品質やセキュリティにおいて手抜きや妥協を余儀なくされる場合もあります。
「AI――そしてGenAI――は、単にサイバーセキュリティの保護を支援しているだけではありません。 彼らは、新しい強靭なシステムを通じて、私たちが新しい強靭な世界を築くのを支援してくれています。”クラウド・セキュリティ・アライアンス（CSA）の「AIガバナンスおよびコンプライアンス・イニシアチブ」共同議長、マリア・シュウェンガー氏
「さらに」と、カリフォルニア大学バークレー校長期サイバーセキュリティセンターのデイライト・ラボ所長であり、研究科学者のニック・メリル氏は述べます。「ソフトウェアエンジニアは、セキュリティや、自分たちが作成したソフトウェアの脆弱性をどのように探すべきかについて、驚くほど知識が乏しいのです。」
従来、実環境での脆弱性が報告された場合、開発者はバグを特定し、 修正を行う責任を負っています。 これは困難で骨の折れる作業となり得ます。バグの根本原因を特定したり、バグを理解して解決策を考案するために特定の条件やシナリオを再現したりするには、多くのファイルやモジュールを調べ回らなければならないからです。 しかし、AIを活用することで、組織はコード内の潜在的な脆弱性を検出・修正するスピードと効率を向上させ、より安全な環境を構築できるとメリル氏は述べています。
[関連記事：AIを活用したサイバーセキュリティの完全ガイド ― メリット、リスク、そして成果]
例えば、AIを活用したツールは、コードベースをスキャンし、パターンを分析することで、SQLインジェクションやクロスサイトスクリプティングといった一般的なリスクを検出し、潜在的な脆弱性を特定することができます。 また、AIは既知の脆弱性に関する大規模なデータセットを用いて学習させることで、新しいコード内の類似したパターンを特定し、それによってこれまで知られていなかった脆弱性やゼロデイ攻撃を明らかにすることも可能です。
「これにより、セキュリティチームは、実環境で問題が報告された後に、事後的にバグを特定して修正する手間を省くことができるため、時間と労力を節約できます」と彼は述べています。 「開発者がセキュリティ上の問題を解決できるよう支援することは、昨今、大きな成果となるでしょう。」
2。 AIを活用したサイバーセキュリティツールが、脅威の検知をどのように強化するか
潜在的なセキュリティ上の脅威を早期に特定することで、 の機密データ、知的財産、および組織の「最も重要な資産」を構成するその他の貴重な資産への不正アクセスを防ぐことができます。 これにより、組織は多額の費用を要するデータ漏洩や金銭的損失、評判の低下を回避することができます。
「開発者が（AIを活用して）セキュリティ上の問題を解決できるよう支援することは、昨今、大きな成果となるでしょう。」ニック・メリル氏、カリフォルニア大学バークレー校長期サイバーセキュリティセンター「Daylight Lab」の研究員兼所長
多くの組織では、セキュリティアナリストが、セキュリティ侵害を示唆する可能性のある不審な活動がないか、システムログ、ネットワークトラフィックログ、およびアプリケーションログを手動で監視する役割を担っています。 CSAのシュウェンガー氏によると、このプロセスは時間がかかり、個人にとって負担になることもあるとのことです。 「脅威を迅速に特定するのは難しい場合があります。特に、人間の目では見逃してしまうような非常に巧妙な脅威の場合はなおさらです」と彼女は言います。 「人間のアナリストの場合、1人が処理できるデータ量には限りがあり、特定のパターンを見逃してしまいがちです。 「しかし、AIは、私たちが見落としてしまうようなパターンを見つけるのが本当に得意なのです。」
AIは膨大な量のデータを分析することができるため、システム、ネットワーク、およびユーザーの正常な動作の基準を確立するために活用することができます。 シュウェンガー氏によると、AIは逸脱や異常を検知することで、不正アクセスの試み、異常なネットワークトラフィック、あるいは不自然なユーザーの行動といった、潜在的なセキュリティ上の脅威を特定するのに役立つとのことです。
[関連記事：ジェネレーティブAIがもたらす 3 の最大の脅威（さらに1つのリスク）と、それらに対抗する方法]
「これは脅威分析において飛躍的な進歩です。なぜなら、データの中に潜むパラメータや異常を、これまで見逃されていたかもしれないものを含め、より迅速に発見できるからです」と彼女は述べています。 「これにより、スケーラビリティが実現されます。なぜなら、 面倒な作業を自動化し、 リアルタイムの情報を取得してセキュリティエンジニアに共有できるため、作業のスピードが上がり、より機敏に対応できるようになるからです。」
3。 AIを活用したサイバーセキュリティツールが、脅威の封じ込めと対応をいかに加速させるか
脅威が検知された場合やセキュリティインシデントが発生した場合は、迅速に事態を是正することが極めて重要です。 「 の脅威、 の侵害、 のデータ漏洩、および のランサムウェア 攻撃に関しては、何と言ってもスピードがすべてです」と、『 Swiped: How to Protect Yourself in a World Filled With Scammers, Phishers and Identity Thieves』の著者であり、 What the Hack ポッドキャストの共同ホストを務めるアダム・レビン氏は述べています。 「問題を解決するための取り組みに着手できるよう、できるだけ迅速に動いて穴を塞ぎ、問題を食い止める態勢を整えておく必要があります。」 「脅威を封じ込めるのが早ければ早いほど、それに対する防御も早くなります。」
「問題を解決するための取り組みを始めるためには、穴を塞ぎ、問題を食い止めるために、できるだけ迅速に行動できる態勢を整えておく必要があります。」アダム・レビン氏（作家、『What the Hack』ポッドキャストの共同司会者）
脅威の封じ込めや対応における従来の方法は、手作業による介入に大きく依存しています。 例えば、セキュリティインシデントが発生した場合、アナリストは手動で影響を受けたシステムを特定し、侵害された資産を隔離し、封じ込め措置を講じなければなりません。 セキュリティアナリストは、セキュリティアラート、ログ、およびフォレンジックデータを手作業で確認し、インシデントの範囲を把握した上で、システムのパッチ適用や、侵害された認証情報の再設定を行います。 こうしたプロセスには時間がかかり、人為的なミスが生じる可能性もあり、その結果、問題の解決がさらに遅れる恐れがあります。
[関連記事：AIが真に「知的」であるかを確認するための 3 の検討事項]
しかし、AIを活用すれば、アルゴリズムが脅威の深刻度や影響を自動的に評価し、 どの資産が影響を受けているかを特定し、、さらには対応措置を調整することさえ可能になると、シュウェンガー氏は述べています。 これには、感染したエンドポイントを自動的に隔離したり、悪意のあるトラフィックを遮断したり、侵害されたサービスを停止させたりすることが含まれる場合があります。
「AIがこうした洞察を提供し、推奨策を提示してくれるため、セキュリティチームが十分な情報に基づいた意思決定を行い、インシデントに対応する上で、これは非常に役立ちます。これにより、当てずっぽうな推測が一切不要になるのです」と彼女は述べています。 「また、将来的には、 ジェネレーティブAI（GenAI）にも大きな可能性があり、インシデント発生後の報告書や要約の作成、回答の準備、そして関係者に情報を提供し続けるための支援などに活用できるでしょう。」
セキュリティ分野におけるAIの可能性は大きいものの、シュウェンガー氏は、いかなるセキュリティプログラムにおいても、 人間の存在が依然として必要であり、価値があることを早々に指摘しています。。 「AIの性能は、その基盤となり、学習に用いられ、分析の対象となるデータの質に左右されます。」 「人間の専門知識や監督に代わるものは何一つありません。これらは、これからも常に必要とされるものです」と彼女は述べています。
