多くの企業が生成AI（GenAI）を導入し、投資を行っているからといって、彼らが実際に この技術が何である か、あるいは、さらに重要なこととして、それが収益や ブランドの評判にどのような脅威をもたらす可能性があるかを 理解しているとは限りません。 効率の向上やコスト削減が期待される中、AIの導入が加速するにつれ、取締役会や経営幹部は、ビジネスに及ぼしうる潜在的なリスクについて専門家の助言を必要としています。
新たなタイプのIT専門家が登場しました。それは、 の最高情報セキュリティ責任者（CISO）であり、AIリスクアドバイザーを務める 氏です。
これらの数字は、こうした指針が必要であることを示しています。 ウォートン・スクールが『 』誌で最近発表した調査（ ）によると、ビジネスリーダーの82％が毎週AIを利用しており、その半数近くが毎日AIに頼っていることが分かりました。 さらに、この調査によると、経営幹部の4人に3人はすでにAIへの投資からプラスのリターンを得ており、その大半が近い将来、さらに投資を増やす見込みであることが明らかになりました。 しかし、彼らは脅威の状況がどれほど拡大しているかを、十分に理解していないかもしれません。
MITスローン・スクール・オブ・マネジメントとSafe Securityによる新たな調査報告 によると、ランサムウェア「 」（ ）のほぼ80％が現在AIを活用しており、攻撃の速度、件数、規模が大幅に増加していることが示唆されています。 Then there’s the in-house threat: More than half of employees are using shadow AI, unsanctioned AI tools that put companies at risk—this per a comprehensive survey of 6,000 workers in the U.S., UK, and Germany by the German software conglomerate Software AG in 2024. （今日では、その数字はさらに高くなっている可能性が高いでしょう。） また、 の報道によると、昨年、企業の 13％がAIモデルやアプリケーションに関連する情報漏洩を報告しました。 IBM。
CISOは、ビジネスに対するこうした指数関数的に増大するリスクについて、またそれらを最小限に抑えるためにどのような新たな管理措置や支出が必要となるかについて、意思決定者に対し、より定期的に、かつ詳細に情報を提供できる立場にあります。
AIリスクの観点からCISOの役割を再考する
AIリスクアドバイザーとは、サイバーセキュリティ戦略の策定と実行に加え、ビジネス目標の達成や顧客の信頼向上に向けて、AIを安全かつ確実に、コンプライアンスを遵守し、倫理的に活用できるよう経営陣を指導する役割を担う人材だとお考えください。
「私が参加するほぼすべての取締役会において、AIは現在、議題の上位3項目に入っていますが、ほとんどの取締役会では依然としてAIを十分に理解できていません。」デビッド・ジー氏（取締役会リスクアドバイザー、元HSBC最高情報セキュリティ責任者、著述家）
ある意味では、その役割はすでに存在しています。 ランサムウェア、データ漏洩、 サプライチェーンへのハッキング といったサイバーセキュリティ上の問題が、米国の企業に数百億ドルの損害をもたらしていることから、セキュリティは企業にとって深刻な懸念事項となっています。 現在では、多くのCISOが年に数回、取締役会に対して報告を行っています。
しかし、だからといって、CISOたちが、取締役会や経営幹部がAIについて本当に知るべきことを的確に説明できているわけでもなければ、経営陣が説明された内容を正しく理解しているわけでもありません。
「私が参加するほぼすべての取締役会において、AIは今や議題の上位3項目に入っていますが、ほとんどの取締役会では依然としてAIを十分に理解できていません」と、シドニーを拠点とする取締役会リスクアドバイザーであり、HSBCの元CISO、そして新刊『em』『A Day in the Life of a CISO』の著者であるデビッド・ジー氏は述べています。</em> 「彼らは、サイバーセキュリティ、データ、あるいはAIの経験を持つ人材ではなく、会計や法務のバックグラウンドを持つ取締役を採用しているのです。」
[関連記事：エージェント型AIがSecOps分野へ進出――そのメリット・デメリットと導入拡大に向けた手順をご確認ください]
Saviyntのチーフ・トラスト・オフィサーであり、かつてCISOを務め、現在、サイバーセキュリティに関して取締役会に助言を行っているジム・ラウス氏は、多くのCISOが、従来のサイバーセキュリティツールや管理措置でAIリスクに対処するには十分であると取締役や経営陣に説明しているかもしれませんが、実際にはそれらは不十分であると述べました。
「現在、CISOの約 40％が、『現在導入されている管理措置は、この技術の変化に対処するのに十分である』と述べています」とラウス氏は述べました。 「それは無責任だと思います。」
ジーさんも同じ問題を感じています。
「ほとんどの組織は、GenAIが登場する前から作成されたマニュアルに基づいて、今もなお運営されています」と彼は述べました。 「脅威の攻撃対象領域は2倍に拡大しました。従来のシステムから、アプリケーション・プログラミング・インターフェース（API）、検索強化生成（RAG）パイプライン、アクセス制御モデルといった新たなAIの侵入経路にまで広がっていますが、ほとんどのCISOは、まだそれらを把握できていません。」 API、RAGパイプライン、およびモデルへのアクセス制御は、AIモデルとデータ、アプリケーション、ユーザーをつなぐ架け橋としての役割を果たしており、攻撃の標的として注目されるケースが増えています。
AIのリスクと適切な脅威への対処
ラウス氏は、AIによる脅威の状況が3つの側面から拡大しており、そのそれぞれに対して、CISOの能力を最大限に活用して対処しなければならないと述べました。 その中には、次のようなものがあります：
- 基盤モデル――では、従業員が日常的なプロンプトを通じて、 機密データを 漏洩させるリスクがあります。
- SaaSアプリケーション――――では、最小限の監督のもとで言語モデルが組み込まれています。
- ソフトウェア開発――では、経験レベルの異なる人々がAIを活用して、潜在的な脆弱性を含むコードを次々と生成しています。
「vibe coding」として知られる、AIモデルを用いて平易な英語の指示から完全なアプリケーションを作成する手法について、ラウス氏は、アプリケーションが組織の業務やサプライチェーンパートナーにとって極めて重要な役割を果たしていることから、これを最も懸念しています。
そして、その範囲はアプリのコーディングだけにとどまりません。 シャドウAIプロジェクト全般における脅威の高まりは、ノースウェストAIコンサルティングの主任AIコンサルタントであるワイアット・メイハム氏をはじめとする専門家たちを懸念させています。 各事業部門の従業員が、承認されていないAIのパイロットプロジェクトを立ち上げていたり、 セキュリティ審査を経ずにサードパーティ製のツールを購入したりしている。これにより、CISOが決して無視できない死角が生じていると、同氏は述べました。
「毎週のように、IT部門が承認していないにもかかわらず、本番環境で稼働している新しいAIアプリが見つかります」とメイハム氏は述べました。 「問題は、AIツールそのものだけではありません。 「何かが故障するまで、そのツールの存在すら知らないのは経営陣なのです。」
の可視性の欠如 は、単なる技術的な課題にとどまらないと、同氏は述べました。 これはガバナンス上の課題であり、企業は規制当局からの罰金、事業停止、ブランドイメージを損なうような報道といったリスクにさらされることになります。 そのため、専門家たちは、CISOは裏方で防御に徹する役割から、意思決定の場においてリスクのアドバイザーとしての役割へと転換する必要があると指摘しました。
適切な言葉遣い
多くのCISOは、依然として 、ビジネス用語を用いてAIのリスクについてどう説明すべきかを学んでいる最中です。
「問題は、AIツールそのものだけではありません。 「何か問題が起きるまで、そのツールの存在すら知らないのは経営陣なのです。」”ワイアット・メイハム、ノースウェストAIコンサルティング社 主任AIコンサルタント
マクドナルドやT-Mobileの元CISOであり、現在はAstrix Securityの常駐CISOを務めるティモシー・ヤングブラッド氏は、あまりにも多くのセキュリティ責任者が、単に技術について語る段階から、強固なセキュリティがいかにビジネスの成長を支えているかを示す段階へと移行することに苦労していると述べました。
「多くのCISOは技術に精通しているあまり、自社が収益を上げようとしているからこそ自分がその役職に就いているという理由を、時折忘れてしまうことがあります」と彼は述べました。 「その仕事は、その収益を維持し続けるとともに、その場にいる全員が理解できる言葉でリスクについて説明することです。」
その言葉遣いは、取締役会から始まります。 経営陣には、モデルポイズニングや、 プロンプトインジェクション、あるいはパッチ適用について、詳細な説明は必要ありません。 彼らは、セキュリティ対策がどのように収益、顧客、そして評判を守っているのかを理解したいと考えています。
ガバナンスに関する問題が表面化するにつれ、こうしたより広い視点からの捉え方は、さらに重要になってきています。
[関連記事：GenAIの導入競争？ セキュリティは、適切なガバナンスから始まります]
のバグ報奨金プログラム および脆弱性開示サービスを提供するHackerOneのCEO、カラ・スプレッグ氏は、取締役会がCISOに対し、 AIセキュリティ（つまり、システムを攻撃から防御すること） とAIの安全性（AIが意図した通りに動作することを保証すること）を区別するよう求めるケースが増えていると述べました。 彼女は、どちらか一方のカテゴリーにばかり注目していると、企業は全体像を見失ってしまう恐れがあると警告しました。 CISOは議論全体を主導する必要がある、と彼女は述べました。
「私たちの調査によると、セキュリティや安全性に関連するAIリスクに関しては、CISOの約 84％が責任を負う立場と見なされていることが明らかになりました」とスプレッグ氏は述べました。 「つまり、CISOには、その役割を担う意思があるか、あるいはその能力があるかどうかにかかわらず、期待が寄せられているのです。」
経営幹部の課題――AIリスクに関する厳しい現実に直面する
その期待に応えるためには、予算の調整が必要になるかもしれません。 従来の防御システムは、単にAIに対応するように後付けで改良するだけでは不十分です。 その代わりに、ラウス氏をはじめとする専門家たちは、データガバナンス、モデルの監視、およびリアルタイムの安全対策に資金を投入すべきだと述べています。
「」 そんなネガティブな人にならないでくださいね……。 AIリスクアドバイザーとして、組織が安全に「はい」と答えられるような解決策を提案できる存在でありたいものです。”HackerOneのCEO、カラ・スプレッグ氏
ラウス氏とヤングブラッド氏の両名が強調したように、その課題は、技術的な専門知識と同様に、ストーリーテリングやプレゼンテーション、分析といったソフトスキルも求められるという点にあります。 リスクアドバイザーは、リスクだけでなく機会も強調するような説得の仕方を心得ていなければならない、と彼らは述べました。
AI時代におけるセキュリティリーダーの役割の変遷について著書で論じているジー氏は、その道のりを「責任を持つ」「準備を整える」「ステークホルダーと連携する」という3つの必須事項に基づいて位置づけています。
「AIは一過性の流行などではなく、まさに津波のようなものです」と彼は述べました。 「その波に乗る準備をするか、それともその波に飲み込まれるかのどちらかです。」
AIリスクアドバイザーになるための5 のステップ
では、CISOはこれらすべてをどのようにしてこなせばよいのでしょうか？ AIリスクアドバイザーになるための、専門家からのアドバイスをいくつかご紹介します：
- 自社の状況を把握しましょう――CISOは、 社内のあらゆる部門において、AIがどのように、どこで利用されているかを 把握する必要があります。これには、承認されていない「シャドーAI」プロジェクトも含まれます。 「存在すら知らないものを、統治することなど到底できません」とメイハム氏は述べました。 つまり、AIシステムの特性把握やデータフローの追跡を行い、盲点がリスクに発展する前にそれを明らかにすることだ、と彼は述べました。
- 「責任ある利用」の定義 —可視性が確保されたら、CISOはAIの「責任ある利用」とは何を意味するのかについて、合意形成を主導すべきです。 業界や規制要件によって異なりますが、責任ある利用こそが、その他のあらゆる取り組みの指針となるべきだと、ラウス氏は述べました。
- ガバナンスを事業に組み込む—続いて、ラウス氏とヤングブラッド氏は、CISOは、ガバナンス（AIポリシー、監督、説明責任、および 規制遵守）を日常業務にどのように組み込んでいるかを明確に説明できなければならないと述べました。そうすることで、サイバーセキュリティと安全性を、後回しにされるものではなく、中核的な事業責任として位置づけることができるのです。
- 取り組みの優先順位をつける――また、無理にすべてを一度に片付けようとはしないことも重要です。 スプレッグ氏は、CISOは脅威の全体像を把握し、AIがビジネスの優先事項に対して最大のリスクをもたらす箇所を特定し、リスク対策の具体的な不備をどのように解消するつもりなのかを説明できなければならないと述べました。 「これは最適化の問題なんです」と彼女は言いました。「サイバーセキュリティの予算が、攻撃対象領域と同じペースで増えていないことは、皆さんご存知の通りですから。」
- 「教育、教育、そして教育――」 最後に、CISOは、変化し続ける脅威の状況、企業の対策、そしてそれらがビジネス上の優先事項とどのように関連しているかについて、取締役会や従業員に常に最新情報を提供し、認識を一致させておく必要があると、ヤングブラッド氏とスプレッグ氏は述べています。 そうした話し合いは正確である必要があり、取締役や経営陣に対し、何が起きているのか、そしてその理由について、明確かつ包括的な理解をもたらすものでなければなりません。 「CISOが教育の先頭に立って取り組まず、その代わりに『我々は問題ない』とばかり言っているようでは、かえって害を及ぼしていることになります」とラウス氏は付け加えました。
[関連記事：良きガバナンスから始まる――州全体を網羅するサイバーセキュリティ戦略の策定方法]
何よりも、取締役会や経営陣レベルでのあらゆる議論において、CISOの計画が、活動を制限したり「ノー」と言うのではなく、いかにイノベーションを促進するものであるかを強調すべきだと、スプレッグ氏は述べました。
「『いや、それは無理よ』とばかり言う、あのデビー・ダウナーみたいな人にならないでくださいね」と彼女は忠告しました。 「AIリスクアドバイザーとして、組織が安全に『はい』と答えられるような解決策を提示できる存在でありたいものです。」