人工知能（AI）をめぐる議論では、最も恐ろしいシナリオ――人間である創造者を瞬く間に支配し、意のままに操る超知能や、AIを利用して世界征服に乗り出す悪意ある国家など――に焦点が当てられがちですが、AIがもたらす最も現実的なリスクは、もっとありふれたものです。 それに、ずっと扱いやすくなります。
これは、生成型人工知能（GenAI）、すなわちプロンプトに応じて新しいテキスト、画像、音声、あるいはコードを生成できるあらゆるシステムを導入したいと熱望している、数え切れないほどの企業経営者にとって朗報となるはずです。 GenAI（ ）に関連する のリスクについては、企業のIT幹部やの最高情報セキュリティ責任者（CISO）の間ではすでに周知の事実となっています。 これらは、データ 、ガバナンス、 、データセキュリティ、 、信頼性が高く倫理的な意思決定、およびAIアプリケーション自体のセキュリティに関連しています。
これらの懸念と、企業が長年にわたり直面してきたより一般的なサイバーセキュリティリスクとの間には、大きな違いがあります。それは、企業内におけるGenAI技術が新しく、セキュリティ上の結果が予測できないという点です。 この予測不可能性の規模は、 多くの科学者を 不安にさせていますが、決して乗り越えられない問題というわけではありません。 企業がジェネレーティブAIの全体的なリスクを効果的に管理するために講じることができる対策があります。
「第一歩は、少なくとも、大規模言語モデルの活用方法に関する指針を示す方針を策定することです」と、AIサイバーセキュリティ企業StackAwareの創業者兼CEOであるウォルター・ヘイドック氏は述べています。 現在利用可能なGenAIの新しい形態の中でも、要求に応じてテキストやコードを生成する大規模言語モデル（LLM）は、 あらゆる規模の企業から大きな関心を集めています 。
「第一歩は、少なくとも、大規模言語モデルの使用方法に関する指針を示すポリシーを策定することです。」StackAwareの創業者兼CEO、ウォルター・ヘイドック氏
Enterprises spent an estimated $19.4 billion on GenAI solutions in 2023 – and may invest as much as $151 billion by 2027 – according to figures from research firm International Data Corp. 特にLLMは、旅行（エクスペディア）、保険（オールステート）、金融サービス（マスターカード）、製造（シュナイダーエレクトリック）など、さまざまな業界の大手企業において、すでにチャットボットとして活用されています。
何が懸かっているのでしょうか？ 適切な内部ガバナンス方針を整備していない企業は、自社開発のLLMモデルが生成する結果に信頼を置くことができないことに気づくでしょう。 それにより、倫理上の問題や著作権侵害、あるいは のようなデータ漏洩のリスクが高まることになります。。 また、サイバー攻撃を受けた場合、 LLMモデル そのものの制御を失う可能性もあります。
効果的なGenAIガバナンスの構築は、想像以上に短期間で実現できます
世界をリードするサイバーセキュリティ研究・研修機関であるSANS Instituteの、新たなセキュリティ動向担当ディレクター、ジョン・ペスカトーレ氏は、ヘイドック氏の見解に同意し、組織に対しては包括的なガバナンスモデルから着手するよう助言しています。 これには、モデルそのものと、モデルに投入されるデータの保護、およびモデルの挙動の監視が含まれます。
「モデルを構築してそのまま放置するのではなく、継続的な管理こそが成果をもたらすのです。」SANSインスティテュートの新興セキュリティ動向担当ディレクター、ジョン・ペスカトーレ氏
そのプロセスに数ヶ月もかかる必要はありません。 数週間で完了することは可能です。ただし、すべてのGenAIシステムを将来にわたって管理するための最終的な規則やガイドラインを策定するわけではない、という前提での話です。 技術や企業のニーズが変化するにつれて、貴社の戦略は（そしてそうあるべきですが）時間の経過とともに調整されていくことになります。 「モデルを構築してそのまま放置するのではなく、継続的な管理こそが成果をもたらすのです」とペスカトーレ氏は述べています。
長期的に効果的に「仕事を成し遂げる」ためには、専門家は組織に対して以下の措置を講じることを推奨しています。
1. AI／LLMおよびデータガバナンスプログラムの適用範囲を定義してください
つまり、GenAIシステムの具体的な目標を明確にし、その限界を明示することです。 明確な境界線を設けることで、コンプライアンスやプライバシー基準に違反する可能性のある出力を防ぐことができます。 役割、責任、およびベストプラクティスを確認するために、以下の点について確認・決定してください。LLMプログラム、データソース、およびLLM内のデータの分類のセキュリティ確保と管理について、誰が責任を負うのでしょうか。 では、そのモデルは、そのデータをどのように収集、保存、管理、活用するのでしょうか？
[関連記事：ジェネレーティブAIがもたらす 3 の最大の脅威（さらに1つのリスク）と、それらに対抗する方法]
2。 徹底したデータ管理体制を確立する
組織は、LLMの学習に使用するデータのクリーニング、データ強化、および検証の方法について、詳細に説明しなければなりません。 繰り返しになりますが、これらのプロセスを誰が監督するのか、またどのような手順が求められるのかを明確にすべきです。 トレーニングデータの検証（正確性を確認するため）および、 機密データ、、規制対象データ、あるいは知的財産（一般公開されるモデルの場合）の除去は、データの漏洩や プライバシー侵害 を防ぐために不可欠です。
3。 強固なデータセキュリティを求めます
クラウドセキュリティのスタートアップ企業「Sentra」の共同創業者兼CTOであるロン・ライター氏は、「端的に言えば、データセキュリティは基盤となるものです」と指摘しています。 「移動中の機密データをしっかりと保護すれば、攻撃対象領域を最小限に抑えることができ、より優れたセキュリティポリシーを構築できるようになります」と彼は述べています。
また、モデルへのアクセスやモデル開発、モデルに投入されるデータ、およびモデルとそこに含まれるデータをどのように保護するかについて、方針を定めることも賢明です。 ガバナンス計画担当者は、組織がデータおよびモデルの動作が、 の政府規制 および社内基準に準拠していることをどのように確保するかを決定しなければなりません。
4。 継続的に監視する
組織は、AIの挙動、モデルへのデータ供給、およびモデルの利用状況を監視するための体制を整備しなければなりません。 モデルが悪意のある動作を始めたり、機密データを漏洩させたりした場合は、事業を停止せざるを得なくなります。
5。 バイアスを軽減する
バイアスを完全に排除することは不可能ですが、企業としては、LLMシステム内のバイアスを軽減し、バイアスが発生した際にそれを特定するための仕組みを構築し、導入することができます。 生成AIに起因するバイアスは、融資の承認、信用スコアリング、採用活動、さらには に関する誤情報の拡散にまで影響を及ぼす可能性があります。。 リスク軽減の取り組みには、データキュレーション（多様な情報源からのデータを活用すること）、バイアス検出ツール、データおよびLLMに関する透明性の確保、そして頻繁なモニタリングを含めるべきです。 企業は、企業データ内に潜在的なバイアスが存在する可能性があるため、バイアスによる結果が生じないよう、継続的なチェックを実施しなければなりません。
6。 インシデント対応を見直してください
のインシデント対応プレイブック を再確認し、Generative AI（GenAI）への対応が盛り込まれているかご確認ください。 インシデント対応計画では、GenAIシステムに不具合が生じた場合やサイバー攻撃を受けた場合に備え、段階的な対応手順を明確に定める必要があります。
7。 柔軟性を保つ
企業は、AI技術の進歩や、米国の 、 、および海外の、といった政府規制当局による新たな規則に適応できるほど柔軟な、GenAIガバナンスの枠組みを構築しなければなりません。 効果的なGenAIガバナンス方針では、企業におけるLLMの利用状況を定期的に監査し、違反の可能性がないかを確認するとともに、方針の有効性を評価することになります。
[関連記事：AIを活用したサイバーセキュリティの完全ガイド ― メリット、リスク、そして成果]
8。 統一感を保ちましょう
AIガバナンスの枠組みが、組織全体を通じてAIの利用とセキュリティを一元的に管理することが不可欠です。 効果的な戦略とは、AIガバナンスに関して、各部門や事業部門がそれぞれ独自に動き回らないようにすることを保証するものでなければなりません。
GenAIガバナンス方針の微調整
ガバナンス計画では、企業が使用するLLMの種類についても盛り込む必要があります。 （既存の大規模言語モデル（LLM）を利用したり、事前学習済みのLLMをカスタマイズしたり、あるいは一から独自のLLMを構築したりすることができます。） 独自に構築する場合、1つの大規模なモデルを構築し、そこに投入されるデータを仮想的に分離して、各部門で利用できるようにする方が有利に思えるかもしれません。 より良い選択肢として考えられるのは、マーケティング、研究、財務などの分野ごとに、物理的に分離された小規模なLLMを構築し、スタッフやその他のユーザーが、アクセス権限があり、かつ正当な必要性があるデータにのみアクセスできるようにすることです。 GenAIシステムへのアクセスを制限することで、データ漏洩がさらに広範囲に及ぶリスクを軽減することができます。 「アクセス制御やデータの区画化に関して、モデルを保護するために可能だと私が考える唯一の方法です」とライター氏は述べています。
他の包括的なサイバーセキュリティポリシーと同様に、 のサードパーティ・リスク管理 は、GenAIガバナンス計画において不可欠です。 企業の経営陣やセキュリティチームは、自社のネットワークアーキテクチャにとどまらず、サードパーティのサプライヤーのガバナンスやセキュリティプロトコルにも目を向け、それらのガバナンスやリスク管理の実践が自社のものとどのように関連しているかを評価し（かつ継続的に監視し）、確認する必要があります。
全体的なガバナンス計画と同様に、 第三者リスクの評価 も、それほど時間を要するものではありません。 「クライアントとの実績から、GenAIを保護するためのセキュリティ環境の評価と強化は、通常 60 日間で完了可能です」と、プライスウォーターハウスクーパース（PwC）が最近発表した、ビジネスにおけるGenAIのスケーリングに関するガイド『』（ ）は指摘しています。
[関連記事：AIの一分野である機械学習は、膨大なデータからパターンや知見を導き出すことができます――その基礎知識をご紹介します]
のセキュリティ責任者と経営幹部が認識を一致させることは重要です。 は、特にサードパーティ製AIを企業の承認リストに追加するための前提条件や手続きに関して、このプロセスを円滑に進めるのに役立ちます。 「何らかの理由でセキュリティチームがそのツールの使用や、その種類のデータをそのツールに取り込むことに同意しない場合、ビジネス上の正当性に基づいてリスクの受容を得るためのプロセスは以下の通りです」とヘイドック氏は説明しています。
専門家たちは、これらすべてにおいて重要なのは、「セキュリティ・バイ・デザイン」への取り組みと投資であると口を揃えています。
「生成AIの導入とセキュリティ確保をめぐる競争は、典型的なパターンに従っています。企業は導入を急ぐ一方で、セキュリティ対策が後れを取っているのです」とペスカトーレ氏は述べています。 「残念ながら、セキュリティは常に後手に回らざるを得ないのです」と彼は言います。 また、ライバルに追いつこうとするのは、確実に失敗する戦略です。
