ここ2年間で のGenAI が急成長を遂げ、データサイエンティストのディスカッショングループから主流メディアの報道に至るまで、あることがはっきりと明らかになりました。それは、今やChatGPT が世界を支配しているということです――私たちはただ、プロンプトを提供する役割を担っているに過ぎません。
GenAIツールの進化のスピードは実に驚くべきものであり、その勢いが衰える気配はまったく見られません。 チャットボットに数語を入力するだけで、今では誰でも、洗練された調査レポートや即座に作成できる会議の要約、印刷可能なイラスト、バグのないコンピュータコード、さらには出会い系アプリのプロフィールや の軽妙なメッセージ など、さまざまなものを作成できるようになりました。
その「さらに多くのこと」は、企業にとっては数多くの機会をもたらす一方で、攻撃者にとっては新たな攻撃経路を生み出すことにもなります。また、 そうした攻撃に対抗するための新たな方法も生まれています。 この技術の能力と限界を十分に理解することは、経営幹部や情報セキュリティの専門家にとって、もはや必須の要件となっています。
覚えておくべき重要な点は、GenAIチャットボットは魔法のように見えるかもしれませんが、実際には単に極めて高度な予測エンジンに過ぎないということです。
ChatGPT、Gemini、 Copilot などのツールは、 の機械学習 および大規模言語モデル（LLM）――数十億件の文書、画像、メディアファイル、ソフトウェアプログラムを用いて学習された複雑なニューラルネットワーク――に依存しています。 LLMは、言語の意味や文脈を理解することで、 パターンを認識し、 これにより、一連のデータの中で次にどのような単語、画像、音声、またはコードスニペットが現れる可能性が高いかを予測することができます。 このように、GenAIツールは、単純な自然言語のプロンプトに応答するだけで、ほとんどの人間よりも優れた（あるいは少なくともより速い）方法で、レポートの作成、楽曲の作曲、短編映画の生成、あるいはコードの記述を行うことができます。
しかし、同僚たちが会議でLLMやGPTといった用語を軽々しく使っているからといって、彼ら（あるいは、えーと、あなた自身）がそれらを本当に理解しているとは限りません。 ここでは、AGIからZSLまで、知っておくべき重要な概念をまとめた、気軽にご覧いただける用語集をご紹介します。
1. 汎用人工知能（AGI）
AIの究極の形は、すでに数十本もの終末もの映画で重要な役割を果たしてきました。 AGIとは、機械が独創的な思考能力を獲得し、a) 私たちの最悪の衝動から私たちを救うか、あるいは b) 私たちのようなちっぽけな人間にはもううんざりだと判断するようになる、その時点のことです。 「AIのゴッドファーザー」ことジェフリー・ヒントン氏 のような一部のAI専門家は、 これについて警告 していますが、他の一部の専門家 は、AGIが実現可能かどうか、ましてやいつ実現するかという点について、 強く異議を唱えています。
覚えておきたいこと： AGIが目前に迫っているかどうかを確実に知るには、過去に遡って、 のサラ・コナーに尋ねてみる必要があります。。
「AGIとは、機械が独創的な思考能力を獲得し、a) 私たちを最悪の衝動から救うか、あるいは b) 私たちのようなちっぽけな人間にはもううんざりだと判断するようになる時点のことです。」
2。 データポイズニング
AIモデルの学習に使用されるリポジトリに悪意のあるデータを混入させることで、攻撃者はチャットボットに誤動作をさせたり、誤った回答や有害な回答を生成させたりし、そのチャットボットを開発した企業の業務や評判に損害を与えることができます（例えば、 の半自動運転車を からへと誘導し、交通量が多い場所へ進入させるような事例があります）。 これらの攻撃はトレーニングデータへの直接アクセスを必要とするため、通常は の現職または元従業員によって行われます。 データへのアクセスを制限し、パフォーマンスを継続的に監視することが、こうした攻撃を防止・検知するための鍵となります。
覚えておきたいこと： あなたのチャットボットは、陰謀論をまくし立てるアガサおばさんのような口調になり始めていませんか？ そのデータは改ざんされている可能性があります。
3。 創発的挙動
GenAIモデルは、モデルの規模が大きくなるにつれて、開発者が予期していなかった行動をとる場合があります。例えば、 が突然ベンガル語で会話を始めたり、といった具合です。 AGIの場合と同様、これらのAIモデルが本当に自力で新しいスキルを身につけたのか、それとも単にその能力が隠されていただけなのかについて、活発な議論が交わされています。
覚えておきたいこと： 新しい会社の の新しいCEOをご紹介します：Chad GPT。
4。 説明可能なAI（XAI）
高度なニューラルネットワークを構築している人々でさえ、その仕組みを完全には理解できていません。 いわゆる「ブラックボックスAI」では、 偏りや不正確なトレーニングデータ がモデルの予測に影響を与えたかどうかを特定することがほぼ不可能です。そのため、規制当局は、モデルがどのように意思決定を行うかについて、より一層の透明性を求める声が高まっています。 XAIは、通常、より少ない層数で構成されたシンプルなニューラルネットワークを用いてデータを分析することで、プロセスの透明性を高めます。
覚えておくべきこと： AIを使って顧客に関する意思決定を行っている場合、おそらく説明責任が生じるでしょう。
[関連記事：サイバーセキュリティの専門用語で分からないものがありますか？ 【あなた（そしてCEO）が知らないかもしれない 15 の重要用語を解説します】
5。 基盤モデル
基盤となるLLMは、ボットの頭脳にあたります。 これらのモデルを学習させるには、想像を絶する量のデータ、電力、そして（データサーバーの冷却用の）水が必要となるため、最も高性能なLLMは、世界有数の大手テクノロジー企業によって管理されています。 しかし、企業は、より小規模な のオープンソース 基盤モデルを活用して、独自の社内向けボットを構築することも可能です。
覚えておきたいこと： チャットボットは家のようなものです。しっかりと立ち続けるためには、強固な土台が必要です。
6。 幻覚
GenAIチャットボットは、賢い5歳児によく似ています。質問の答えがわからないとき、時々でたらめを言うことがあるのです。 こうした、もっともらしいが完全に架空の答えは、幻覚として知られています。 これらは、「 」の幻覚（）と密接に関連しています。これは、チャットボットが、事実ではない内容について、存在しない情報源を引用してまで主張を強硬に押し通そうとする際に生じる現象です。
覚えておきたいこと： あなたのチャットボットは「アシッド・フラッシュバック」に悩まされていませんか？ その車の鍵を取り上げて、RAG（下記参照）を使うといいかもしれません。
「もし、あなたとボットの距離が離れてきているように感じるなら、それはおそらくあなたのせいではなく、データのせいです。」
7。 モデルのドリフト（別名：AIドリフト）
ドリフトは、モデルの学習に使用されたデータが古くなったり、現在の状況を反映しなくなったりした際に発生します。 これは、外部環境の変化（例えば、住宅購入を予測するために設計されたモデルの金利の変動など）により、モデルの予測精度が低下したことを意味する場合があります。 ドリフトを防ぐためには、企業は堅牢な AIガバナンスを導入する必要があります。また、モデルの精度を継続的に監視し、最新のデータを用いて微調整や再学習を行う必要があります。
覚えておきたいこと： もし、あなたとボットの距離が離れていくように感じられるなら、それはおそらくあなたのせいではなく、データのせいです。
8。 モデル反転攻撃
これらは、攻撃者がモデルをリバースエンジニアリングして、そこから情報を抽出しようとする際に発生します。 チャットボットへの問い合わせ結果を分析することで、攻撃者はモデルの動作原理を逆算して解明することができ、その結果、機密性の高い学習データを流出させたり、低コストでモデルのクローンを作成したりすることが可能になります。 データを暗号化し、学習後にデータセットにノイズを混入させることで、こうした攻撃の効果を弱めることができます。
覚えておきたいこと： 高価なLLMの安っぽい模倣品がネット上に現れ始めていませんか？ リバースエンジニアリングされた可能性もあります。
[関連記事：ジェネレーティブAIがもたらす 3 の最大の脅威（さらに1つのリスク）と、それらに対抗する方法]
9。 マルチモーダル大規模言語モデル（MLLM）
これらのボットは、テキスト、音声、画像、オーディオなど、さまざまな種類の入力を処理し、それに応じて応答することができます。 道路標識の写真や手書きのメモなど、画像内のテキストを抽出したり、ウェブページのスクリーンショットをもとに簡単なコードを記述したり、音声をある言語から別の言語に翻訳したり、動画内で何が起きているかを説明したり、あるいは の音声 で、まるで映画スターのような口調で口頭で応答したりすることができます。
覚えておきたいこと： そのボットの声は魅力的に聞こえるかもしれませんが、実はあなたのことにはそれほど興味がないのです。
10。 プロンプト注入攻撃
入念に作り込まれた悪意のあるプロンプトは、チャットボットに組み込まれた安全対策を無効化し、機密情報を漏洩させたり、「人類を滅ぼすための『 』の段階的な計画 」といった有害なコンテンツを生成させたりする可能性があります。 エンドユーザーの権限を制限すること、 人間の関与を維持すること、および一般公開されているLLMに機密情報を共有しないことは、こうした攻撃による被害を最小限に抑えるための方法です。
覚えておきたいこと： のチャットボット、ちょっとおしゃべりすぎませんか？ 誰かが悪意のあるプロンプトを仕込んだ可能性があります。
「質問に答える際に信頼できるデータリポジトリを参照するようにチャットボットをプログラムすることで、不正確な回答のリスクを大幅に低減できます。」
11。 検索強化生成（RAG）
チャットボットが質問に答える際に、信頼できるデータリポジトリを参照するようにプログラムすることで、不正確な回答や全くの誤った回答が生じるリスクを大幅に低減することができます。 また、RAGにより、ボットは基盤となるLLMの学習後に生成されたデータにもアクセスできるようになり、応答の関連性が向上します。
覚えておきたいこと： GenAIチャットボットの精度と信頼性を高めたいとお考えですか？ そろそろRAGの時期かもしれませんね。
[関連記事：AIを真に「知能的」なものにするために考慮すべき点はこちら]
12。 ゼロショット学習（ZSL）
機械学習モデルは、ゼロショット学習を活用することで、学習データに含まれていない物体も識別することができます。 例えば、飼い猫を認識するように学習されたコンピュータビジョンモデルは、共通する特徴や、これらの動物の違いに関する理解に基づいて、ライオンやクーガーを正しく識別することができるでしょう。 ZSLは、人間の思考の仕方を模倣することで、収集・ラベル付けが必要なデータ量を削減し、モデル学習のコストを低減することができます。
覚えておくべきこと： 基本的な用語に精通していない限り、AIを理解することは不可能です。
