インスリンはただではありません。 しかし、そうだと主張するたった1つのツイートが、株主たちに数十億ドルの損失をもたらした可能性があります。
昨年11月、イーライ・リリー社のTwitterアカウントをパロディ化したアカウントが「インスリンの無料配布」を宣伝したところ、この興味深い虚構が瞬く間に拡散し、同製薬会社の株価は 5 ％近く急落しました。さらに、他のインスリンメーカーであるノボ ノルディスク社やサノフィ社の株価 にも影響が及びました。
このツイートを投稿した人物は、 企業の貪欲さ について指摘するとともに、当時Twitterが導入したばかりの、月額8 ドルを支払う意思のある人なら誰でも青い「認証済み」マークを取得できるという新制度がもたらす可能性のある影響について、警鐘を鳴らすためにこの行動をとりました。 しかし、彼はまた、意図せずして別の点も指摘することになりました。それは、誤情報（間違いや不注意によってなされた不正確な発言）や偽情報（意図的に流された嘘）が、企業を崩壊させ、業界全体に影響を及ぼす力がますます強まっているということです。
虚偽の情報が拡散すると、深刻な経済的・評判上の打撃をもたらす可能性があり、多くの組織は、この新たな現実に対処する方法を模索し始めたばかりです。
「企業は、自社の評判が一瞬にして一変しうることを認識する必要があります」と、ケンブリッジ・ジャッジ・ビジネススクールの財務会計学教授であり、財務報告・説明責任センターの所長を務めるアラン・ジャゴリンザー氏は述べています。 「特に、多くの支持者を擁する好戦的な人物を相手にする場合は、その傾向が顕著です。」
誤情報やデマを流す者には、企業の株価を操作しようとする空売り業者や、競合他社の製品に対する疑念を植え付けようとする企業などが含まれます。 個人的な恨みを抱く個人かもしれませんし、危機に乗じてフォロワーを増やそうとする日和見主義者かもしれませんし、あるいは混乱や動揺を煽ろうとする国家かもしれません。
虚偽の噂やAIによって生成されたディープフェイクにより、ブランドの評判が損なわれたり、経営幹部が個人的なリスクにさらされたりすることがあります。最近では、 のテスラ（）、オンライン小売業者の ウェイフェア（）、メキシコのセメントメーカーである セメックス（ ）などが、注目を集めた被害事例として挙げられます。
そして、どの企業も例外ではありません。 多国籍企業に対する攻撃がニュースの見出しの大半を占めていますが、虚偽の情報は、 の配管業者 から の形成外科医 に至るまで、多くの中小企業に影響を与えており、その多くは Yelp や Google レビューなどのサイトにおける否定的な「報復」レビューという形で現れています。 A 2022 study by the National Bureau of Economic Research found that fake negative reviews can cause small businesses to raise their prices by 12 percent to make up for lost sales.
誤情報（および偽情報）の仕組みをわかりやすく解説
誤情報対策プラットフォーム「Alethea」のCEO兼創業者であるリサ・カプラン氏は、企業に対する情報攻撃を仕掛けることは、 のようなフィッシング攻撃や、 のような、コンピュータネットワークに侵入して のようなランサムウェアを仕込む 試みよりもはるかに容易であると強調しています。
「偽情報キャンペーンを展開するのに、技術的な知識は必要ありません。[そして] 金銭的あるいはイデオロギー的な動機を持つ人々が、ますます企業を標的にしています。」アレシア社のCEO兼創業者、リサ・カプラン
「大手銀行のシステムにアクセスするために必要なのと同じように、偽情報キャンペーンを展開するのに、技術的な知識は必要ありません。 」と彼女は述べています。 「国家主体は、地政学的な局面においてこそ、最新の巧妙な手口を繰り出す傾向にありますが、金銭的あるいはイデオロギー的な動機を持つ人々は、ますます企業を標的にしています。」
Alethea社のAIを活用した「Artemis」プラットフォームは、情報攻撃を検知・阻止することを目的とした、新興の技術ソリューション分野の一翼を担っています。 これは仮想のアナリストとしての役割を果たし、インターネットや 、ソーシャルメディアから情報を収集し、既知のアクターや共通するナラティブを特定し、組織的な攻撃の兆候を探します。 こうしたプラットフォームは、攻撃が進行中である可能性を示す早期警告を発することで、攻撃が拡大する前に企業が対応する時間を確保できるようにします。
[関連記事：CAIO（最高AI責任者）の登場が待たれる――経営陣が取締役会にAI専門家を登用する理由とは]
攻撃は、間近に迫ったIPOのような重要な出来事を狙って行われる可能性があります。 カプラン氏は、潜在的に悪影響を及ぼしかねない報道に先手を打ち、情報発信の主導権を握ることが重要だと述べています。 同社は、顧客やその他のステークホルダーに対し、今後出回る可能性のある誤情報をどのように見分けるかについて注意喚起することができます。これは「プレバンキング（）」として知られる手法です。 研究によると、プレバンキングは 、デバンキング や、虚偽の情報が広まった後に事実確認を行うことよりも効果的であることが示されています。
「何かが起こりそうな兆候をいち早く察知できれば、『正確な情報はこれです』と伝えることで、状況の展開を変えることができます」とカプラン氏は述べています。 「ステークホルダーにいち早くアプローチすることができ、時にはその『いち早く』という点が、勝利につながることもあります。」
ディープフェイクが増加傾向にあります
ワシントン大学の准教授であり、同大学の「Center for an Informed Public」所長を務めるジェヴィン・ウェスト氏は、 の生成AI「」のおかげで、誤情報がさらに深刻化しようとしていると述べています。
「」といった噂は、特にディープフェイクや合成メディアの普及により、あっという間に広まってしまいます。 企業がまだこのことを懸念していないのであれば、懸念すべきです。”ワシントン大学「インフォームド・パブリック・センター」所長のジェヴィン・ウェスト氏
「 の大型言語モデル が、高品質なメッセージを非常に迅速に生成できる能力により、企業が虚偽の噂に対応することがはるかに困難になっています」とウェスト氏は述べています。 「噂は本当にあっという間に広まります。特にディープフェイクや合成メディアが普及している今、なおさらです。」 「もし企業がまだこのことを懸念していないのであれば、懸念すべきです。」
AIによって生成された誤情報による被害は、波及効果をもたらす可能性があります。 今年初め、トム・ハンクス氏の「 」ディープフェイク映像を起用した歯科保険プランのオンライン広告 が公開された際、それはハンクス氏の評判を傷つけただけでなく、同様の商品を提供している正規の保険会社や、このアカデミー賞受賞俳優が実際に提携している可能性のある企業にも悪影響を及ぼしました。
「それは業界全体に対する一般市民の信頼を低下させてしまいます」とウェスト氏は述べています。
[関連記事：ディープフェイクの急増が、今や大胆な手口のフィッシングをさらに加速させています。「ヴィッシング」について、そして従業員がどのように警戒すべきか、こちらで詳しくご覧ください]
合成メディア（AIによって生成された偽情報）を検出できるプラットフォームを展開しているDeepMediaの創業者兼CEO、リジュル・グプタ氏は、ディープフェイクを生成する技術がわずか数年で飛躍的に向上したと述べています。
「18ヶ月前なら、偽の映像を生成するには、その人物の実際の顔や声を 10 分間収録する必要があったかもしれません」と彼は言います。 「今では、必要な量ははるかに少なくて済みます。」 「誰かの顔と声を5分間録音するだけで、その人に何でも言わせることができるような、一般に公開されているアプリケーションが登場することは、ほぼ間違いありません。」
DeepMedia社の「DeepIdentify」プラットフォームは、音声や動画をリバースエンジニアリングし、それらが生成AIによって作成されたものかどうかを判定します。 同社は、米国国防総省や主要なソーシャルメディアプラットフォームと連携して、合成メディアの特定に取り組んでおり、今年後半には同プラットフォームのエンタープライズ版をリリースする予定です。
「フォーチュン 500 にランクインしている企業のCEOのディープフェイクがTikTokに投稿された場合、当社のAIによる拡散防止ソリューションがそれを検出し、偽物かどうかを判断します」とグプタ氏は述べています。 「もしAIによる改ざんである場合は、当該プラットフォームに連絡し、削除を依頼いたします。」
ディープフェイクの問題は、今後さらに深刻化する可能性があります。 『 』の著者であり、 のであるニーナ・シック氏は、著書『Deep Fakes: The Coming Infocalypse』（ ）の中で、2026年までにインターネット上のコンテンツの最大 90 パーセントが合成によって生成される可能性があると予測しています。
避けられない事態への備え
専門家たちは、組織が第三者や法執行機関が介入して、誤情報の問題を代わりに解決してくれることを期待してはならないという点で一致しています。
カプラン氏は、主要なソーシャルプラットフォームにおいて、 が最近、信頼・安全対策チームの人員を削減した ことについて、これにより、組織が自らの評判を管理する主導権を握らざるを得なくなったと指摘しています。 「世間の声について早い段階で把握しておくことで、より賢明な経営判断につながります」と彼女は述べています。
とはいえ、テクノロジー業界が（あるいはそうあるべきだとしても）完全に責任を免れているわけではありません。 テクノロジー企業は、 消費者の信頼を築き、 それが失われた際には再び取り戻すために、自らの役割を果たさなければなりません。 新技術の開発と利用を規律する倫理的枠組みを確立することは、スタートアップから大手企業に至るまで、すべてのテクノロジー企業が今すぐ講じるべき重要な第一歩です。 つまり、設計の初期段階から透明性と説明責任を組み込むということです。
[関連記事：テクノロジー業界がTikTokから学べるもの――信頼こそがすべて]
では、テクノロジー業界以外の人々についてはどうでしょうか？ ヤゴリンツァー氏は、プラットフォームに責任を問うため、さらなる措置を講じるよう求めています。 同氏は、大企業はEUの「デジタルサービス法（ ）」のような法案を支持すべきであり、経営者はメディア各社に対して自らの懸念を直接伝えるよう、より積極的に声を上げる必要があると述べています。
「もし私が大企業のトップだったとしたら、メディア各社に対して『自社のインフラを通る情報を適切に管理できないのであれば、私たち全員を危険にさらしていることになる』と強く訴えるでしょう」と彼は述べています。
ワシントン大学のウェスト氏は、誤情報は組織が軽視してよいような問題ではないと付け加えています。 ソーシャルメディアのモニタリング、検知技術、および のインシデント対応計画を通じて、企業の評判に対する攻撃を綿密に監視するためには、サイバーセキュリティチーム、法務担当者、および広報担当者の連携した取り組みが必要となります。
「こうしたことに目を向けているチームに投資すべきです」と彼は言います。 「状況は良くなる前に、さらにずっと悪くなるからです。」