ウェグマンズは、長年にわたり「顧客第一」のブランドとして定評があり、清潔な店内、きめ細やかなサービス、そして献身的なまでに忠実な顧客からの支持で知られています。 その評判は先月、 の報道によると、 が、同社が盗難防止対策の一環として、ニューヨーク市を含む一部の店舗で、買い物客の生体認証データ を密かに収集・保存し始めていたことを明らかにしたことで、試練にさらされました。
によると、ウェグマンズ（）では、過去に万引きをしたとみられる人物が再び店舗に入店した際に、従業員に警告を発するようシステムが設計されているとのことです。 ロチェスターに拠点を置くこのチェーン店は、データが第三者と共有されることはなく、厳密にセキュリティ目的のみに使用されていることを強調しています。 （ウェグマンズ社は、 のフォーカル・ポイントからのコメント要請に対して回答しませんでした。）
それでも、対応は迅速でした。 顧客、議員、そして のデータプライバシー擁護団体 は、顔認識技術や同意の問題、そして比較的少数の犯人を特定するために多数の買い物客をスキャンすることが、小売店での万引きに対する適切な対応であるかどうかについて懸念を表明しました。
問題はウェグマンズだけにとどまりません。他の食料品チェーン（ホールフーズなど）や小売業者（メイシーズ）、さらには銀行、クレジットカード会社、医療関連企業、スタジアムなど、さまざまな企業が生体認証システムの導入を急速に進めています。 ニューヨーク州議会では現在、小売業者が店舗で生体認証技術を利用する際、「明確な告知とプライバシー保護」を義務付ける法案が審議されています。
ニューヨーク州モンロー郡の議員であるレイチェル・バーンハート氏は、 ウェグマンズ社宛てに 書簡を送りましたが、その反発の即効性と激しさに衝撃を受けたと述べています。 「『ただスーパーに買い物に行くだけなのに、なぜ顔をスキャンされるのか』という、圧倒的な違和感を覚えました」 と彼女は言います。
この反発は、この措置がどのように実施されたかという点にも起因していました。つまり、公的な説明がほとんどなく、ひっそりと行われた上、企業が の人工知能（AI）を導入する方法に対して、人々がすでに深い懐疑心を抱いている状況下でのことでした。特に、それが物理的な空間で稼働する場合についてはなおさらです。
「明確な基準や一貫した規制がない場合、組織は結局、独自のルールを策定することになってしまいます。」 そして、そこにリスクが忍び込んでくるのです。”Tanium社のセキュリティおよび製品設計研究担当シニアディレクター、メリッサ・ビショピング氏
この一連の出来事を注視している組織にとって、ウェグマンズ社の事例は、一般向けに公開されるAIが抱えるリスクを浮き彫りにしています。信頼は脆く、 ガバナンスの欠如は多大なコストを招き、システムの運用開始後に初めて監視の目が厳しくなることが多いと、サイバーセキュリティソリューションおよび 自律型IT の分野で革新的な取り組みを行うTanium社（本誌の発行元でもあります）の、セキュリティおよび製品設計研究担当シニアディレクター、メリッサ・ビショピング氏は指摘しています。
「明確な基準や一貫した規制がないと、組織は結局、独自のルールを定めてしまうことになります」とビショピング氏は述べています。 「そして、そこにリスクが忍び込んでくるのです。」
AIガバナンスと、摩擦の大きいAIにおける信頼とのトレードオフ
企業が、 の食料品店、空港、あるいは街中など、物理的な空間にいる人々に直接影響を与えるAIを導入する際、顧客がブランドをどのように体験するかという在り方を一新しています。
「顧客は、何か問題が発生しても顔や声をリセットすることはできないため、同社は、多くの場合一時的な問題であるにもかかわらず、恒久的な責任を負うことになっています。」ノースイースタン大学の助教授であり、シビックAIラボの所長を務めるサイフ・サベージ博士
人間中心のAIを研究しているノースイースタン大学のサイフ・サベージ助教授は、監視を主眼とした技術が、おもてなしやサービスに対する期待とどのように衝突しうるかについて、組織はしばしば過小評価していると述べています。 「業務指標を最適化するためだけに、顧客とブランドとの関係をどこまで変えてよいのか、よく考えなければならない」と彼女は言います。
その緊張感は、例えば万引きの防止といったように、得られると認識される利益が限定的である一方で、プライバシーの侵害と認識される影響が、店に入るすべての人に及ぶ場合、特に顕著になると、彼女は述べています。 ウェグマンズ社の件では、同社がなぜ生体認証データの収集が必要なのかを明確に説明していたのか、ましてや評判の低下を招くリスクを冒す価値があったのかについて、批判的な声が上がりました。
[関連記事：生体認証をめぐる新たなジレンマ――それは私たちの安全を守るのか、それとも後悔を招くのか？]
ノースイースタン大学の「シビックAIラボ」を率いるサベージ氏は、これを比例性の問題として捉えています。 小売業界が長年抱えてきた課題に対処するために不変の個人識別子を収集することは、経営陣に厳しいトレードオフを迫ることになります。 「生体認証データは、決して変わることのない資産です」と彼女は言います。 「万が一問題が発生しても、顧客は自分の顔や声をリセットすることはできません。そのため、同社は、多くの場合一時的な問題であるにもかかわらず、恒久的な責任を負うことになってしまいます。」
恒久的なデータ、長期的な責任
サイバーセキュリティの観点から見ると、生体認証データは、 組織のリスクプロファイルを根本的に変えるものです。 決済カード番号や のパスワード とは異なり、生体認証情報は、情報漏洩が発生した後でも変更することができません。 一度さらされると、その状態は続きます。
「生データへのアクセスを必要とする人はごくわずかです。」 それを見る人が少なければ少ないほど、万が一何か問題が発生した場合の被害範囲も小さくなります。”ビショピング
また、生体認証データについても、米国では複雑な規制上のグレーゾーンに位置づけられています。 プライバシー保護の取り組みは州によって異なり、生体情報の取り扱い方法を規定する包括的な連邦基準は存在しません（ ）。また、 にもそのような基準は定められていません。 複数の管轄区域にまたがって事業を展開する組織にとって、こうした統一性の欠如は、セキュリティリスクが問題となる以前に、コンプライアンス上の課題をもたらします。
「企業が生体認証データの取り扱いについて説明する際、その表現にはかなりの裁量の余地があります」とビショピング氏は述べています。
物事がうまくいかなくなると、その余裕は狭まってしまいます。 情報漏洩が発生した場合、その影響は当面の金銭的損失にとどまりません。 ビショピング氏は、一見匿名化されているように見える生体認証データも、時間の経過とともに他の漏洩データセットと組み合わさると、危険なものになり得ると指摘しています。 「人々の行動パターン――どこで買い物をし、どこで働き、どこに住んでいるか――が見えてくるようになります」と彼女は述べ、こうした情報が、ストーカー被害や家庭内暴力のリスクにさらされている人々にとって、特に有害になり得ると指摘しています。 「ブランドイメージの毀損は、決して軽視すべきではありません。」 「お客様が安心できなければ、来店しなくなってしまうでしょう。」
[関連記事：ブランドと取締役会：投資家や消費者の信頼を高めるためのサイバー対策 reputation—7 ]
サベージ氏は、経営陣に対し、短期的なリターンだけに注目するのではなく、リスクのライフサイクル全体を考慮するよう求めています。 「5年間で万引きを減らすことが、生体認証データが漏洩した場合に50年間にわたる法的責任を負うリスクに見合うのでしょうか？」 彼女は、長期的な影響が短期的な業務上の利益を上回る場合が多いと主張して、こう尋ねます。
AIの導入前におけるAIガバナンス――導入後ではなく
サベージ氏は、ウェグマンズの一連の出来事から得られる最も明確な教訓の一つは、ガバナンスを後回しにしてはならないということだと述べています。 組織では、許容される利用範囲、説明責任、あるいは運用終了の基準を十分に定義する前に、AIシステム――特に生体認証データを利用するシステム――を導入してしまうことがよくあります。
「生体認証データが一度流出してしまうと、元に戻すことはできません。」レイチェル・バーンハート氏、モンロー郡（ニューヨーク州）議員、民主党・ロチェスター選出
サベージ氏は、セキュリティ対策は単にデータを保護することだけではないと強調しています。 「これらは、その技術がもはや運用を許されない境界線を定義するものです」と彼女は述べ、エラー率、バイアス、誤検知に関する明確な基準の必要性を指摘しました。
ガバナンスは、インフラストラクチャや のアクセス制御にも及ぶ必要があります。。 ビショピング氏は、生体認証データは、実用的な価値を持つために広く利用可能である必要はないと述べています。 「生データにアクセスする必要がある人はごくわずかです」と彼女は言います。 「それを見られる人が少なければ少ないほど、万が一何か問題が発生した際の被害範囲は小さくなります。」
第三者機関とつぎはぎの法整備――AIガバナンスにおける予期せぬ落とし穴
保存方針も同様に重要です。 「必要な期間」データを保持するという曖昧な表現は、 の機密情報 が無期限に残存してしまう余地をあまりにも多く残していると、ビショピング氏は付け加えています。 「こうしてデータは忘れ去られてしまうのです。そして、忘れ去られたデータは、将来の情報漏洩の際、宝の山となってしまいます。」
生体認証技術の利用に伴うプライバシーや規制上のリスクを踏まえ、専門家らは、あらゆるスマートガバナンスの枠組みには、 への準拠管理の強化も盛り込むべきであると提言しています。。 個人データに対する可視性が高まると、厳格な枠組みの下で管理されない限り、コンプライアンス上の問題やプライバシーに関する懸念につながる可能性があります。また、AIに対する一般市民の不安が高まるにつれ、各管轄区域の立法者に行動を求める圧力がかかり、その結果、法規制がバラバラな状態になるにつれて、こうしたリスクはさらに増大するばかりです。
[関連記事：サイバーセキュリティのフレームワーク――NISTからHIPAA、GDPRまで、代表的なコンプライアンス基準 10 選をわかりやすく解説]
サードパーティベンダーは、さらなるリスク要因となります。 生体認証データが外部で処理または保存される場合、組織はそのデータがどこに保管されているか、誰がアクセスできるか、またベンダーの事業状況に変化が生じた場合にどうなるかを把握しておく必要があります。 ビショピング氏は、ガバナンスの枠組みがこうしたシナリオを事前に想定しておけば、信頼がすでに失われてから対応するよりも、はるかに管理しやすくなると述べています。
組織は、今日収集するデータはすべて、予想以上に長く存在し続けると想定しなければならない、とビショピング氏は述べています。
「企業はこの技術を試すことはできますが、万が一失敗しても、その影響を直接被ることはありません」とバーンハート氏は付け加えます。 「消費者がそうするのです。」 「そして、いったん生体認証データが流出してしまうと、取り消しボタンなどありません。」
