今週の「サイバー脅威インテリジェンス」まとめでは、 の新しい機械学習（ML）モデルに関する最新情報 （新しいタブで開きます） について、また、これらのモデルがサイバーセキュリティ対策に役立っているのか、それとも害となっているのかという点で、情報セキュリティ（InfoSec）コミュニティの意見が分かれている理由についてご紹介します。 次に、CTIチームは、「Black Proxies」と呼ばれる新しいプロキシプラットフォームの登場について検証します。このプラットフォームは現在、脅威アクターに対し、発信元のIPアドレスを隠蔽または難読化するためのソリューションとして販売されています。 最後に、新設されたサイバーセキュリティ審査委員会（CSRB）の計画の概要をご紹介し、本稿を締めくくります。同委員会は、今年最も活発かつ注目を集めた脅威アクターの一つである悪名高い「Lapsus$」グループが用いた戦術、技術、手順（TTPs）を検証することを、委員会として2回目となる審査のテーマに据える予定です。これは、組織が同様の悪意ある活動から身を守る一助となることを目的としています。
1. 機械学習モデル：危険な新たな攻撃経路なのか、それともサイバーセキュリティの鍵となる技術なのか？
今日のほとんどの人工知能（AI）ソリューションを支える意思決定システムである、強力な新しい機械学習（ML）モデルの登場について、セキュリティ研究者の間では意見が分かれています。
セキュリティ研究者のうちの一派は、機械学習（ML）をサイバーセキュリティの救世主として称賛している一方で、もう一派は、MLが説得力のあるフィッシングの餌を作り出したり、マルウェアの展開を助長したり、脅威アクターが企業ネットワーク内で横方向に移動するのを助長したりする可能性を懸念しています。
ChatGPTに注目が集まっています
「 」という包括的なディープラーニングの動きの主要な構成要素と見なされている （新しいタブで開きます）。機械学習モデルは多くの場合、一般に公開されており、 の最新のマッキンゼー・グローバル・サーベイによると、 2021年には驚くほど多くの企業が機械学習ベースのAIの利用を拡大していました。 （新しいタブで開きます）
イーロン・マスク氏が設立した、サンフランシスコに拠点を置くAI企業「OpenAI」は、この分野における現在のリーダーであると多くの人に考えられています。 同社は、今年登場した画期的な画像生成ツールである DALL-E 2 （新しいタブで開きます）という革新的なAIツールを開発しました。 しかし、現在注目を集めているOpenAIのツールはChatGPTです。これは、OpenAIの GPT-3.5 言語技術に基づいたAIチャットボットのプロトタイプであり、「OpenAIが開発した大規模な人工知能モデルで、が で学習された」と説明されています。 (新しいタブで開きます) 「多様なソースからの膨大なテキストデータを用いて学習された」 と、フォーブス誌が掲載したこのテーマに関するブログ記事 (新しいタブで開きます) で説明されています。
ChatGPTに関するその他の主な事実：
- ChatGPTは、人間とのやり取りをシミュレートするようにプログラムされた、AIを活用したチャットボットソフトウェアです。
- ChatGPTは現在も研究検証段階にあり、 2022年11月30日 および を通じて一般に公開されています。OpenAIのウェブサイト （新しいタブで開きます）。 ユーザーは登録して、無料で試すことができます。
- このチャットボットは対話形式を採用しており、ユーザーは単純なものから複雑なものまで、非常に幅広い指示を出すことができます。ChatGPTは、そうした指示を実行し、詳細な回答を返すよう学習されています。 OpenAIによると、このボットは追問にも答えられるほか、間違いを認識してそれを認めることもできるとのことです。 他の機械学習（ML）を活用したAIソリューションや、それ以外のソフトウェアと同様、ChatGPTにも限界があります。 このチャットボットは、時折間違った回答を出したり、同じ表現を繰り返したりすることがあり、また、繰り返し尋ねられる質問に対しては、質問の言い回しを少し変えるまで、うまく答えられないことがあります。
ChatGPTは、単に平均以上のコンピュータによる会話相手というだけのものではないということを、心に留めておくことが大切です。 また、コードを記述したり、コード内のバグを見つけたりすることも可能です。 また、ChatGPTは特定のトピックを取り巻く文脈も記憶しているため、ユーザーが以前に触れた内容に言及しても、ChatGPTはその会話の流れを途切れさせることなくスムーズに受け継いでくれます。
こうした要因――その他にもいくつかありますが――が、情報セキュリティの専門家たちを不安にさせているのです。
意見の相違といえば
ChatGPTは、このチャットボットの機能を実感した人々の意見の分断を、他のどの機械学習（ML）を活用したAIツールよりもさらに深めてしまった可能性は十分にあります。
のケビン・ローズ氏（ニューヨーク・タイムズ紙 （新しいタブで開きます））は、次のように述べています。「ChatGPTは、端的に言えば、一般向けにリリースされた中で最高の人工知能チャットボットです。」
ケビンだけがそう考えているわけではありません。 ここ数週間で、OpenAIの製品の人気が爆発的に高まっています。 例えば、 にある人気記事 （新しいタブで開きます） では、ChatGPTの基盤技術であるGPT-3について、「一部の分野では印象的ですが、他の分野では依然として明らかに人間には及ばない」と評しています。 この記事には、ある研究者がAIに人間らしさが欠けていることを嘆き、AIには愛したり、芸術や美しさ、ユーモアを鑑賞したりすることができないと、詩的な表現で語っている一節が掲載されています。 続く段落によると、前述の文章は実際にはChatGPTによって生成されたものであることが明らかになっています。これは、AIに対する懐疑的な見解をいくつか盛り込んだプロンプトをチャットボットに与えた結果として生成されたものです。 それに対し、ChatGPTは、コンピュータが真に知性を持つようになる可能性は低いという内容について、長々と支離滅裂な独白を紡ぎ出しました。
悲観論者たちはこう言っています
この技術に魅了されているユーザー1人につき、おそらく5人のセキュリティ研究者が警鐘を鳴らし、ChatGPTのようなツールがサイバーセキュリティにもたらす脅威について、耳を傾けてくれる人なら誰にでも警告していることでしょう。
例えば、 のDarkReadingの記事「 」（新しいタブで開きます） では、機械学習モデルが急速に拡大している危険な新たな攻撃ベクトルとして描かれています：
「研究者らの調査によると、脅威アクターは、人工知能（AI）を支える機械学習（ML）モデルを乗っ取り、マルウェアを展開したり、企業ネットワーク内で横方向の移動を行ったりすることが可能であることが判明しました。」 「こうしたモデルは、多くの場合一般に公開されており、組織のサプライチェーンを汚染する可能性もあるさまざまな攻撃の新たな足掛かりとなっています。企業はこれに備える必要があります。」
のブログ記事 （新しいタブで開きます） によると、HiddenLayerのSAIチームが同日に発表した内容では、同チームの研究者が、脅威アクターが機械学習（ML）モデルを利用して企業ネットワークに侵入する方法を実証する概念実証（POC）攻撃を開発したとされています。
報道によると、この攻撃は、「悪意のあるペイロードを隠蔽するためのステガノグラフィー」や、「任意のコードを実行するために悪用可能なデータの逆シリアル化の脆弱性」など、いくつかの手法を組み合わせて行われているとのことです。
この投稿では、この攻撃に使用された武器化されたモデルが、現在のウイルス対策ソフトやEDRソリューションの検知を回避していることを指摘しており、「現在、主流のマルウェア対策ソリューションのほとんどは、機械学習（ML）ベースの脅威のスキャンに対して、ほとんど、あるいはまったく対応していない」と付け加えています。
セキュリティ専門家にとってのもう一つの大きな懸念事項――おそらく最も明白な懸念事項――は、MLモデルが、極めて洗練され、説得力のある フィッシング攻撃を生成する可能性があるという点です。
の研究者数名は、すでに （新しいタブで開きます）ChatGPTが説得力のあるフィッシングメッセージや誘引文を生成する能力をテストしており、驚くほど良好な結果が得られています。
先見の明のあるユーザーの中には、ChatGPTのメール生成機能をユーザーが活用できるよう支援する、使いやすいインターフェースをすでに開発している方もいらっしゃいます。
また、機械学習モデルがサプライチェーンに及ぼす可能性のある影響についても懸念が寄せられています。 ITリソースが限られている組織では、MLモデルの導入にあたって、オープンソースのモデル共有リポジトリを利用することがよくあります。 こうしたリポジトリには、適切な監督や包括的なセキュリティ対策が欠けていることがよくあります。
これには、脅威の攻撃対象範囲を拡大するだけでなく、汚染されたり悪用されたりしている可能性が十分にあるモデルへの依存によって、ユーザーにさらなるリスクを負わせるという、二重の影響があります。 モデルを第三者に依存している企業についても、同様のことが言えます。
Taniumのサイバー脅威インテリジェンスチームによるアナリストのコメント
「これらのさまざまなPOCが実環境において成功する可能性は、確かに低いと認められますが、この技術はまだ比較的初期段階にあること、そして脅威アクターたちがその発展に確実に注目していることを念頭に置いておくことが重要です。」
「とはいえ、慎重ながらも楽観視できる要素はあります。」 これまで長きにわたり、「ML」や「AI」という言葉は、ベンダーやサイバーセキュリティの専門家たちによって、主に役員会議室やZoom会議で飛び交う単なる流行語に過ぎませんでした。 しかし、機械学習は、サイバーセキュリティにおいて真に不可欠な技術として台頭してくる可能性があります。 「機械学習（ML）を活用したソリューションには、傾向を分析し、そこから学習することで、より早い段階で攻撃を未然に防ぎ、行動パターンを変える脅威アクターに対してより迅速に対応できる可能性があります。」
「さらに、これによりサイバーセキュリティチームは、包括的な対応計画においてより先を見越した対応が可能となり、進行中の脅威をリアルタイムで軽減するのに役立ちます。また、SOCが他の機会や活動に取り組むための時間やリソースを確保できるようになります。」
2。 「ブラックプロキシ」は、ハッカーの間でますます人気が高まっています
インターネット情報分析企業「Domain Tools」の研究者らが、市場に「 Black Proxies」と呼ばれる新しいプロキシプラットフォームが登場したことを確認しました。 （新しいタブで開きます）。 このサービスは、その信頼性、提供範囲、および利用可能なIPアドレスの膨大な数を強調することで、サイバー脅威の攻撃者に向けて販売されています。 Black Proxies社は、脅威アクターが攻撃を仕掛ける可能性のある、世界中の住宅用およびその他のプロキシIPアドレスを 1,000,000 件以上保有していると主張しています。
プロキシネットワークの仕組み
プロキシを使用することで、脅威アクターは、自身の操作の発信元となるIPアドレスを隠蔽または難読化することで、匿名で活動を行うことが可能になります。 これらのプロキシの市場用語は「プロキシネットワーク」、あるいはより一般的な表現として「プロキシサービス」と呼ばれており、これらのソリューションにより、脅威アクターの活動は実質的に正当なトラフィックに紛れ込むことが可能になります。
プロキシネットワークは、その他の脅威の状況と同様に、長年にわたって進化してきました。 これまでは、被害者が騙されて自分のコンピュータにマルウェアをダウンロードさせられ、そのコンピュータが他の被害者を感染させるために利用され、その後、最初のホストおよびその後感染したすべてのコンピュータのIPアドレスが、脅威アクターによってさらなる悪意のある活動を行うためのプロキシとして利用されていました。
この手法はかなり以前から用いられてきましたが、その有効性は、脅威アクターが侵害できる被害者の数、および脅威アクターがシステム上で持続性を維持できる能力に制限されます。
委任戦術の変遷
ここ数年、プロキシ経由のIPアドレスが、攻撃の経路や攻撃者の戦術として注目されるようになってきています。 攻撃者は、IPアドレスを1つずつ増やしてネットワークを拡大するだけでは不十分であることに気づき始めています。 セキュリティの専門家は、悪意のあるものと特定されたIPアドレスを頻繁にブロックするため、脅威の攻撃者は絶えず新しいIPアドレスを確保しなければならなくなります。
このため、悪意のあるプロキシサービスは、より大規模なIPインフラを構築するよう進化を遂げています。 確認された2つの新たな手口には、新しいIPアドレス範囲への不正なアクセスや、ASNブロック全体の再割り当てが含まれます。
- RESNET: RESNET （新しいタブで開きます） は、不正な手段を用いて米国の携帯電話会社からIPアドレスブロックへのアクセス権を取得していたサービスです。 Krebsのセキュリティに関する記事（ （新しいタブで開きます））によると、 2019 のRESNETが70,000 以上のIPアドレスを管理していたとのことです。 RESNETが当初提供していたのは、スニーカーボットへのアクセスサービスで、これによりサービスの利用者は、人気の高いスニーカーの購入を試みることができました。 RESNETを運営する事業者たちは、スニーカーボットの分野以外にも、より広範で収益性の高い市場が存在することを明確に認識し、すぐにプロキシサービスの提供へと事業転換を図りました。 そのサービスは、最終的に法執行機関によって閉鎖されました。
- INSORG： INSORGは、RESNETよりもさらに積極的な戦術を駆使していた、もう一つの人気のあるプロキシサービスでした。 INSORGは、管財手続き中の企業が所有するIPアドレス空間およびASNを一覧化しました。 破産管財人を装い、知的財産登録機関に書類を提出することで、範囲全体を不正に再割り当てすることができました。 INSORGは、最終的に 当局によって閉鎖されました (新しいタブで開きます) 2020年後半のことです。
今年初め、FBIは、サイバー犯罪者が認証情報詰め込み攻撃を容易にするために利用するプロキシの数が増加していることについて、警告を発表しました。 この勧告には、当該活動に関連する組織的リスクを低減するための提言が含まれていましたが、最終的には、悪意のあるプロキシによる脅威が高まっていることを浮き彫りにする結果となりました。
ブラックプロキシが不正プロキシ市場に参入し、こうしたサービスに対する高まる需要に応えるべく動き出しました。 前述の通り、「Black Proxies」は、世界中から集めた 1,000,000 件以上の住宅用およびその他のプロキシIPアドレスを誇り、これらはいつでも脅威アクターが利用可能です。 研究者らがこのサービスを調査したところ、 2022 年秋にBlack Proxiesが掲載していたIPアドレスのプールは、180,000 個強に過ぎないことが判明しました。 この数値は、同サービスが主張する 1,000,000という数字よりはるかに少ないものの、より従来のサービスが提供するIPアドレス空間よりは依然としてかなり大きいものです。
Black Proxiesのサービスは、サイバー犯罪者にとって特に魅力的な機能を取り入れることで、クライアントのニーズに応えています。
Bleeping Computerの研究者たちが、Black Proxiesの価格設定モデルを突き止めました。 このサービスの利用料金は、1日あたり14 ドル、1週間あたり39 ドル、または1ヶ月あたり89 ドルです。 また、どうやら4.90ドルというお手頃な価格で利用できるトライアルプランも用意されているようです。 また、Bleeping Computerは、Black Proxiesのインフラに含まれるあるIPアドレスが、以前、他の不審なサービスと関連付けられていたことも突き止めました。
Taniumのサイバー脅威インテリジェンスチームによるアナリストのコメント
「悪意のある活動を行う脅威アクターによるプロキシネットワークやサービスの利用は、決して新しい現象ではありませんが、ここ数年、着実に普及が進んでいます。」 「現在、サイバー犯罪者が活動を円滑に進められるよう支援することを目的として、一から構築されたさまざまなプロキシサービスが明らかに登場しています。」
DomainToolsはその点を非常に的確にまとめています：
犯罪目的のプロキシネットワークは、今やサイバー犯罪の世界において欠かせない存在となっています。 悪意のある攻撃者は、これらを利用して乗っ取ったIPアドレスの背後に身を隠し、自らの活動を難解化させるとともに、その活動に正当性という覆いをかぶせて隠蔽しています。 これらのネットワークは、かつてはボットネット構築の一環として構築されていましたが、こうしたサービスがもたらす巨額の利益により、それ自体が独立した犯罪組織へと変貌を遂げてしまいました。
3。 米国土安全保障省（DHS）のサイバー安全委員会が、Lapsus$ギャングのハッキング手法を検証する予定です
2022年12月2日によると、 国土安全保障省 （新しいタブで開きます） （DHS）が発表したプレスリリースにおいて、バイデン政権が新たに設置したサイバー安全審査委員会 （新しいタブで開きます）（CSRB）——バイデン大統領の「国家のサイバーセキュリティの向上に関する大統領令（EO） 14028 」に基づき設立されたもの——が、世界的に活動し、身代金要求を主目的とするハッキンググループ「Lapsus$」によるものとされる最近のサイバー攻撃について検討を行うことになると発表しました。
Lapsus$は、今年初めに数多くの著名な企業へのサイバー攻撃を行ったとされています。 多くの事件で、専有データやソースコード、その他の極めて機密性の高い情報が漏洩し、それが最終的にいくつかの大規模なデータ漏洩事件につながりました。
Lapsus$：おさらい
BleepingComputerが報じているように、Lapsus$グループは、大手テクノロジー企業を標的とした、驚くほど効果的かつ甚大な被害をもたらす一連のサイバー攻撃を繰り返し行い、度々ニュースの見出しを飾りました。
で 2022年の最も多作なサイバー犯罪者の一人として挙げられている、 （新しいタブで開きます） Lapsus$は、ランサムウェアモデルといった従来のTTPを避け、代わりにかなり洗練されたソーシャルエンジニアリングを用いた、人間に焦点を当てた手法を展開することで、金銭目的や恐喝を主眼とする同種のグループとは一線を画しています。これにより、標的となる環境へのアクセス権を獲得しています。
Lapsus$が初期侵入に好んで用いる手法に関しては、主に2つの対立する説が提唱されています。1つは、サードパーティのサービスプロバイダー（特にOktaのような認証サービスを提供する事業者）の侵害に起因する情報漏洩であり、もう1つは、著名な企業内部の従業員に対する勧誘やソーシャルエンジニアリングによるものです。
Lapsus$は、同グループが運用上のセキュリティ（OPSEC）にどれほど重点を置いているか、あるいは全く重視していないという点においても、やや異端的な存在と言えます。 注目を集めることを決して厭わないLapsus$は、公開のTelegramチャンネルを通じて、自らの活動を公然と宣伝してきました。
CSRBが、Lapsus$の戦術に関する2回目の検証を実施する予定です
CSRBがLapsus$グループのハッキング活動を調査した背景には、公的機関および民間組織に対し、同グループの戦術や、基本的なTTPを活用してLapsus$が達成した驚くべき成功に感化された可能性のある他のグループの戦術に対抗するための助言を提供することが目的であると報告されています。
「Lapsus$に関する調査を通じて、委員会は前回の調査から得られた教訓を踏まえ、民間および公共部門がサイバーレジリエンスを強化できるよう、実践的な提言を提示していきます」と、国土安全保障省（DHS）のアレハンドロ・N・マヨルカス長官は述べました。
注目すべきは、複数の業界メディアが報じている見出しの表現が、非常に誤解を招きやすいという点です。 いくつかのサイトが、CSRBがLapsus$の戦術について2回目の検証を行うと報じています。 これは誤りです。 CSRBは、実際には現在、2回目のレビュー期間を実施しているところです（1回目は、広く利用されている Log4j オープンソースソフトウェアライブラリにおいて、2021 年後半に発見された脆弱性に焦点を当てたものでした）。
Taniumのサイバー脅威インテリジェンスチームによるアナリストのコメント
「CSRBがLapsus$について積極的に調査を行っていることは心強いことです。 このグループが持つ、（標的選定における）大胆さ、（被害者への挑発や、概してオンライン上で距離を置いた態度を貫くことにおける）厚かましさ、そして自動化されたソリューションでは防ぐことがほぼ不可能なTTPやソーシャルエンジニアリング手法への依存という強力な組み合わせは、あらゆる組織にとって懸念すべき要素であると言えます。
「Lapsus$のメンバー数名が法執行機関によって一斉に摘発されたとされていますが、同グループの戦術は、サイバー脅威の分野における犯罪者たちに大きな衝撃を与えています。」 「攻撃では、ソーシャルエンジニアリングや内部者による脅威、リビング・オフ・ザ・ランド（LoL）の手法などがますます多用されるようになっています。」
「CTIチームは、CSRBによる追加の調査結果を楽しみにしており、今後もLapsus$の活動について調査を続けてまいります。」
