人工知能（AI）技術の開発を6か月間凍結するよう求める「 」の公開書簡（ ）に関する昨日の見出しでは、イーロン・マスク氏とスティーブ・ウォズニアック氏の名前が取り上げられました。 しかし、他にも 1,100 名――勤勉なコンピュータ科学者やテクノロジー愛好家、その他の知識豊富な専門家たち――が、AIに関する警鐘を鳴らすために署名に加わりました。さらに木曜日には、別の主要なAI研究グループもこれに続き、GPT-4技術に対して独自の「」による正式な異議申し立て（ ）を行いました。
ですから、Twitterやテスラ、スペースXのオーナーであるマスク氏や、アップルの共同創業者であるウォズニアック氏について、どのような考えをお持ちであっても、この件には細心の注意を払う価値が十分にあります。
非営利団体「フューチャー・オブ・ライフ・インスティテュート」が公表したこの書簡では、AI研究機関に対し、「GPT-4よりも高性能なAIシステム（現在トレーニング中のGPT-5を含む）のトレーニングを、少なくとも6か月間直ちに停止すること」を求めています。
GPT-4「 」は、今月初めに「 」としてデビューしました。 これは、OpenAIが11月にリリースし、大きな話題を呼び、ニュースの見出しやソーシャルメディア上の投稿が相次いだAIチャットボット「 ChatGPT」（）における、言語技術の最新バージョンです。 Within weeks, more than 100 million people had signed up to use the free, automated tool, a generative AI program that allows users to create written content that’s both comprehensive, culled from countless online sources, and so conversational it looks and sounds like it was created by a human.
他の企業も同様のチャットボットの市場投入を競い合っており、あらゆる分野の企業や業界が、これらのツールを既存のネットワークやビジネスモデルに統合する方法を熱心に模索しているほか、サイバーセキュリティ分野における AIの活用も検討しています。
「ここ数ヶ月、AI研究所の間では、その開発者たちでさえも理解・予測・確実に制御することのできない、かつてないほど強力なデジタル知能を開発・導入するための、制御不能な競争が繰り広げられています。」フューチャー・オブ・ライフ研究所
「私たちが最も避けたいのは、テクノロジーや過度な期待に過度に依存しすぎて、[現実]を見失ってしまうことです」と、ジョージタウン大学セキュリティ・新興技術センター（CSET）のジュニアAIフェローであるクリスタル・ジャクソン氏は述べています。 ジャクソン氏は昨日、サイバーセキュリティソフトウェアメーカーのタニウム社が制作し、今春に配信開始予定の新しいポッドキャスト「Let’s Converge」のインタビューに応じ、こうしたチャットボットはオンライン上で見つかった情報を基に学習・訓練されていると指摘しました。
[ポッドキャストをお聴きください：ChatGPTに夢中ですか？ 【ここには期待と希望があります】
「インターネット上の情報の中には、役立つものもあります」と彼女は言います。 「中には本当にひどいものもあり、批判的思考を重視し続ける必要があります。」
GPT-4とは一体何なのでしょうか。また、心配すべきでしょうか。
最近登場して以来、ChatGPTのようなチャットボットは、さまざまな方法で検証されてきました。 これまでのところ、彼らは の大学院レベルの試験に合格したり、ウェブサイトのコードを作成したり、さらにはデートアプリのプロフィールに基づいて、 の完璧な口説き文句 を考案することさえできるのです。 また、サイバー攻撃が増加する可能性もあります。ほぼ誰でも簡単に独自のマルウェア、 フィッシング メール、その他の危険なコンテンツを作成できるようになるため、この新しい技術により、企業は ランサムウェア 攻撃、 内部者による脅威、および サイバー戦争 のリスクにさらされることになります。
「インターネット上の情報の中には、役立つものもあります。 その中には本当にひどいものもあり、批判的思考を重視し続ける必要があります。”ジョージタウン大学セキュリティ・新興技術センターのジュニアAIフェロー、クリスタル・ジャクソン氏
ほんの数ヶ月前、 GPT-3.5 は法科大学院の模擬司法試験に合格しましたが、その成績はクラスで下位10％でした。 OpenAIの報告によると、GPT-4もこの試験に合格し、成績は上位 10％に入りました。
これらのボットは賢いです。 そして、ますます賢くなってきています。 そして、この公開書簡の署名者たちは、これから起こる事態に対して、私たちはまだ準備ができていないと警告しています。
[関連記事：はい、ChatGPTはハッキングを加速させるでしょう――そして、その対策にも役立つのです]
「ここ数ヶ月、AI研究所の間では、その開発者たちでさえも理解・予測・確実に制御することのできない、かつてないほど強力なデジタル知能を開発・導入しようとする、制御不能な競争が繰り広げられています」と、この書簡は警告しています。
そのため、彼らは、ひと息つく必要があると言っています。 これは、私たち全員が立ち止まって考えるべきことではないでしょうか。
一時停止というのは現実的なのでしょうか？
より高性能なAIの開発競争は、かつてないほどのスピードで加速しています。 また、科学技術の進歩を食い止める手立てなど何もないと感じる方も多くいらっしゃるかもしれませんが、科学の進歩を遅らせたり規制したりすることはできないという考えは、現実とはかけ離れています。
「これは、AI開発全般を一時停止することを意味するものではなく、単に、予測不能なブラックボックスモデルがますます巨大化し、新たな能力が自発的に現れるという危険な競争から一歩引くことを意味するに過ぎません。」フューチャー・オブ・ライフ研究所
新薬の販売やマーケティングを承認する米国食品医薬品局（FDA）や、市販食品の安全性を監督する米国農務省（USDA）といった規制機関は、製造業者に対する指針を示すことも目的の一つとして設立されました。 高速道路を疾走する前に、私たち全員が基本的な交通ルールを理解し、それに同意しておく必要があります。
AIに関しては、私たちは皆、アウトバーンを猛スピードで駆け抜けています。 そして、あの有名なスーパーハイウェイでさえ、時折、速度制限が設けられていることがあります。
[関連記事：ChatGPTの登場により、経験の浅い人でもサイバー犯罪を犯しやすくなるでしょう。 [今こそ、その正体不明の10代のハッカーの思考に迫る時です]
署名者たちは、マイクロソフトやグーグルなどの企業が、倫理指針や安全対策について共通の理解に基づいて新しい技術を開発することは、それほど不合理なことではないと指摘しています。これは、クローン研究を行う研究者たちが、たとえその技術がどれほど収益性が高く、あるいは必然的な進歩に見えても、少なくとも現時点では人間の赤ちゃんのクローン作成を行わないことに合意しているのと同様です。
「AI研究機関や独立した専門家は、この一時停止期間を利用して、高度なAIの設計・開発に向けた一連の共通安全プロトコルを共同で策定・実施すべきであり、それらは外部の独立した専門家によって厳格に監査・監督されるべきです」と、書簡は続けています。 「これは、AI開発全般を一時停止することを意味するのではなく、単に、予測不能な『ブラックボックス』モデルがますます巨大化し、新たな能力が自発的に現れるという危険な競争から一歩距離を置くことを意味するに過ぎません。」
これを、速度制限を設けたり、「濡れると滑りやすくなります」という警告標識をいくつか設置したりする良い機会と考えてください。
AIの無制限かつ広範な利用について警告を発しているマスク氏のようなAI開発者たちが、実際にルールを守るのか、それともテスラに乗ってその標識を無視して突っ走ってしまうのかは、まだ分かりません。 しかし、だからといって、標識や制限を設けることに価値がないというわけではありません。
