Elon Musk、Steve Wozniakをはじめとする1000人以上の起業家、科学者、教授が、チャットボット「GPT-4」のようなAIの開発を一時的に中断するよう、Future of Life Instituteの嘆願書に署名しました。このような懸念の背景には何があるのだろうか
イーロン・マスクは人工知能（AI）の開発を止めたいのか
。
イーロン・マスク、スティーブ・ウォズニアックら起業家、科学者、教授らが、AI開発の一時停止を求めるFuture of Life Instituteの提案する請願書に署名:
。
AIラボに強力なモデルのトレーニングを一時停止するよう呼びかけています！
ヨシュア・ベンジオ、@stevewoz、@harari_yuval、@elonmusk、@GaryMarcus、その他1000以上の人々が署名したFliの呼び掛けにも参加しています： https://t.co/3rJBjDXapc
なぜこれを呼びかけるのか、短く – (1/8)
– ライフ未来研究所 (@FLIxrisk) March 29, 2023
」。
執筆時点で合計1,377名の署名が集まっています。この手紙の目的は、イーロン・マスクが共同設立したOpenAI社の有名なチャットボットの新バージョンであるGPT-4などのシステムの訓練を少なくとも6ヶ月間保留にすることである。
最大の関心事は、これらの開発に対する人間の位置づけである。その意味で、さまざまなソーシャルネットワークで私たちが見るものを決めることができるアルゴリズム、さまざまな操作の自動化、人間よりも知的な心の開発など、いくつかの問題が提起されている:
。
そのような決定は、選挙で選ばれていないテクノロジーリーダーに委ねられるべきではありません。強力なAIシステムは、その効果が肯定的であり、リスクが管理可能であると確信した場合にのみ開発されるべきです。この自信は十分に正当化されなければならず、システムの潜在的な効果の規模に応じて増大する。”
一方、請願書では、AIの開発を「安全、解釈可能、透明、堅牢、整合、信頼、公正」な技術分野に再注目するよう求めています
。
AIは本当に危険なのか
。
あらゆる技術革新と同様に、AIは疑問を投げかける。産業革命の時代にはすでに、人間は機械に取って代わられる可能性に疑問を抱いていたし、『ターミネーター』のようなフィクション作品は、起こりうる終末のシナリオについての情熱を解き放ったが、我々は本当にシンギュラリティの瀬戸際にいるのだろうか。という疑問は、賛否両論ある。
こうした疑問は、最近のソーシャルネットワーク上でのAIの人気急上昇を待たずに生じた。
しかし、特にこれらのシステムの教育方法に関しては、確かに倫理的な問題が浮き彫りになっています。私たちがウェブ上で行うすべての活動と同様に、人工知能とのやりとりはすべて私たちの情報を与え、私たちは民間企業のアルゴリズムに無償で餌を与えています。
したがって、これらのデータがこれらの企業によってどのように使用され、今後使用されるかを問うことは興味深いことであり、現時点では、完全に自律したスーパーAIという幻想よりも、より合理的な危険を表しているかもしれません。
人間の代替に関しては、他の技術分野と同様に、AIは確かに一部の仕事をなくすかもしれないが、並行して他の仕事も生み出すだろう。要するに、AIは道徳的に中立なツールであり、その危険性や利点は使い方次第なのだ
。
