過熱するAI人類絶滅論の負の側面

AIの脅威によって人類の絶滅を示唆する言説が飛び交っている。リスクの指摘は重要だが、報道やSNSを通じて過剰反応を引き起こし始めており、負の側面が顕在化している。

過熱するAI人類絶滅論の負の側面
UnsplashGoogle DeepMindが撮影した写真

AIの脅威によって人類の絶滅を示唆する言説が飛び交っている。リスクの指摘は重要だが、報道やSNSを通じて過剰反応を引き起こし始めており、負の側面が顕在化している。


4月、AIの害に関する上院公聴会で、OpenAIのCEOであるサム・アルトマンは、この技術がもたらす重大な危険性から、議会に規制を求めた。

5月下旬、非営利団体「センター・オブ・AIセーフティー(Center for AI Safety)」に掲載された、AIが「人類絶滅のリスク」につながりうるとして対策を求める書簡には、アルトマン、Google DeepMindのデミス・ハサビスCEO、Anthropicのダリオ・アモデイCEOといった、テクノロジー企業のトップが署名。カナダ・トロント大のジェフリー・ヒントン名誉教授、モントリオール大のヨシュア・ベンジオ教授ら著名学者らも名を連ねた。

サンフランシスコに拠点を置くこのグループは、350人以上のエンジニア、経営者、研究者が署名した1文の声明の中で、基本的にAIを人類に対する存亡の危機と位置づけている。「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争といった他の社会的規模のリスクと並んで、世界的な優先事項であるべきだ」と、センターは声明で述べている。

最近のAIの急速な進歩をめぐって、人類絶滅のリスクに関する議論はメディアを揺るがすようになっているが、滅亡論の伝播について、社会に対する負の側面を指摘する声も上がっている。

  • 「Googleの猫」と呼ばれる主要なブレークスルーの立役者である、スタンフォード大学のAI研究者のアンドリュー・ンは5月にTwitterに投稿した動画の中で、この分野の他の経営者や専門家の終末予測に疑問を表明した。「正直なところ、私には理解できない。AIが我々の絶滅に対して、どのような意味のあるリスクをもたらすのか、理解に苦しんでいる」。
  • ただ、ンはAIには一定のリスクがあることを認めた。バイアスがあったり、不正確だったりすることもあるという。特定の人々を失業させる可能性もある。そして、特定の人や企業に権力を集中させる可能性もある。
  • AI研究者でありニューヨーク大学准教授のKyunghyun Choは、AIのリスクをめぐる「絶滅の物語」に同意せず、絶滅論が生む過剰な反応が、AIの社会実装に関連するプラスとマイナスの両側面から目を逸らすと主張した。Choは、米メディアVentureBeatとのインタビューで、最近の上院公聴会について不満を表明し、AIの有益な利用を増やす方法に関する具体的な提案や議論がないことに失望を表明した。
  • Choは、また、多くの汎用人工知能(AGI)の取り組みに資金を提供している「効果的利他主義(Effective Altruism)」運動についても懸念を示している。彼は、AIの小さな成功に焦点を当て、AIの利点と潜在的なリスクについて一般大衆を教育することを提唱している。
  • 元Google BrainのAI倫理研究者であるTimnit Gebruは、現在進行中の「人類滅亡の物語」をDDoS攻撃(*)に例え、より緊急な問題から目を逸らし、本来のリスクに焦点を当てた研究に不当な社会的圧力をかけていると述べている。
  • オレゴン州立大学のコンピュータサイエンス名誉教授であるThomas G. Dietterichは、一部の著名人の立場に困惑を示し、深層学習以外では、ほとんどの研究者が、大規模言語モデル(LLM)の認識能力に業界や報道機関が過剰反応していると考えていると述べた。Dietterichは、コンピュータがもたらす最も大きなリスクとしてサイバー攻撃を挙げている。

注釈

*1:攻撃者がサーバーにインターネットトラフィックを殺到させ、ユーザーが接続しているオンラインサービスやサイトにアクセスできないようにするサイバー犯罪

Read more

アドビ、日本語バリアブルフォント「百千鳥」発表  往年のタイポグラフィー技法をデジタルで再現

アドビ、日本語バリアブルフォント「百千鳥」発表 往年のタイポグラフィー技法をデジタルで再現

アドビは4月10日、日本語のバリアブルフォント「百千鳥」を発表した。レトロ調の手書き風フォントで、太さ(ウェイト)の軸に加えて、字幅(ワイズ)の軸を組み込んだ初の日本語バリアブルフォント。近年のレトロブームを汲み、デザイン現場の様々な要望に応えることが期待されている。

By 吉田拓史
新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)
新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

1960年代以来、世界中のエンジニアが回転デトネーションエンジン(RDE)と呼ばれる新しいタイプのジェット機を研究してきたが、実験段階を超えることはなかった。世界最大のジェットエンジン製造会社のひとつであるジー・エアロスペースは最近、実用版を開発中であると発表した。今年初め、米国の国防高等研究計画局は、同じく大手航空宇宙グループであるRTX傘下のレイセオンに対し、ガンビットと呼ばれるRDEを開発するために2900万ドルの契約を結んだ。 両エンジンはミサイルの推進に使用され、ロケットや既存のジェットエンジンなど、現在の推進システムの航続距離や速度の限界を克服する。しかし、もし両社が実用化に成功すれば、超音速飛行を復活させる可能性も含め、RDEは航空分野でより幅広い役割を果たすことになるかもしれない。 中央フロリダ大学の先端航空宇宙エンジンの専門家であるカリーム・アーメッドは、RDEとは「火を制御された爆発に置き換える」ものだと説明する。専門用語で言えば、ジェットエンジンは酸素と燃料の燃焼に依存しており、これは科学者が消炎と呼ぶ亜音速の反応だからだ。それに比べてデトネーシ

By エコノミスト(英国)