OpenAIがヒトの能力を超える「超知能」の規制を訴える

人類社会は、ヒトの能力を超えたAIの登場を真剣に議論する時期を迎えた。AIの進歩は目覚ましく、さまざまな分野で超知能が登場するシナリオもありうる。我々は非常に興味深い時代に生きている。

OpenAIがヒトの能力を超える「超知能」の規制を訴える
Unsplash+ライセンス

人類社会は、ヒトの能力を超えたAIの登場を真剣に議論する時期を迎えた。AIの進歩は目覚ましく、さまざまな分野で超知能が登場するシナリオもありうる。我々は非常に興味深い時代に生きている。


OpenAI共同創設者のサムアルトマン、グレッグ・ブロックマン、イリヤ・スツケヴェルは、昨日発表した声明で、今後10年以内にAIシステムがほとんどの領域で専門家レベルを超え、現在の大企業と同程度の生産活動を行うようになることが考えられる、と断言した。

このようなスーパーインテリジェンス(超知能)の台頭を念頭に、アルトマンらは3つの提言をした。

  1. 調整の必要性: 超知能の開発は、安全性を確保し、これらのシステムが社会にスムーズに統合されるようにするため、主要な開発努力の間で一定の調整が必要だ。
  2. IAEA(国際原子力機関)に似た機関の設立: 超知能の努力が一定の性能閾値を超えた場合、システムの検査、監査の要求、安全基準への準拠のテスト、展開の程度やセキュリティレベルに制限を設けるなど、国際的な権威に監視されるべき。
  3. 超知能を安全にする技術的能力の必要性: 超知能を安全にする方法は、まだ開かれた研究問題であり、これに多大な努力を注いでいる。

アルトマンは先週、米上院の公聴会で証言し、議員に対して規制を呼びかけていた。このブログはOpenAIの主張を整理し、明文化したものだ。

超知能はもはや夢物語ではない

超知能、あるいは汎用人工知能(AGI)の構築を訴える議論が、非現実的なものとみなされる時代は終わったようだ。

  • AGIは数年以内に実現も。英AI研究所Google DeepMindのCEOであるデミス・ハサビスは、数年以内に何らかの形でAGIが実現可能であると述べた。「AGI技術の開発は、科学的手法を使って慎重に行うべきであり、非常に慎重に制御された実験を行い、基本的なシステムが何をするのかを理解することが大切」
  • AGIの第一歩。MicrosoftはGPT-4が「機能の広さと深さを考えるとAGIの初期版と見るのが妥当だ」と主張。同モデルは、言語の習得を超えて、数学やプログラミング、ビジョン、医学、法律、心理学など、多岐にわたる新たな困難な課題を解決できることを根拠にしている。

文脈:AIが及ぼし得る脅威

AIが著しい進歩を示す中、安全性と規制をめぐる議論は最高点に達している。

  • パイオニア研究者も警鐘を鳴らす。「AIのゴッドファーザー」と呼ばれるジェフリー・ヒントン博士は最近、自身が開発に携わったAI技術の「危険性」について自由に発言するため、Googleを退職した。ヒントンはインタビューで、AIが人々の仕事を奪うことや、大規模な偽情報作戦が繰り広げられることを懸念点に挙げた。AIの予想をはるかに超えた進歩の速度にも危機感を覚えているという。
  • ホワイトワーカーの大失業? 英AI研究所Google DeepMindの共同設立者のムスタファ・スレイマンは、AIの進歩は、今後10年間でホワイトカラー労働者を脅かし、「深刻な数の敗者」を生み出すだろうと述べた
  • 「新たなマッキンゼー」。SF作家のテッド・チャンはマッキンゼーが企業のホワイトワーカーのリストラの口実を与えたのと同じようなことが、AIによってもたらされることを危惧している。
  • すでにネオラッダイト運動も発生。ハリウッドの脚本家組合は待遇向上のためにストライキを実行した。その要求にはAIの使用範囲に制限を設けることも含まれている。映画やドラマが放送から配信形式へと変わるにつれて、新進の脚本家たちは経験を積むチャンスを失いつつあり、AIの利用はこの状況をさらに深刻化する可能性があるという。
  • 開発休止の請願。AI界の重鎮ヨシュア・ベンジオとスチュアート・ラッセル、イーロン・マスク、Stability AI CEOのエマド・モスタク、DeepMindの研究者を含む1,000人以上が6カ月間休止するよう公開書簡に署名(マスクはその後GPUを買い占め、AI企業を公式に創業)。
  • 経済成長にはいい影響がある? ゴールドマン・サックスの最近の調査では、生成AIの進歩により、生産性が向上するため、10年間で世界の年間国内総生産(GDP)を7%押し上げることができると予測

Read more

米国のEV革命は失速?[英エコノミスト]

米国のEV革命は失速?[英エコノミスト]

米国人は自動車が大好きだ。バッテリーで走らない限りは。ピュー・リサーチ・センターが7月に発表した世論調査によると、電気自動車(EV)の購入を検討する米国人は5分の2以下だった。充電網が絶えず拡大し、選べるEVの車種がますます増えているにもかかわらず、このシェアは前年をわずかに下回っている。 この言葉は、相対的な無策に裏打ちされている。2023年第3四半期には、バッテリー電気自動車(BEV)は全自動車販売台数の8%を占めていた。今年これまでに米国で販売されたEV(ハイブリッド車を除く)は100万台に満たず、自動車大国でない欧州の半分強である(図表参照)。中国のドライバーはその4倍近くを購入している。

By エコノミスト(英国)
労働者の黄金時代:雇用はどう変化しているか[英エコノミスト]

労働者の黄金時代:雇用はどう変化しているか[英エコノミスト]

2010年代半ばは労働者にとって最悪の時代だったという点では、ほぼ誰もが同意している。ロンドン・スクール・オブ・エコノミクスの人類学者であるデイヴィッド・グレーバーは、「ブルシット・ジョブ(どうでもいい仕事)」という言葉を作り、無目的な仕事が蔓延していると主張した。2007年から2009年にかけての世界金融危機からの回復には時間がかかり、豊かな国々で構成されるOECDクラブでは、労働人口の約7%が完全に仕事を失っていた。賃金の伸びは弱く、所得格差はとどまるところを知らない。 状況はどう変わったか。富裕国の世界では今、労働者は黄金時代を迎えている。社会が高齢化するにつれて、労働はより希少になり、より良い報酬が得られるようになっている。政府は大きな支出を行い、経済を活性化させ、賃上げ要求を後押ししている。一方、人工知能(AI)は労働者、特に熟練度の低い労働者の生産性を向上させており、これも賃金上昇につながる可能性がある。例えば、労働力が不足しているところでは、先端技術の利用は賃金を上昇させる可能性が高い。その結果、労働市場の仕組みが一変する。 その理由を理解するために、暗

By エコノミスト(英国)
中国は地球を救うのか、それとも破壊するのか?[英エコノミスト]

中国は地球を救うのか、それとも破壊するのか?[英エコノミスト]

脳腫瘍で余命いくばくもないトゥー・チャンワンは、最後の言葉を残した。その中国の気象学者は、気候が温暖化していることに気づいていた。1961年、彼は共産党の機関紙『人民日報』で、人類の生命を維持するための条件が変化する可能性があると警告した。 しかし彼は、温暖化は太陽活動のサイクルの一部であり、いつかは逆転するだろうと考えていた。トゥーは、化石燃料の燃焼が大気中に炭素を排出し、気候変動を引き起こしているとは考えなかった。彼の論文の数ページ前の『人民日報』のその号には、ニヤリと笑う炭鉱労働者の写真が掲載されていた。中国は欧米に経済的に追いつくため、工業化を急いでいた。 今日、中国は工業大国であり、世界の製造業の4分の1以上を擁する。しかし、その進歩の代償として排出量が増加している。過去30年間、中国はどの国よりも多くの二酸化炭素を大気中に排出してきた(図表1参照)。調査会社のロディウム・グループによれば、中国は毎年世界の温室効果ガスの4分の1以上を排出している。これは、2位の米国の約2倍である(ただし、一人当たりで見ると米国の方がまだひどい)。

By エコノミスト(英国)