「生命3.0」はAI革命の時代 "Life 3.0" by Max Tegmark

"Life 3.0: Being Human in the Age of Artificial Intelligence"は、MITのスウェーデン系アメリカ人宇宙学者Max Tegmarkによる本です。"Life 3.0"では、人工知能（AI）と、地球とそれ以降の生命の未来への影響について説明します。 この本は、さまざまな社会的影響、前向きな結果の可能性を最大化するために何ができるか、人類、テクノロジー、およびそれらの組み合わせの将来の可能性について説明しています。

Tegmarkは有名な物理学者である。彼はまた、マサチューセッツ州ケンブリッジにあるFuture of Life Instituteの、抑えきれないほど楽観的な共同創設者でもあります。同研究所のモットーは「テクノロジーは生命に、これまでにないほど繁栄する可能性を与えています......あるいは自滅する可能性もあります。違いを生み出そう！」です。『Life 3.0』では、彼は差し迫った未来の発展、つまり人工知能（AI）の進化に取り組んでいます。彼は、私たちの「宇宙の恵み」がうっかり捨てられないために、リスクは真剣に考える必要がある、と主張している。

この本のタイトルは、進化の歴史における第三段階を指している。

Life 1.0は生物学的起源。40億年近くの間、ハードウェア（身体）とソフトウェア（行動を生み出す能力）の両方が生物学によって固定されていた。

Life 2.0は人類の文化的発展。その後10万年の間、学習と文化によって、人間は自らのソフトウェアを適応させ、制御することが可能になった。差し迫った第三段階では、ソフトウェアとハードウェアの両方を再設計することができる。これはトランスヒューマニズム（身体と脳を再設計しようという動き）のように聞こえるかもしれないが、テグマークは外部デバイスで精神能力を補うAIに焦点を当てています。

Life 3.0は人類の技術的発展である。本書では「Life 3.0」に焦点を当て、いつかは学習能力だけでなく、ハードウェアや内部構造の再設計も可能にするかもしれない人工知能などの新技術を紹介しています。

本書の第一部では、数十億年前の知能の起源に着目し、今後の知能の発展を予測しています。Tegmarkは、技術的な失業、AI兵器、人間レベルのAGI（人工知能）の追求など、先端技術の発展による短期的な影響を考察しています。本書では、DeepmindやOpenAI、自動運転車、チェス、ジョパディ、AlphaGoなどの例を挙げています。

Tegmarkはリスクとメリットの両方を考慮しています。近い将来のリスクとしては、自律型兵器の軍拡競争と雇用の劇的な減少が挙げられる。AIのコミュニティは、人間を殺すことを選択できる機械の創造を非難することで実質的に一致していますが、仕事の問題は議論を巻き起こしています。他方で、多くの人は、経済的な恩恵を予測しています。つまり、以前の産業革命のように、AIが古い仕事に取って代わる新しい仕事を触発します。MITのマサチューセッツ工科大学（MIT）の経営学教授、エリック・ブリニョルフソンはその筆頭です。

関連記事：コンピュータがもたらしている新しい産業革命 『ザ・セカンド・マシン・エイジ』

関連記事：AIと生産性のパラドクス

Tegmarkは、1900年の内燃機関の台頭について議論する2頭の馬を皮肉たっぷりに想像している。一方は「馬のための新しい仕事」を予測している。それは、車輪や鋤の発明のように、以前から常に起こっていたことです。ほとんどの馬にとって、悲しいかな、「新しい仕事」はペットフードになることだった。テグマークの分析は説得力があり、ポール・クルーグマンのような経済学者によって共有されている。しかし、疑問は残ります。

我々が今仕事と呼んでいるもののほとんどが機械によって行われているときに、我々はどのような望ましい経済を目指しているのだろうか？

関連記事：もはや労働は報われない 超大企業とデジタル経済の台頭で揺らぐ従来型資本主義

関連記事：人類、労働やめるってよ もしかしたら資本主義もね

この本では、超インテリジェントなAIが出現する可能性のある合理的にもっともらしいシナリオが描かれている。その後に、Tegmarkは、ユートピアから人間が奴隷化された世界または人類の絶滅に至るまでの世界的な結果に及ぶ。より良い未来へと舵を切る方法がわからないということは、なぜAIをより良いものにすることが悪いことなのかについて真剣に考えていないことを示しています。

コンピュータのパイオニアであるアラン・チューリングは、1951年に、私たちの種は、せいぜいAIによって「大いに謙虚になる」だろうという可能性を提起し、自分自身よりも賢いものを作ることへの一般的な不安を表明しました。AIの進歩を抑制することによってこの種の不安を和らげることは、好ましいことでもないかもしれません。Life 3.0の中で最も興味深い部分は、本当の問題は目的がずれてしまう可能性があることだと説明しています。サイバネティクス（人工頭脳学）の創始者であるノーバート・ウィーナーは1960年に「機械に投入された目的が、我々が本当に望む目的であることを十分に確認しなければならない」と書いている。あるいは、Tegmarkが言っているように、「定義されておらず、人類の抹殺につながることもない究極の目標を持った超知性AIに、どのようにして（目的を）吹き込むかは不明だ」と。私の考えでは、この技術的・哲学的な問題は、私たちが持てるあらゆる知的資源を必要としています。

Life 3.0は、その壮大なビジョンにおいて、ニック・ボストロムの2014年の『Superintelligence』（Oxford University Press）と最も共通している。しかし、ボストロムとは異なり、Tegmarkはリスクが避けられないことを証明しようとしているわけではなく、読者にどのシナリオがより可能性が高いと思うか、あるいは望ましいと思うかを尋ねるようにしている。

Tegmarkは、AIにおける現在の問題点を検討した後、インテリジェントな機械や人間を特徴とする様々な可能性のある未来を検討しています。第5章では、社会構造の変化、人間と機械の統合、友好的なAIやAIの終末のようなポジティブなシナリオとネガティブなシナリオの両方など、起こりうる可能性のある多くの結果を説明している。Tegmarkは、AIのリスクは悪意や意識的な行動そのものからではなく、むしろAIの目標と人間の目標のずれから来ると主張している。

AI研究者のスチュアート・J・ラッセル氏は、『ネイチャー』誌への寄稿で次のように述べている。「私は、Life 3.0の前提に強く反対することはないだろう。生命は、テグマークが主張するように、宇宙を介して広がるかもしれないし、そうでないかもしれないし、私たちが今行う決定のために『何十億年、何兆年も繁栄する』かもしれない - 魅惑的であり、圧倒的な可能性である」。