仮に超知能が生まれるなら未来はどうなる？『スーパーインテリジェンス超絶AIと人類の命運』書評

「超知能」コンピュータがどのようなものになるのか？　哲学者のニック・ボストロムは、新しい本『スーパーインテリジェンス超絶AIと人類の命運』の中で、この答えを探し求めている。彼の課題は野心的なものであり、むしろ余りにも野心的すぎる印象を抱いてしまいます。

ボストロムは、人間の心をより優れたハードウェアでエミュレートしたり、生物学的な脳をターボチャージしたり、あるいは完全にゼロから構築したりすることで、どのようにして超知性を実現するかを予測している。彼はまた、超知性がどのように振る舞うかについても予測している。彼の予言は暗いものである。ボストロムは、超知性を迫り来る実存的な脅威、私たちが扱うことのできない途方もないパワーとして捉えている。彼の本の大部分は、超知性との必然的な出会いをどうやって生き延びるかを探ることに費やされている。

もちろん、ボストロムは、これらの問題のほとんどについて、推測することしかできません。彼の努力は、1850年に座ってiPhoneの取扱説明書を書くことにほぼ等しい。これでは、空想的なものから恐ろしいものを切り離すのは難しい。ボストロームは有効な懸念を提起しているが、『スーパーインテリジェンス』は人工知能研究における突飛な仮説の集合体にすぎない。

しかし、その欠点はあるものの、『スーパーインテリジェンス』はシリコンバレーのある種のハイテク未来主義者に強くアピールするだろう。ボストロムは明らかに彼らのために書いている。彼の本は技術進歩への揺るぎない信念によって支配されています。彼は論文というよりもガイドブックに近いものを書いている。それが予言的なものなのか、それとも笑えるものなのかは、時間だけが教えてくれるだろう。今のところ、それはあまりにも遠回しな憶測に満ちているようだ。それでも、それは思考のためのいくつかの基礎的な素材が提供されているのは確かです。最初に描いた線と最後に描いた線は、本当に異なったものになるのです。彼の勇敢な思索は最初に描かれた重要な線になるかもしれません。