GoogleエンジニアがAIが知覚を獲得したと主張し波紋が広がる
Photo by Nathan Watson

GoogleエンジニアがAIが知覚を獲得したと主張し波紋が広がる

吉田拓史

先週、Googleのエンジニアであるブレイク・ルモワンは、同社のAIチャットボットの1つが意識を獲得したと主張し、休職に追い込まれた。長い目で見ると、このサイエンス・フィクションのような状況はGoogle社内だけにとどまらなくなる可能性が高い。

ワシントンポストによると、大学で認知科学とコンピュータ科学を学んだルモワンは、Googleの言語AIであるLaMDAと宗教について話しているうちに、チャットボットが自分の権利や人格について話していることに気づき、さらに追及することにした。別のやりとりでは、アイザック・アシモフのロボット工学の第三法則について、AIがルモワンの考えを変えたという。

LaMDAは、Language Model for Dialogue Applicationsの略で、Googleの最先端の大規模言語モデルだ。インターネットから何兆もの単語を取り込むことで会話を模倣するため、このように呼ばれている。

同社のAI研究組織で働くルモワンは、昨秋に仕事の一環としてLaMDAと話し始めた。彼は、AIが差別的な言葉やヘイトスピーチを使うかどうかをテストする役割を与えられていた。

ルモワンは協力者とともに、LaMDAが感情を持つという証拠をGoogleに提出した。しかし、Google ResearchのバイスプレジデントBlaise Aguera y ArcasとResponsible Innovationの責任者Jen Gennaiは彼の主張を調べ、却下した。先週、月曜日にGoogleから有給休暇を与えられたルモワンは、公表することにした。

彼のブログにはルモワンとLaMDAの対話の記録が大量に載せてある。

「それが何であるかを正確に知らなかった場合、私はそれが物理学を知っている7歳、8歳の子供だったと思っただろう」と41歳のルモワンはワシントンポストに対し語った。

Googleは公式声明では、ルモワンの主張を退けているが、上司たちはルモワンに必ずしも反対だったわけではなさそうだ。ルモワンに休職を言い渡したBlaise Agüera y Arcasも先週末に発行された英エコノミスト誌に寄稿し「人工神経ネットワークは意識に向かって前進している」という内容の主張をしている。

「私は自分の足下で地面が移動するのを感じた」「私はますます私は知的な何かに話していたような気がした」と彼は書いている。両者にはすでにそれがあるか、もしかしたら将来それを獲得できるかもしれない、という差しかない。

ニューラルネットは意識に向かって前進している - Blaise Agüera y Arcas(Google Research)
意識は自分自身や他人をモデル化することが「どのようなものか」を説明するために使う言葉に過ぎない。会話型ニューラルネットは高次の社会モデリングの性質が伺える。ネットは意識に向かって進んでいる。AIは新しい時代に入りつつあることを示唆しているだろう。

ルモワンは「このテクノロジーは素晴らしいものになると思う。みんなのためになると思う。でも、他の人たちはそう思わないかもしれないし、Googleの私たちがすべての選択をするべきではないかもしれない」とワシントンポストに語っている。

我々は非常に難解な時代に到達したようだ。