AIパイオニアのヒントンも「驚異の進歩」に警鐘を鳴らす

「AIのゴッドファーザー」と呼ばれるジェフリー・ヒントン博士は1日、自身が開発に携わったAI技術の「危険性」について自由に発言するため、先週Googleの職を辞したことを認めた。

ヒントンは、Googleを辞職したことを最初に報じたニューヨーク・タイムズのインタビューで、今となっては自分のライフワークを後悔している部分がある、と語った。

ヒントンのディープラーニングとニューラルネットワークに関する先駆的な研究は、ChatGPTのような現在のAIシステムへの道を切り開いた。彼は、コンピュータ科学で最も栄誉のあるチューリング賞を2018年に受賞している。

「私がやらなかったら、他の誰かがやっていただろう、という普通の言い訳で自分を慰めている」とヒントンは語った。

ヒントンはインタビューで、AIが仕事をなくし、多くの人が「何が真実かわからなくなる世界」を生み出す可能性についての懸念を表明した。また、彼や他の人たちの予想をはるかに超えた、驚くべき進歩のペースも指摘した。

「このようなものが人間よりも賢くなれるという考え方は、一部の人が信じているだけでした」とヒントンはインタビューの中で語っている。「ほとんどの人は、そんなことはあり得ないと思っていました。私もそう思っていました。30年、50年、あるいはもっと先の話だと思っていた。しかし、今では私はそう思わなくなりました」。

ヒントンは英BBCに対して「今現在、私が知る限り、彼らは私たちよりも知能が高いわけではありません。でも、すぐにそうなるかもしれません」と語ってもいる。

ヒントンは1986年に発表された、多層ニューラルネットワークを訓練するためのバックプロパゲーションを一般化した、非常に引用された論文の共著者。ImageNetチャレンジ2012のために彼の学生Alex KrizhevskyとIlya Sutskeverが共同で設計したAlexNetの劇的な画像認識のスコアは、コンピュータビジョン分野における画期的なマイルストーンだった。

パイオニアであるヒントンは現在のAI界の有力な研究者たちの師匠である。弟子には、MetaのAI研究所トップであるヤン・ルカンやOpenAIの研究を率いるSutskeverだけでなく、大規模言語モデル（LLM）の主要な要素技術であるTransformerを提唱する画期的な論文の共著者たちや、大学や官民の研究機関の研究者、新興企業の創業者や最高技術責任者も含まれる。

大御所のヒントンが警鐘を鳴らしたことが現在の「軍拡競争」にどのような影響を与えるだろうか。

昨年末にChatGPTが注目を集めたことで、テクノロジー企業の間では、同様のAIツールを開発し、自社製品に搭載するための軍拡競争が加速した。OpenAI、Microsoft、Googleがこの流れの最前線にいるが、NVIDIA、Amazon、百度、テンセント、アリババが同様の技術に取り組んでいる。

3月には、AI業界の著名人たちが、「社会と人類に対する重大なリスク」を理由に、AI研究所に対して、AIシステムの開発を少なくとも6カ月間停止するよう求める書簡に署名した。イーロン・マスクが支援する非営利団体Future of Life Instituteが発表したこの書簡は、OpenAIがChatGPTを支える技術のさらに強力なバージョンであるGPT-4を発表してからわずか2週間後に署名活動が始まった。マスクは研究停止を求めると同時にGPUを買い占め、AI研究者を採用し、独自のAI研究所を発足して、かつて自分が創設したOpenAIを打倒する意欲を滾らせている。

AIの急速な進歩を公の場で警告したGoogleの社員は、ヒントンが初めてではない。昨年7月には、未発表の対話AIシステムが「知覚している（Sentient）」と主張したエンジニアが、就労規則とデータセキュリティのポリシーに違反したとして、Googleは解雇した。