AIの驚異的進歩が人類の未来を危ぶむ議論に火を付けた
大規模言語モデル（LLM）の開発を6ヶ月休止するよう要求する公開書簡が、議論を引き起こしている。汎用人工知能（AGI）実現の可能性も遠くにちらつく中、驚異的な潜在性を秘める科学技術をどう扱うか、人類は分水嶺に立っているかもしれない。
大規模言語モデル（LLM）の開発を6ヶ月休止するよう要求する公開書簡が、議論を引き起こしている。汎用人工知能（AGI）実現の可能性も遠くにちらつく中、驚異的な潜在性を秘める科学技術をどう扱うか、人類は分水嶺に立っているかもしれない。
人類が直面する世界的な破局的 リスクに取り組むNPOのFuture of Life Instituteは、GPT-4より「より強力な」大規模言語モデル（LLM）のトレーニングを6ヶ月間休止することを求める公開書簡を発表した。
AI界の重鎮やイーロン・マスクら1,000人以上の研究者、技術者、公人がこの書簡に署名。書簡は、多くのAIリスクについて警鐘を鳴らしている。
AI界では、この書簡を巡って議論が紛糾している。
休止派の論理
書簡の署名者である重鎮の1人、ニューヨーク大学名誉教授のゲイリー・マーカスは「コーディングが速くなり、楽しいチャットボットが遊べるようになることは、それが実現する1％のリスクに見合うか？」と疑問を投げかけている。
Gary Marcus
「悪意ある行為者の手にかかれば、あらゆる種類の騒乱を引き起こすことができる…LLMが広く知られるようになり、犯罪者の関心を引くようになり、外界にアクセスできるようになりつつある現在では、より大きな損害を与える可能性がある」とマーカスは書いている。
ニューラルネットワークの重要な要素技術を3つ開発した、カナダ・トロント大学名誉教授でGoogle Researchの首席研究者でもあるジェフリー・ヒントンは、この公開書簡に先立って、米CBSニュースに対して、この技術の進歩は「産業革命、電気...あるいは車輪」に匹敵するかもしれないと語っている。またヒントンは、AIが人類の脅威となるまでに発展する可能性は「考えられないことではない」と述べている。
「ごく最近まで、汎用人工知能（AGI）ができるまで20年から50年といったところだと思っていた。そして今、私は20年かそれ以下かもしれないと考えている」とヒントンは予測した。
書簡への批判
2012年の「Googleの猫認識」で現在の深層学習ブームの端緒を開いた1人である、スタンフォード大学の非常勤教授アンドリュー・ンは「ひどい考えだ」と批判的だ。
「教育、医療、食品...多くの人を助ける新しいアプリケーションがたくさん出てきている。GPT-4を改善することは助けになる。AIが生み出す大きな価値と現実的なリスクとのバランスを取ろう」とツイートした。
「政府が理解できない新興技術を一時停止させることは、反競争的であり、ひどい前例となり、ひどいイノベーション政策である」
「6ヶ月のモラトリアムは現実的な提案ではない。AIの安全性を高めるには、透明性と監査に関する規制がより現実的で、より大きな違いを生むだろう。また、進歩を阻害するのではなく、技術を進歩させながら、安全性にもっと投資すべきだ」
MetaのチーフAIサイエンティストであるYann LeCunは、この手紙の「前提に同意できない」とツイートしている。
公開書簡ではAIリスクについて偽情報キャンペーン、仕事の自動化等が指摘されているが、プリンストン大学のコンピュータサイエンス教授、Arvind Narayananらは、現実のAIリスクは、不正確なツールへの過度の依存、中央集権、労働搾取と主張した。これらの実害には、AI活用の重要性とそのリスクのバランスをとる解決策が必要であり、AI開発の広範な休止は解決策にはならない、とNarayananらは主張している。
Narayananは「このオープンレターは、皮肉にも、しかし意外にも、AIの誇大広告をさらに煽り、現実にすでに発生しているAIの害に取り組むことを難しくしています。規制するはずの企業に利益をもたらし、社会には利益をもたらさないのではないでしょうか」とツイートした。
戦略的な側面
書簡に署名している人の中には、書簡の要求が実行されることで利益を得る人物が混ざっている。イーロン・マスクだ。マスクはOpenAIがNPOだった段階で参加し、寄付をしていたが、離脱し、最近はOpenAIの対抗馬となるAI研究所の設立を企図。OpenAIの支配権を得ようと運営に持ちかけていたという噂も立っている。
