AIの驚異的進歩が人類の未来を危ぶむ議論に火を付けた

大規模言語モデル(LLM)の開発を6ヶ月休止するよう要求する公開書簡が、議論を引き起こしている。汎用人工知能(AGI)実現の可能性も遠くにちらつく中、驚異的な潜在性を秘める科学技術をどう扱うか、人類は分水嶺に立っているかもしれない。

AIの驚異的進歩が人類の未来を危ぶむ議論に火を付けた
Licensed under the Unsplash+ License

大規模言語モデル(LLM)の開発を6ヶ月休止するよう要求する公開書簡が、議論を引き起こしている。汎用人工知能(AGI)実現の可能性も遠くにちらつく中、驚異的な潜在性を秘める科学技術をどう扱うか、人類は分水嶺に立っているかもしれない。


人類が直面する世界的な破局的 リスクに取り組むNPOのFuture of Life Instituteは、GPT-4より「より強力な」大規模言語モデル(LLM)のトレーニングを6ヶ月間休止することを求める公開書簡を発表した。

AI界の重鎮やイーロン・マスクら1,000人以上の研究者、技術者、公人がこの書簡に署名。書簡は、多くのAIリスクについて警鐘を鳴らしている。

Pause Giant AI Experiments: An Open Letter - Future of Life Institute
We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.

AI界では、この書簡を巡って議論が紛糾している。

休止派の論理

書簡の署名者である重鎮の1人、ニューヨーク大学名誉教授のゲイリー・マーカスは「コーディングが速くなり、楽しいチャットボットが遊べるようになることは、それが実現する1%のリスクに見合うか?」と疑問を投げかけている。

AI risk ≠ AGI risk
Superintelligence may or may not be imminent. But there’s a lot to be worried about, either way.

「悪意ある行為者の手にかかれば、あらゆる種類の騒乱を引き起こすことができる…LLMが広く知られるようになり、犯罪者の関心を引くようになり、外界にアクセスできるようになりつつある現在では、より大きな損害を与える可能性がある」とマーカスは書いている。

ニューラルネットワークの重要な要素技術を3つ開発した、カナダ・トロント大学名誉教授でGoogle Researchの首席研究者でもあるジェフリー・ヒントンは、この公開書簡に先立って、米CBSニュースに対して、この技術の進歩は「産業革命、電気...あるいは車輪」に匹敵するかもしれないと語っている。またヒントンは、AIが人類の脅威となるまでに発展する可能性は「考えられないことではない」と述べている。

「ごく最近まで、汎用人工知能(AGI)ができるまで20年から50年といったところだと思っていた。そして今、私は20年かそれ以下かもしれないと考えている」とヒントンは予測した。

書簡への批判

2012年の「Googleの猫認識」で現在の深層学習ブームの端緒を開いた1人である、スタンフォード大学の非常勤教授アンドリュー・ンは「ひどい考えだ」と批判的だ。

「教育、医療、食品...多くの人を助ける新しいアプリケーションがたくさん出てきている。GPT-4を改善することは助けになる。AIが生み出す大きな価値と現実的なリスクとのバランスを取ろう」とツイートした。

「政府が理解できない新興技術を一時停止させることは、反競争的であり、ひどい前例となり、ひどいイノベーション政策である」

「6ヶ月のモラトリアムは現実的な提案ではない。AIの安全性を高めるには、透明性と監査に関する規制がより現実的で、より大きな違いを生むだろう。また、進歩を阻害するのではなく、技術を進歩させながら、安全性にもっと投資すべきだ」

MetaのチーフAIサイエンティストであるYann LeCunは、この手紙の「前提に同意できない」とツイートしている。

公開書簡ではAIリスクについて偽情報キャンペーン、仕事の自動化等が指摘されているが、プリンストン大学のコンピュータサイエンス教授、Arvind Narayananらは、現実のAIリスクは、不正確なツールへの過度の依存、中央集権、労働搾取と主張した。これらの実害には、AI活用の重要性とそのリスクのバランスをとる解決策が必要であり、AI開発の広範な休止は解決策にはならない、とNarayananらは主張している。

Narayananは「このオープンレターは、皮肉にも、しかし意外にも、AIの誇大広告をさらに煽り、現実にすでに発生しているAIの害に取り組むことを難しくしています。規制するはずの企業に利益をもたらし、社会には利益をもたらさないのではないでしょうか」とツイートした。

戦略的な側面

書簡に署名している人の中には、書簡の要求が実行されることで利益を得る人物が混ざっている。イーロン・マスクだ。マスクはOpenAIがNPOだった段階で参加し、寄付をしていたが、離脱し、最近はOpenAIの対抗馬となるAI研究所の設立を企図。OpenAIの支配権を得ようと運営に持ちかけていたというも立っている。

Read more

OpenAI、法人向け拡大を企図 日本支社開設を発表

OpenAI、法人向け拡大を企図 日本支社開設を発表

OpenAIは東京オフィスで、日本での採用、法人セールス、カスタマーサポートなどを順次開始する予定。日本企業向けに最適化されたGPT-4カスタムモデルの提供を見込む。日本での拠点設立は、政官の積極的な姿勢や法体系が寄与した可能性がある。OpenAIは法人顧客の獲得に注力しており、世界各地で大手企業向けにイベントを開催するなど営業活動を強化。

By 吉田拓史
アドビ、日本語バリアブルフォント「百千鳥」発表  往年のタイポグラフィー技法をデジタルで再現

アドビ、日本語バリアブルフォント「百千鳥」発表 往年のタイポグラフィー技法をデジタルで再現

アドビは4月10日、日本語のバリアブルフォント「百千鳥」を発表した。レトロ調の手書き風フォントで、太さ(ウェイト)の軸に加えて、字幅(ワイズ)の軸を組み込んだ初の日本語バリアブルフォント。近年のレトロブームを汲み、デザイン現場の様々な要望に応えることが期待されている。

By 吉田拓史
新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)