AI規制を声高に叫びながら誰もが巨大モデルにオールインしている現実

「AIの安全性」を巡る議論が噴出している。だが、主張のどれもが各々のステークホルダーの利益を代表しているように見える。実際には誰もが全てのリソースをAI研究に投じ、競争相手を出し抜こうとしている。

AI規制を声高に叫びながら誰もが巨大モデルにオールインしている現実
Photo by Alexander Jawfox on Unsplash

「AIの安全性」を巡る議論が噴出している。だが、主張のどれもが各々のステークホルダーの利益を代表しているように見える。実際には誰もが全てのリソースをAI研究に投じ、競争相手を出し抜こうとしている。


先日、イーロン・マスクやジョシュア・ベンジオなどのレジェンド級のAI研究者によって、巨大AI実験の減速とGPT-4より強力なモデルの訓練の一時停止を求める請願書が出された。この公開書簡には、今のところ約2万人の署名が寄せられている。

興味深いのは、請願者の一部にとっては、OpenAIがAI競争で先行するのを阻止するための「戦略的な呼びかけ」に過ぎないのではないか、と見受けられることだ。

その筆頭がマスクである。マスクはTwitter社内で大規模な人工知能プロジェクトを始動させたと報じられている。同社はすでに約10,000個のGPUを購入し、大規模な言語モデル(LLM)を含むプロジェクトのためにDeepMindからAI人材を採用したと米メディアBusiness Insiderは報じた。

深層学習に利用されるハイエンドGPU 約10,000個の購入は、数十億円から100億円以上までの投資を意味する。また、このGPUに計算させるのも非常に高価だ。Twitteは「不安定な財務状況」が続いているにもかかわらず、計算に数千万ドルを費やしたとされる。

OpenAIはChatGPTボットの訓練にNVIDIAのA100 GPUを使用し、現在もこのマシンを使ってChatGPTを動かしている。現在、NVIDIAはA100の後継機であるH100 GPUを発売しており、ほぼ同じパワーで数倍の速度がある(写真)。Twitterは、AIプロジェクトにH100 GPUまたは同様のハードウェアを使用する可能性が高いと思われる。同社がAIプロジェクトを何に使うかまだ決めていないことを考えると、何台のHopper GPUが必要になるかを推定するのは難しい。

NVIDIA H100 GPU 搭載の新型 SXM5 モジュール。出典:NVIDIA
NVIDIA H100 GPU 搭載の新型 SXM5 モジュール。出典:NVIDIA

Twitterは、エンジニアの追加採用も行っているようだ。今年初め、同社はAlphabetの子会社であるAI研究所DeepMindのエンジニア、Igor BabuschkinとManuel Kroissを採用した。マスクは少なくとも2月から、OpenAIのChatGPTに対抗するため、AI業界で積極的に人材を求めてきた。生成AIの正確な目的は不明だが、検索機能の向上やターゲットとなる広告コンテンツの生成などの応用が考えられている。

第三極を形成する動き

一方、「テック大手以外」の第三極を形成する動きも活発化した。ドイツの非営利AI研究団体であるLAION(Large-scale AI Open Network)は先週、「安全なデジタル未来」のためにAIモデルの公開を求める署名活動を開始した。この書簡の中で、同団体は、マスクらの請願を「誤ったアプローチ」と呼び、どちらの目的にも不利になる可能性があると指摘している。むしろ、AIのイノベーションのプロセスを加速させるべきだ、と書簡は述べている。

この新しい請願書の最も重要な目標は、国際的な発展のためのAI研究をオープンソースで行うための公的資金によるスーパーコンピュータをオープンソースで大規模なAI研究とその安全性のために建設することだ。「オープンソースの基礎モデルを訓練するために、10万個の最新AIアクセラレータを備えた国際的な公的資金によるスーパーコンピューティング施設を設立する」と書かれたこの手紙は、現在2500人以上の署名者がおり、目標の1万人の4分の1に達している。

LAIONのメンバーであるChristoph Schuhmann、Huu Nguyen、Robert Kaczmarczyk、Jenia Jitsevによって書かれた新しい請願は、マイクロソフト、OpenAI、グーグルのような大企業からAI研究を独占したいま、アカデミアや政府機関の独立性を確保することが、いかに時代の要請であるかを説いている。「GPT-4のようなテクノロジーは、少数精鋭で独占的にコントロールするにはあまりにも強力で重要なものです」と書簡には書かれている。

LAIONは、スーパーコンピュータを使った誰もがアクセスできる大規模なモデルは、グローバルに、中小企業に大きな利益を与えるとも考えている。しかし、「AIのためのCERN」を実現するための招致は、まだEU、英国、カナダ、オーストラリアに限られている。

LAIONの請願も、コミュニティから反発を受けている。LAIONの主張もまた画像生成を手掛けるグループの利益を反映したものにも見えるからだ。

LAIONは、Stable DiffusionやMidjourneyなどの画像生成モデルで使用される画像データセット「LAION-5B」を構築したことで、多くの論争にさらされてきた。LAIONのデータは、元のソースに正当なクレジットを与えることなく、インターネットから非倫理的にかき集められたものだ。

正しい規制のあり方とは?

マスク主導の請願に反対した一人である、Meta チーフAIサイエンティストのヤン・ルカンは、スタンフォード大学のAI研究者のアンドリュー・ンとの対談で、AGIを心配する人たちがいかに見当違いなことを言っているか、今は実際に危害を加えるリスクがあるが、それは研究によって解決される必要があることを表明している。

ルカンとンは、将来起こりうる危害に基づいて研究を規制するのは良くない考えであり、製品を規制することが実は正しい道かもしれないと話している。ルカンは、GPT-4に一定の評価を示したものの、それ以上のものを作ることも同様に重要であると言っている。

マスクは、最近Twitterでルカンと同じ話題で議論になり、意見をぶつけていた。

ルカンはAIの安全性を航空機の安全性と比較し、「航空機のエンジニアが飛行機を怖がらないのと同じように、なぜAIエンジニアがAIを怖がる必要があるのか」と言ったところ、マスクは「連邦航空局(FAA)が航空機メーカーに安全性に手を抜かないよう規制を設けるまでは、飛行機は頻繁に墜落していた」と反論した。

ニューヨーク・タイムズとのポッドキャストで、アルファベットのスンダー・ピチャイは、マスクらの請願の詳細には異論があるかもしれないが、この文書で引き出されている精神には同意すると述べている。「AIは、規制するにはあまりにも重要な分野です。また、規制してはいけない重要な分野でもあります。だから、こうした会話が進んでいることをうれしく思う」と語った。

Read more

OpenAI、法人向け拡大を企図 日本支社開設を発表

OpenAI、法人向け拡大を企図 日本支社開設を発表

OpenAIは東京オフィスで、日本での採用、法人セールス、カスタマーサポートなどを順次開始する予定。日本企業向けに最適化されたGPT-4カスタムモデルの提供を見込む。日本での拠点設立は、政官の積極的な姿勢や法体系が寄与した可能性がある。OpenAIは法人顧客の獲得に注力しており、世界各地で大手企業向けにイベントを開催するなど営業活動を強化。

By 吉田拓史
アドビ、日本語バリアブルフォント「百千鳥」発表  往年のタイポグラフィー技法をデジタルで再現

アドビ、日本語バリアブルフォント「百千鳥」発表 往年のタイポグラフィー技法をデジタルで再現

アドビは4月10日、日本語のバリアブルフォント「百千鳥」を発表した。レトロ調の手書き風フォントで、太さ(ウェイト)の軸に加えて、字幅(ワイズ)の軸を組み込んだ初の日本語バリアブルフォント。近年のレトロブームを汲み、デザイン現場の様々な要望に応えることが期待されている。

By 吉田拓史
新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)