Metaがオープンソース言語AIのリリースを予告「競争環境を一変」とAIチーフ［吉田拓史］

Metaはオープンソースの大規模言語モデル（LLM）を間もなくリリースすると発表した。OpenAI / MicrosoftとGoogleとは異なる開放型のアプローチが競争環境を一変する、と同社は強調した。

吉田拓史

2023年7月18日 — 3 min read

Meta AI.

Metaは企業がカスタマイズできる新しい商用バージョンを「間もなく」リリースすると、とFinancial Times (FT) は報じた。

FTによると、MetaのチーフAIサイエンティストであるヤン・ルカンは、最近開催されたカンファレンスで、「AIの競争環境は、今後数カ月、あるいは数週間のうちに完全に変わるだろう。Metaは、個人や企業など、ユーザーのタイプに特化したAIチャットボットを作るかもしれない」と語った。

MetaのAIモデルへのアクセスは、公開当初は無料のはずだが、将来的には変更されるかもしれない。FTが引用したMetaに詳しい情報筋によると、同社は最終的に、企業顧客がモデルの変更やカスタマイズを望む場合、料金を請求する可能性があるという。

OpenAI / MicrosoftとGoogleは、エンタープライズ向けLLMでは、クラウド部門と組み合わせたビジネスを模索しているようで、ソースコードは公開していない。Metaは、一定の制約を与えながらもLLM「LLaMA」をオープンソース化するという独自の戦略を採用してきた。今回の予告は、その方針がさらに強化されたこと示唆している可能性がある。

LLaMAとは、Large Language Model Meta AIの略で、Meta AIが2023年2月にリリースしたLLMである。70億パラメータから650億パラメータまで、さまざまなサイズのモデルが学習された。LLaMAの開発者は、130億パラメータ・モデルのほとんどのNLPベンチマークにおける性能が、はるかに大規模なGPT-3（1,750億パラメータ）を上回り、650億パラメータの最大モデルはGoogleのPaLMやDeepMindのChinchillaのような最先端のモデルに匹敵すると報告した。

LLaMAはすでに業界にインパクトを与えてきた。このモデルは許可を得た研究者にだけ公開されたが、最終的にスタンフォードのチームがLLaMAを基に開発した亜種のモデルがオープンソース化された。公開されてからたった3 週間でスマートフォンのようなエッジデバイスで動作が確認された、というセンセーションを引き起こした。様々なエンジニアが亜種のモデルを使い、競うように実装を行った結果である。

Googleのエンジニアが「この競争には堀がない」と警告した内部文書が漏洩した。LLaMAのリリースによって、OpenAIやGoogleのLLMにおけるリードは数週間で埋められてしまったことに言及している。Google DeepMindのCEO、デミス・ハサビスはこの文書が本物であることを認めている。

エディンバラ大学のYao Fu率いる研究チームは、大規模言語モデル（LLM）のパフォーマンスを比較するための独自のベンチマークを用いた評価を行った。LLaMaの650億パラメーターのモデル「65B LLaMa」は、GPT-3を用いた自然言語処理エンジンと近い性能を持ち、適切に調整すればChatGPTを再現できる可能性があると指摘した。