OpenAIは、設立から4年という短い期間で、世界でも有数のAI研究所になった。DeepMindのような他のAIの重鎮たちと並んで、常に話題性のある研究を行っていることで有名になった。当初の非営利団体から今では、営利企業に変身し、創業者のイーロン・マスクとは袂を分かっている。

その目標は、人間の心の学習能力と推論能力を備えた機械「AGI(汎用人工知能)」を最初に作ることである。その目的は世界征服ではなく、技術が安全に開発され、その利益が世界に均等に分配されるようにすることだ。

今日私たちを取り巻く不器用なAIである狭義の知能は、すでにその例として機能している。アルゴリズムが偏っていて脆弱であること、大きな悪用と欺瞞を犯す可能性があること、そして開発と実行にかかる費用が、その力を少数の人々の手に集中させる傾向があることがわかっている。慎重な指導なしでは、AGIは破滅的なものになる可能性がある。

OpenAIは当初、非営利団体として設立された。最初の発表では、この区別によって「株主ではなく、すべての人のために価値を構築する」ことができると述べられている。その憲章は、従業員の給与がそれをどれだけ守るかで決まるほど神聖な文書であり、それは、OpenAIの「第一の受託者としての義務は人類に対するものである」と宣言している。「当社は、当社の使命を果たすために多額の資源を調達する必要があると予想しているが、幅広い利益を損なう可能性のある従業員や利害関係者間の利益相反を最小限に抑えるために、常に真摯に行動する」。

憲章は、AGIを安全に達成することは非常に重要であり、もし他の組織が先に達成しそうになったら、OpenAIは競合するのをやめて、代わりに協力するだろうと続けている。「私たちは、適切な安全対策を講じる時間がないまま、後期のAGI開発が競争競争になってしまうことを懸念している。そのため、価値観が一致し、安全性に配慮したプロジェクトが私たちよりも先にAGIの構築に近づいてきた場合、私たちはそのプロジェクトとの競争をやめ、支援を開始することを約束する」。

汎用人工知能(AGI)を目指す

初期の構想以来、分野としてのAIは、人間のような知能を理解し、それを再創造しようと努力してきた。1950年、イギリスの有名な数学者でありコンピュータ科学者であるアラン・チューリングは、「機械は考えることができるのか」という今では有名な挑発文で論文を発表した。その6年後、その口うるさいアイデアに魅了された科学者のグループがダートマス大学に集まり、この学問を正式に確立した。

AGIがどのような目的を果たすことができるのかについては、意見が分かれている。もっとロマンチックな見方をすれば、睡眠の必要性や人間のコミュニケーションの非効率性に邪魔されない機械知能は、気候変動、貧困、飢餓などの複雑な課題の解決に役立つかもしれない。

しかし、そのような高度な能力を開発するには数十年、実際に開発が可能だとしても数百年かかるというのが、この分野での揺るぎないコンセンサスである。また、この目標を過度に追求すると、逆効果になるのではないかと危惧する声も多い。1970年代、80年代後半から90年代前半にかけても、この分野は過剰に約束されたこともあれば、過小評価されたこともあった。一夜にして資金は枯渇し、研究者の全世代に深い傷跡を残した。

2015年12月11日にOpenAIがAGIの世界に参入してきた。AGIを追求していると公然と宣言したのは初めてではなく、5年前にはDeepMindがそうしており、2014年にはGoogleに買収されていた。しかし、OpenAIは違っていたようだ。一つには、その価格が衝撃的だったことがある。このベンチャーは、マスク、アルトマン、PayPalの共同創設者であるピーター・ティールを含む個人投資家から10億ドルの支援を受けて開始した。

スターが集まった投資家のリストは、初期の従業員の印象的なリストと同様に、メディアの熱狂をかき立てた。決済会社Stripeでエンジニアリングを担当していたグレッグ・ブロックマンが最高技術責任者に、AIのパイオニアのジェフリー・ヒントンに師事していたイリヤ・サツキーバーが研究責任者に置き、一流大学を卒業したばかりの研究者や他の企業から選抜された7人の研究者がコア技術チームを構成した。

しかし、何よりも、OpenAIの非営利団体であることが声明を出した。**「自己の利益よりも、すべての人にとって良い結果を優先させることができる一流の研究機関であることが重要になるだろう」発表は述べていた。「研究者は、論文、ブログ記事、コードのいずれかであるかどうかにかかわらず、彼らの仕事を公開することを強く奨励され、我々の特許(もしあれば)は、世界と共有されます」。明確な批判は避けているが含意は明確だった。それは、「DeepMindのような他の研究室は、商業的な利益に縛られているため、人類に貢献することができない」**ということだった。研究者が短期的な金銭的利益に焦点を当てた研究に駆り立てられる風景の中で、OpenAIは最大の問題の進歩に資金を提供するための新しい方法を提案した。

利益団体への転向

2019年2月、マスクは会社の方向性についての意見の相違を理由に会社との決別を発表し、取締役を辞めたが、その1ヶ月後、アルトマンはスタートアップアクセラレーターのY Combinatorのプレジデントを辞任し、OpenAIのCEOに就任した。

2019年3月に、OpenAIは、非営利団体の一部である取締役会によって監督されているとはいえ、投資家のリターンを100倍に制限した「上限付き利益」の会社「OpenAI LP」を設立することで、純粋に非営利団体としての地位を脱却した。その直後、マイクロソフトは10億ドルの投資を発表した。

OpenAIのリーダーたちは、わずか10億ドルでは、GoogleやFacebookのような企業のAIラボに対抗するには十分ではないだろうと公の場で述べた。「AGIを構築するためには、計算資源に数十億ドルの投資が必要だ」と、当初はOpenAIの研究ディレクターから現在は新しい営利企業OpenAI LPのチーフサイエンティストに転じた創業者Ilya Sutskeverは語った。「我々は、我々のミッションに沿ったまま、この資本を調達するために、このような仕組みを作った」。

最先端の機械学習プロジェクトで使用される強力なコンピュータ・プロセッサのため、高度な新しいAIシステムの開発は非常に高価になる可能性があり、また、その作業に従事する資格を持つ人材の数が比較的少なく、人材獲得・維持にも多大なコストが掛かることが知られている。

アルファベット社のロンドンのAIユニットDeepMindの財務報告書は、この課題を説明するのに役立つ。同社は、3億3400万ポンド(4億4200万ドル)を費やした2017年と同じように運営を続けた場合、わずか2、3年で10億ドルを焼き尽くすことになるだろう。内国歳入庁への申告書によると、それが大幅に小さかった2016年の場合、組織は1120万ドルを費やしており、そのうち190万ドル以上が、GoogleのAI研究チームでの有望なキャリアを捨ててOpenAIに入社したSutskeverに支払われていたことが示されている。

OpenAI LPは、非営利団体の憲章を守る受託者責任があるような形で設立されたが、それは「AGIの配備がすべての人の利益のために使われることを保証するために、AGIの配備に対して得られるあらゆる影響力を利用する」ことを誓約している。非営利団体の理事会にはOpenAI LPからの代表者もいるが、法的保護が追加され、パートナーシップに金銭的な利害関係を持つ少数派以上を含めることはできなくなった。

OpenAI LPは、非営利団体の憲章を守る受託者責任があるような形で設立されたが、それは「AGIの配備がすべての人の利益のために使われることを保証するために、AGIの配備に対して得られるあらゆる影響力を利用する」ことを誓約している。非営利団体の理事会にはOpenAI LPからの代表者もいるが、法的保護が追加され、パートナーシップに金銭的な利害関係を持つ少数派以上を含めることはできなくなった。

OpenAI LPの従業員にも株式が与えられることになっているが、これはトップの研究者がハイテク企業や従業員の株式助成金を残しておくことを容易にすることを意図した動きである。OpenAI LPの株式保有者は、投資額の100倍のリターンに制限されており、余った分は非営利団体OpenAIに還元され、その使命を維持することになる。

この動きはOpenAIがその使命を裏切ったのではないかという非難の波を巻き起こした。

GPT-2

ほとんどの人がOpenAIの存在を初めて知ったのは、2019年2月14日のことだった。その日、ラボは印象的な新しい研究を発表した。ボタンを押すだけで説得力のあるエッセイや記事を生成できる機械学習モデル「GPT-2」だ。このモデルは、リリースするにはあまりにも危険だ、とOpenAIは判断した。2019年5月までにOpenAIは姿勢を変え、"段階的リリース "の計画を発表した。それからの数ヶ月間、GPT-2のバージョンを次々と更新した。その間にも、いくつかの研究機関と協力してアルゴリズムの悪用の可能性を精査し、対策を練った。最終的には、同年11月に完全なコードをリリースし、"これまでのところ悪用の強い証拠はない "としている。

研究論文だけでなく、その成果を高度に制作された会社のブログ記事で発表しており、執筆からマルチメディア制作、各リリースの表紙画像のデザインまで、すべてを社内で行っています。ある時期には、DeepMind社のAlphaGoに関する90分の映画に匹敵するプロジェクトのドキュメンタリーの開発も開始しました。最終的には、この取り組みを独立した制作にまで発展させ、現在はBrockmanと彼の妻Annaが部分的に資金を提供した。

参考文献

Karen Hao. The messy, secretive reality behind OpenAI’s bid to save the world. MIT Technology Review. February 17, 2020.