OpenAI: 汎用人工知能を目標とするAI研究所

OpenAIは、設立から4年という短い期間で、世界でも有数のAI研究所になった。DeepMindのような他のAIの重鎮たちと並んで、常に話題性のある研究を行っていることで有名になった。当初の非営利団体から今では、営利企業に変身し、イーロン・マスクとは袂を分かっている。

OpenAI: 汎用人工知能を目標とするAI研究所

OpenAIは、設立から短い期間で、世界有数のAI研究所になった。DeepMindのような他のAIの重鎮たちと並んで、常に話題性のある研究を発表し有名になった。当初の非営利団体から今では、営利企業に変身し、初期投資家のイーロン・マスクとは袂を分かっている。

その目標は、人間の心の学習能力と推論能力を備えた機械「汎用人工知能(AGI)」を最初に作ることである。ただし、今日私たちを取り巻く不器用なAIである「狭義の知性」は、すでにその例として機能している。アルゴリズムが偏っていて脆弱であること、大きな悪用と欺瞞を犯す可能性があること、そして開発と実行にかかる費用が、その力を少数の人々の手に集中させる傾向があることがわかっている。慎重な指導なしでは、AGIは破滅的なものになる可能性がある。

OpenAIは当初、非営利団体として設立された。最初の発表では、この区別によって「株主ではなく、すべての人のために価値を構築することができる」とされていた。その憲章は、従業員の給与がそれをどれだけ守るかで決まるほど神聖な文書であり、それは、OpenAIの「第一の受託者としての義務は人類に対するものである」と宣言している。「当社は、当社の使命を果たすために多額の資源を調達する必要があると予想しているが、幅広い利益を損なう可能性のある従業員や利害関係者間の利益相反を最小限に抑えるために、常に真摯に行動する」。

憲章は、AGIを安全に達成することは非常に重要であり、もし他の組織が先に達成しそうになったら、OpenAIは競合するのをやめて、代わりに協力するだろうと続けている。「私たちは、適切な安全対策を講じる時間がないまま、後期のAGI開発が競争競争になってしまうことを懸念している。そのため、価値観が一致し、安全性に配慮したプロジェクトが私たちよりも先にAGIの構築に近づいてきた場合、私たちはそのプロジェクトとの競争をやめ、支援を開始することを約束する」。

汎用人工知能(AGI)を目指す

初期の構想以来、分野としてのAIは、人間のような知能を理解し、それを再創造しようと努力してきた。1950年、イギリスの有名な数学者でありコンピュータ科学者であるアラン・チューリングは、「機械は考えることができるのか」という今では有名な挑発文で論文を発表した。その6年後、その口うるさいアイデアに魅了された科学者のグループがダートマス大学に集まり、この学問を正式に確立した。

AGIがどのような目的を果たすことができるのかについては、意見が分かれている。もっとロマンチックな見方をすれば、睡眠の必要性や人間のコミュニケーションの非効率性に邪魔されない機械知能は、気候変動、貧困、飢餓などの複雑な課題の解決に役立つかもしれない。

しかし、そのような高度な能力を開発するには数十年、実際に開発が可能だとしても数百年かかるというのが、この分野での揺るぎないコンセンサスである。また、この目標を過度に追求すると、逆効果になるのではないかと危惧する声も多い。1970年代、80年代後半から90年代前半にかけても、この分野は過剰に約束されたこともあれば、過小評価されたこともあった。一夜にして資金は枯渇し、研究者の全世代に深い傷跡を残した。

2015年12月11日にOpenAIがAGIの世界に参入してきた。AGIを追求していると公然と宣言したのは初めてではなく、5年前にはDeepMindがそうしており、2014年にはGoogleに買収されていた。しかし、OpenAIは違っていたようだ。一つには、その価格が衝撃的だったことがある。このベンチャーは、マスク、アルトマン、PayPalの共同創設者であるピーター・ティールを含む個人投資家から10億ドルの支援を受けて開始した。

スターが集まった投資家のリストは、初期の従業員の印象的なリストと同様に、メディアの熱狂をかき立てた。決済会社Stripeでエンジニアリングを担当していたグレッグ・ブロックマンが最高技術責任者に、AIのパイオニアのジェフリー・ヒントンに師事していたイリヤ・サツキーバーが研究責任者に置き、一流大学を卒業したばかりの研究者や他の企業から選抜された7人の研究者がコア技術チームを構成した。

しかし、何よりも、OpenAIの非営利団体であることが声明を出した。**「自己の利益よりも、すべての人にとって良い結果を優先させることができる一流の研究機関であることが重要になるだろう」と発表は述べていた。「研究者は、論文、ブログ記事、コードのような彼らの仕事を公開することを強く奨励され、我々の特許(もしあれば)は、世界と共有される」。明確な批判は避けているが含意は明確だった。それは、「DeepMindのような他の研究室は、商業的な利益に縛られているため、人類に貢献することができない」ということだった。研究者が短期的な金銭的利益に焦点を当てた研究に駆り立てられる風景の中で、OpenAIは最大の問題の進歩に資金を提供するための新しい方法を提案した。

利益団体への転向

2019年2月、マスクは会社の方向性についての意見の相違を理由に会社との決別を発表し、取締役を辞めたが、その1ヶ月後、アルトマンはスタートアップアクセラレーターのY Combinatorのプレジデントを辞任し、OpenAIのCEOに就任した。

2019年3月に、OpenAIは、非営利団体の一部である取締役会によって監督されているとはいえ、投資家のリターンを100倍に制限した「上限付き利益」の会社「OpenAI LP」を設立することで、純粋に非営利団体としての地位を脱却した。その直後、マイクロソフトは10億ドルの投資を発表した。

OpenAIのリーダーたちは、わずか10億ドルでは、GoogleやFacebookのような企業のAIラボに対抗するには十分ではないだろうと公の場で述べた。「AGIを構築するためには、計算資源に数十億ドルの投資が必要だ」と、当初はOpenAIの研究ディレクターから現在は新しい営利企業OpenAI LPのチーフサイエンティストに転じた創業者Ilya Sutskeverは語った。「我々は、我々のミッションに沿ったまま、この資本を調達するために、このような仕組みを作った」。

最先端の機械学習プロジェクトで使用される強力なコンピュータ・プロセッサのため、高度な新しいAIシステムの開発は非常に高価になる可能性があり、また、その作業に従事する資格を持つ人材の数が比較的少なく、人材獲得・維持にも多大なコストが掛かることが知られている。

アルファベット社のロンドンのAIユニットDeepMindの財務報告書は、この課題を説明するのに役立つ。同社は、3億3400万ポンド(4億4200万ドル)を費やした2017年と同じように運営を続けた場合、わずか2、3年で10億ドルを焼き尽くすことになるだろう。内国歳入庁への申告書によると、それが大幅に小さかった2016年の場合、組織は1120万ドルを費やしており、そのうち190万ドル以上が、GoogleのAI研究チームでの有望なキャリアを捨ててOpenAIに入社したSutskeverに支払われていたことが示されている。

OpenAI LPは、非営利団体の憲章を守る受託者責任があるような形で設立されたが、それは「AGIの配備がすべての人の利益のために使われることを保証するために、AGIの配備に対して得られるあらゆる影響力を利用する」ことを誓約している。非営利団体の理事会にはOpenAI LPからの代表者もいるが、法的保護が追加され、パートナーシップに金銭的な利害関係を持つ少数派以上を含めることはできなくなった。

OpenAI LPは、非営利団体の憲章を守る受託者責任があるような形で設立されたが、それは「AGIの配備がすべての人の利益のために使われることを保証するために、AGIの配備に対して得られるあらゆる影響力を利用する」ことを誓約している。非営利団体の理事会にはOpenAI LPからの代表者もいるが、法的保護が追加され、パートナーシップに金銭的な利害関係を持つ少数派以上を含めることはできなくなった。

OpenAI LPの従業員にも株式が与えられることになっているが、これはトップの研究者がハイテク企業や従業員の株式助成金を残しておくことを容易にすることを意図した動きである。OpenAI LPの株式保有者は、投資額の100倍のリターンに制限されており、余った分は非営利団体OpenAIに還元され、その使命を維持することになる。

この動きはOpenAIがその使命を裏切ったのではないかという非難の波を巻き起こした。

GPT-2

ほとんどの人がOpenAIの存在を初めて知ったのは、2019年2月14日のことだった。その日、ラボは印象的な新しい研究を発表した。ボタンを押すだけで説得力のあるエッセイや記事を生成できる機械学習モデル「GPT-2」だ。このモデルは、リリースするにはあまりにも危険だ、とOpenAIは判断した。2019年5月までにOpenAIは姿勢を変え、"段階的リリース "の計画を発表した。それからの数ヶ月間、GPT-2のバージョンを次々と更新した。その間にも、いくつかの研究機関と協力してアルゴリズムの悪用の可能性を精査し、対策を練った。最終的には、同年11月に完全なコードをリリースし、"これまでのところ悪用の強い証拠はない "としている。

研究論文だけでなく、その成果を高度に制作された会社のブログ記事で発表しており、執筆からマルチメディア制作、各リリースの表紙画像のデザインまで、すべてを社内で行っています。ある時期には、DeepMind社のAlphaGoに関する90分の映画に匹敵するプロジェクトのドキュメンタリーの開発も開始しました。最終的には、この取り組みを独立した制作にまで発展させ、現在はBrockmanと彼の妻Annaが部分的に資金を提供した。

参考文献

Karen Hao. The messy, secretive reality behind OpenAI’s bid to save the world. MIT Technology Review. February 17, 2020.

Special thanks to supporters !

Shogo Otani, 林祐輔, 鈴木卓也, Mayumi Nakamura, Kinoco, Masatoshi Yokota, Yohei Onishi, Tomochika Hara, 秋元 善次, Satoshi Takeda, Ken Manabe, Yasuhiro Hatabe, 4383, lostworld, ogawaa1218, txpyr12, shimon8470, tokyo_h, kkawakami, nakamatchy, wslash, TS, ikebukurou 太郎.

月額制サポーター

Axionは吉田が2年無給で、1年が高校生アルバイトの賃金で進めている「慈善活動」です。有料購読型アプリへと成長するプランがあります。コーヒー代のご支援をお願いします。個人で投資を検討の方はTwitter(@taxiyoshida)までご連絡ください。

デジタル経済メディアAxionを支援しよう
Axionはテクノロジー×経済の最先端情報を提供する次世代メディアです。経験豊富なプロによる徹底的な調査と分析によって信頼度の高い情報を提供しています。投資家、金融業界人、スタートアップ関係者、テクノロジー企業にお勤めの方、政策立案者が主要読者。運営の持続可能性を担保するため支援を募っています。

投げ銭

投げ銭はこちらから。金額を入力してお好きな額をサポートしてください。

https://paypal.me/axionyoshi?locale.x=ja_JP

Read more

新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)
新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

1960年代以来、世界中のエンジニアが回転デトネーションエンジン(RDE)と呼ばれる新しいタイプのジェット機を研究してきたが、実験段階を超えることはなかった。世界最大のジェットエンジン製造会社のひとつであるジー・エアロスペースは最近、実用版を開発中であると発表した。今年初め、米国の国防高等研究計画局は、同じく大手航空宇宙グループであるRTX傘下のレイセオンに対し、ガンビットと呼ばれるRDEを開発するために2900万ドルの契約を結んだ。 両エンジンはミサイルの推進に使用され、ロケットや既存のジェットエンジンなど、現在の推進システムの航続距離や速度の限界を克服する。しかし、もし両社が実用化に成功すれば、超音速飛行を復活させる可能性も含め、RDEは航空分野でより幅広い役割を果たすことになるかもしれない。 中央フロリダ大学の先端航空宇宙エンジンの専門家であるカリーム・アーメッドは、RDEとは「火を制御された爆発に置き換える」ものだと説明する。専門用語で言えば、ジェットエンジンは酸素と燃料の燃焼に依存しており、これは科学者が消炎と呼ぶ亜音速の反応だからだ。それに比べてデトネーシ

By エコノミスト(英国)
ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

今月初め、イギリス、エストニア、フィンランドの海軍がバルト海で合同演習を行った際、その目的は戦闘技術を磨くことではなかった。その代わり、海底のガスやデータのパイプラインを妨害行為から守るための訓練が行われた。今回の訓練は、10月に同海域の海底ケーブルが破損した事件を受けたものだ。フィンランド大統領のサウリ・ニーニストは、このいたずらの原因とされた中国船が海底にいかりを引きずった事故について、「意図的なのか、それとも極めて稚拙な技術の結果なのか」と疑問を呈した。 海底ケーブルはかつて、インターネットの退屈な配管と見なされていた。現在、アマゾン、グーグル、メタ、マイクロソフトといったデータ経済の巨人たちは、中国と米国の緊張が世界のデジタルインフラを分断する危険性をはらんでいるにもかかわらず、データの流れをよりコントロールすることを主張している。その結果、海底ケーブルは貴重な経済的・戦略的資産へと変貌を遂げようとしている。 海底データパイプは、大陸間インターネットトラフィックのほぼ99%を運んでいる。調査会社TeleGeographyによると、現在550本の海底ケーブルが活動

By エコノミスト(英国)