OpenAIのCEO交代はAIの安全性と倫理の問題を強調した

衝撃的なOpenAIのCEO交代により、AI研究を牽引する同社の科学者が、AIの安全性について強い危機感を持っていることが露見した。これは、AIアライメント（道徳や価値観の枠組み）構築のための警鐘かもしれない。

OpenAIのチーフ・サイエンティストであるイリヤ・サツケバーが率いる取締役会のメンバーは金曜日、「彼は取締役会とのコミュニケーションにおいて一貫して率直ではなかった」として、サム・アルトマンをCEOから解任し、取締役の役割を剥奪した。

OpenAI announces leadership transition

Chief technology officer Mira Murati appointed interim CEO to lead OpenAI; Sam Altman departs the company. Search process underway to identify permanent successor.

この際「大株主」のマイクロソフトには事前に通知がなかったとされている。通常の株式会社を思い浮かべる読者は首を傾げるかもしれないが、同社は非常に得意な組織構造をしていることに留意しないといけない（図表参照）。

背景：複雑な組織構造

マイクソフトはOpenAIの営利企業部分（Open AI Global,LLC）の49％を保持しているが、組織構造の上部にある取締役会と非営利団体（NPO）の株は保持しておらず、取締役派遣もしていない。営利企業の残りの51％はNPOと従業員、その他の投資家（リード・ホフマンの慈善財団、Khosla Venturesなど）によって、持株会社を通じて保有されている。この持株会社は事実上、NPO（OpenAI, Inc.）によって支配されており、このNPOは取締役会（Boad of directors）によって支配されている。

OpenAIが2019年にそれまでのピュアNPOから、スタートアップ企業へと陣容を変え、初期資金調達を発表した直後、同社はマイクロソフトと戦略的パートナーシップを結んだ。マイクロソフトの莫大な投資にもかかわらず、マイクロソフトはOpenAIの取締役会の席を持たず、管理も行っていない。OpenAIは独立性を保ち、NPOがガバナンスを維持している。

このため、取締役会の意思決定にマイクロソフトが関与する術がなかったようだ。マイクロソフトがOpenAIと交わしているのは、OpenAIが開発したAIの独占商業利用権のような契約と考えられる。OpenAIは大量の資金を燃焼しているため、追加の資金調達の必要性が生じたときに、営利企業の支配、ひいては全体の支配が揺らぐ可能性がある。

アルトマン追放を決めたサツケバーとは

アルトマンと共同創業者でプレジデントのグレッグ・ブロックマンを事実上追い出した取締役会のメンバーは4人。共同創業者でチーフサイエンティストのイリヤ・サツケバー、質問サイトQuoraのアダム・ディアンジェロCEO、GeoSim Systemsの元CEOのターシャ・マッコーリー、ジョージタウン大学安全保障・先端技術研究センター（CSET）の戦略ディレクターであるヘレン・トナーだ。

週末にはOpenAIの技術展開の安全性とスピードに対する懸念から、サツケバーがこの更迭を画策した可能性が高いという報道がなされた。OpenAIの内部では、アルトマンが商業化と会社の成長を推し進めるスピードを上げるよう求め、サツケバーはペースを落とすよう主張していたとされている。有名テックジャーナリスト、カーラ・スウィッシャーに情報筋が語ったところによると、11月6日に開催されたOpenAIの開発者イベントで、アルトマンは、一般消費者向け製品を強調した野心的な基調講演を行った。この講演は、「アルトマンが早急に、そして大胆に進め過ぎた変曲点になった」とされている。

アルトマンの衝撃的な解雇後、取締役会とアルトマンは復帰の可能性について交渉したが決裂し、元Twitch CEOで共同設立者のエメット・シアーを暫定CEOに指名した。ブルームバーグが報じたところによると、取締役会は、AIがもたらす人類存亡の危機に対するシアーの懸念と、Twitch在籍時に大規模なエンジニアリング・グループを率いた彼の経験に魅了されたという。

AIの規制をめぐっては、メタのAIチーフであるヤン・ルカンや有名なAI研究者であるアンドリュー・ウン（スタンフォード大学教授）らが、「規制は大手テクノロジー企業に利するだけ」「モデルは規制せずユースケースを規制するべき」という主張を繰り広げていた。これに対して、AI研究者としていま最も脂の乗っているサツケバーは、彼の直接の師匠であるカナダ・トロント大学のジェフリー・ヒントン名誉教授と同様に、AIの危険性を強調する側に立った可能性がある。

AIパイオニアのヒントンも「驚異の進歩」に警鐘を鳴らす

「AIのゴッドファーザー」と呼ばれるジェフリー・ヒントンは1日、自身が開発に携わったAI技術の「危険性」について自由に発言するため、先週Googleの職を辞したことを認めた。

アクシオン｜次世代経済メディア吉田拓史

知名度ではアルトマンが勝るものの、真のOpenAIの中心人物はサツケバーである。サツケバーは、深層学習のブームの始まりであるAlexNetの作者の1人であり、自然言語処理（NLP）のブレークするーである「Sequence to Sequence（Seq2Seq）」の作者の1人でもある。このモデルは、一連の入力（例えば、文章、単語のシーケンス）を別の一連の出力（例えば、翻訳された文章、要約されたテキスト）に変換するもので、NLPの参入障壁を一気に引き下げた。論文は2万4,000回以上引用されている。そして、彼はOpenAIで行われ、社会に衝撃を与えた一連の研究群のマエストロでもある。

Sequence to Sequence Learning with Neural Networks

Deep Neural Networks (DNNs) are powerful models that have achieved excellent performance on difficult learning tasks. Although DNNs work well whenever large labeled training sets are available, they cannot be used to map sequences to sequences. In this paper, we present a general end-to-end approach…

arXiv.orgIlya Sutskever

今後は、AIアライメント（道徳や価値観の枠組み）の議論がより熱を帯びることになりそうだ。

マイクロソフトのサティア・ナデラCEOは、アルトマンとブロックマンはマイクロソフトに入り、そこでAIの研究チームを率いることになると明らかにした。アルトマン路線はマイクロソフトに移管されることになったようだ。マイクロソフトはOpenAIとの関係も維持しており、最終的に「二度美味しい」取引になったのかもしれない。

※本記事は2023年11月20日19:00(JST)までの情報で構成されています。