AI倫理

GoogleがDeepMindのNPO化拒否で広がる波紋

ビッグテックは高度な人工知能を正しく扱えるか？

吉田拓史

2021年6月11日 — 6 min read

平日朝6時発行のAxion Newsletterは、デジタル経済アナリストの吉田拓史（@taxiyoshida）が、最新のトレンドを調べて解説するニュースレター。同様の趣旨のポッドキャストもあります。登録は右上の「Subscribe」ボタンからFreeプランでサインアップいただき、確認メールの「Sign in to Axion デジタル経済メディア」ボタンをクリックください。

要点

Googleは傘下の英AI研究所DeepMindが訴えたNPO化を拒否した。DeepMindから汎用人工知能が生まれたとき、Googleはその所有権を事実上持つことになる。それは、単一の企業体にコントロールされるべきものだろうか。

ウォールストリート・ジャーナルが最近発表したGoogleとその傘下のAI研究所DeepMindに関する記事はとても興味深い。Parmy Olsonの記事によると、Googleは1年に及ぶ2社間の交渉に終止符を打ち、DeepMindからの独立性向上の訴えを最終的に拒否したという。

DeepMind側が提案したのは、会社を非営利団体（NPO）と同じ法的構造にすることだったようだ。「計画に詳しい人物によると、彼らが研究している強力な人工知能は、単一の企業体にコントロールされるべきではないという考えからだ」。しかし、Googleは、DeepMindに毎年大量のコストを費やしていることを考慮すると賛同できない、と伝えたという。

この対立は驚くべきことではない。Googleの幹部は、同社の将来はAIにあると何度も発言しており、2019年のThe Economistの報道では、Google社がDeepMindに対して研究成果を商業化するよう圧力をかけていることが指摘されている。その結果、DeepMindは自社の研究をAndroidのバッテリー寿命の向上やデータセンターのエネルギーコストの削減に利用するプロジェクトを立ち上げた。一方で、英国企業の損失は増え続けており、2019年の公開資料では4億7,700万ポンド（約740億円）の最高額を記録した。Googleがその対価を求めるのであれば、DeepMindに非営利団体のような地位を与えることはできないだろう。

金銭的な圧力と並んで、両社の間で争われているもうひとつの骨子は、倫理委員会と呼ばれるもののようだ。GoogleがDeepMindを買収する際には、Googleが倫理委員会を設置して、自社のテクノロジーが常に公正に展開されるようにするという約束が、大きな話題となった。

しかし、DeepMindは、取引の一環として、Googleが一方的に同社の知的財産を支配することを防ぐための取り決めを模索したが、買収に至るまでの1年間に、両者は「倫理・安全審査契約」と呼ばれる契約を結んでいたという。この契約書は、ロンドンの上級法廷弁護士によって作成された。この委員会の正確な性質と範囲は、誰が座っているかを含めて、常に不明瞭である。The Economistの2019年のレポートによると、この委員会はDeepMindが作成した汎用人工知能（AGI）の所有権までも握っているという。

WSJのレポートでは、Olsonは、DeepMindの今後の活動は、ほとんどがGoogleの上級幹部で構成された別の倫理委員会によって監督されることになると指摘している。オルソンはツイートで、これが“Advanced Technology Review Council”（ATRC）であることを指摘している。これは、Googleの"最高の審査委員会"と報じられている。

この種の問題は、米国のAI研究所であるOpen AIにも降りかかっている。最初はシリコンバレーの億万長者が支援するNPOとしてスタートした。NPOを選択したことで「株主ではなく、すべての人のために価値を構築できる」「研究者は、論文、ブログ記事、コードのような彼らの仕事を公開することを強く奨励され、我々の特許（もしあれば）は、世界と共有される」と説明していた。

しかし、同研究所は資金難に直面し、持続可能性が危ぶまれた。その結果、2019年に株式会社化し、ベンチャーキャピタル投資を受け入れた。最終的には、Open AIは、10億ドルを投じ、Azureの計算資源を開放したMicrosoftと緊密な関係をもつようになっている。Open AIはサービスをAzure上に移植することを約束し、大規模自然言語モデルGPT-3の独占商業化権をMicrosoftに与えた。プレスリリースから伺い知れる範囲ではあるものの、Open AIが汎用人工知能（AGI）を完成したとき、そこにはMicrosoftの強い影響力が生じることとなるのは想像に難くない。

https://www.axion.zone/openai/

2010年に設立され、2014年にGoogleに買収されたDeepMind社は、人間の脳の働きを模倣した高度なAIシステムの構築を専門としている。その長期的な目標は、さまざまな認知タスクを人間と同じように実行できる高度なレベルのAIを構築することだ。同社の業績はめざましく、囲碁の世界チャンピオンに勝利したAlpha Goや、タンパク質の折り畳み（フォールディング）を解析するAlphaFold等のインパクトの大きい研究成果を数多く出してきた。

創業者／CEOのデミス・ハサビスは当初からDeepMindの独立性を守ろうとし、DeepMindがロンドンに留まることを主張してきた。2014年にGoogleがDeepMindを買収したことで、経営権の問題はより切実なものとなった。もともとゲームスタジオを経営していたハサビスは、DeepMindをGoogleに売却する必要はなかった。手元には十分な現金があり、ゲームを開発して研究資金を調達するというビジネスモデルを描いていたからだ。

買収後、ハサビスの上司に当たったのはGoogleの共同創業者で、AlphabetのCEOを務めていたラリー・ペイジだったという。ペイジの父親であるカールは、1960年代にニューラルネットワークを研究していた。ペイジはキャリアの初期に、AI企業を設立するためだけにGoogleを作ったと語っていた。検索は一種のAIシステムである。

たが、DeepMindを巡る状況は変わった。ペイジは2019年にAlphabetのCEOを退任し、現在はマッキンゼー・アンド・カンパニー出身のサンダー・ピチャイとウォール街出身のルース・ポラットらが経営する「通常の営利企業」へとAlphabetとGoogleは姿を形を変えている。ペイジ時代のムーンショットプログラムを次々とカットしている現在のAlphabetにとって、AI研究所が出す毎年数百億円の損失は、異例のものだろう。

Googleは最近、GoogleのAI部門の主要な貢献に懐疑的な論文を書いていたAI倫理研究者のティムニット・ゲブルと、その上司だったマーガレット・ミッチェルを解雇したことで物議を醸した。DeepMindから汎用人工知能が生まれたとき、その所有権を事実獲得する、Googleがかつての社是「Don't be evil」を維持しているか、注視し続ける必要がある。

📨ニュースレター登録とアカウント作成

ニュースレターの登録は記事の下部にある「Sign up for more like this」か右上の「Subscribe」ボタンをクリックし、登録画面で名前とメールアドレスを記入後、Freeプランから「Continue」に進んでください。記入したメールアドレスに「🔑 Secure sign in link for Axion デジタル経済メディア」という認証用のメールが届きます。その「Sign in to Axion デジタル経済メディア」をクリック頂きますと、登録が完了します。

Photo by Pawel Czerwinski on Unsplash

Special thanks to supporters !

Shogo Otani, 林祐輔, 鈴木卓也, Mayumi Nakamura, Kinoco, Masatoshi Yokota, Yohei Onishi, Tomochika Hara, 秋元善次, Satoshi Takeda, Ken Manabe, Yasuhiro Hatabe, 4383, lostworld, ogawaa1218, txpyr12, shimon8470, tokyo_h, kkawakami, nakamatchy, wslash, TS, ikebukurou 太郎, bantou, shota0404, Sarah_investing, Sotaro Kimura, TAMAKI Yoshihito, kanikanaa, La2019, magnettyy, kttshnd, satoshihirose, Tale of orca.