OpenAIのCEO交代はAIの安全性と倫理の問題を強調した

衝撃的なOpenAIのCEO交代により、AI研究を牽引する同社の科学者が、汎用人工知能(AGI)の安全性について強い危機感を持っていることが露見した。これは、AIアライメント(道徳や価値観の枠組み)構築のための警鐘かもしれない。

OpenAIのCEO交代はAIの安全性と倫理の問題を強調した
サム・アルトマン。Photographer: David Paul Morris/Bloomberg

衝撃的なOpenAIのCEO交代により、AI研究を牽引する同社の科学者が、AIの安全性について強い危機感を持っていることが露見した。これは、AIアライメント(道徳や価値観の枠組み)構築のための警鐘かもしれない。


OpenAIのチーフ・サイエンティストであるイリヤ・サツケバーが率いる取締役会のメンバーは金曜日、「彼は取締役会とのコミュニケーションにおいて一貫して率直ではなかった」として、サム・アルトマンをCEOから解任し、取締役の役割を剥奪した。

OpenAI announces leadership transition
Chief technology officer Mira Murati appointed interim CEO to lead OpenAI; Sam Altman departs the company. Search process underway to identify permanent successor.

この際「大株主」のマイクロソフトには事前に通知がなかったとされている。通常の株式会社を思い浮かべる読者は首を傾げるかもしれないが、同社は非常に得意な組織構造をしていることに留意しないといけない(図表参照)。

OpenAIの組織図。出典:OpenAIのウェブサイト

背景:複雑な組織構造

マイクソフトはOpenAIの営利企業部分(Open AI Global,LLC)の49%を保持しているが、組織構造の上部にある取締役会と非営利団体(NPO)の株は保持しておらず、取締役派遣もしていない。営利企業の残りの51%はNPOと従業員、その他の投資家(リード・ホフマンの慈善財団、Khosla Venturesなど)によって、持株会社を通じて保有されている。この持株会社は事実上、NPO(OpenAI, Inc.)によって支配されており、このNPOは取締役会(Boad of directors)によって支配されている。

OpenAIが2019年にそれまでのピュアNPOから、スタートアップ企業へと陣容を変え、初期資金調達を発表した直後、同社はマイクロソフトと戦略的パートナーシップを結んだ。マイクロソフトの莫大な投資にもかかわらず、マイクロソフトはOpenAIの取締役会の席を持たず、管理も行っていない。OpenAIは独立性を保ち、NPOがガバナンスを維持している。

Read more

コロナは世界の子どもたちにとって大失敗だった[英エコノミスト]

コロナは世界の子どもたちにとって大失敗だった[英エコノミスト]

過去20年間、主に富裕国で構成されるOECDのアナリストたちは、学校の質を比較するために、3年ごとに数十カ国の生徒たちに読解、数学、科学のテストを受けてもらってきた。パンデミックによる混乱が何年も続いた後、1年遅れで2022年に実施された最新の試験で、良いニュースがもたらされるとは誰も予想していなかった。12月5日に発表された結果は、やはり打撃となった。

By エコノミスト(英国)
中国は2024年に経済的苦境を脱するか?[英エコノミスト]

中国は2024年に経済的苦境を脱するか?[英エコノミスト]

2007年から2009年にかけての世界金融危機の後、エコノミストたちは世界経済が二度と同じようにはならないことをすぐに理解した。災難を乗り越えたとはいえ、危機以前の現状ではなく、「新常態」へと回復するだろう。数年後、この言葉は中国の指導者たちにも採用された。彼らはこの言葉を、猛烈な成長、安価な労働力、途方もない貿易黒字からの脱却を表現するために使った。これらの変化は中国経済にとって必要な進化であり、それを受け入れるべきであり、激しく抵抗すべきではないと彼らは主張した。 中国がコロナを封じ込めるための長いキャンペーンを展開し、今年その再開が失望を呼んだ後、このような感情が再び現れている。格付け会社のムーディーズが今週、中国の信用格付けを中期的に引き下げなければならないかもしれないと述べた理由のひとつである。何人かのエコノミストは、中国の手に負えない不動産市場の新常態を宣言している。最近の日米首脳会談を受けて、中国とアメリカの関係に新たな均衡が生まれることを期待する論者もいる。中国社会科学院の蔡昉は9月、中国の人口減少、消費者の高齢化、選り好みする雇用主の混在によってもたら

By エコノミスト(英国)
イーロン・マスクの「X」は広告主のボイコットにめっぽう弱い[英エコノミスト]

イーロン・マスクの「X」は広告主のボイコットにめっぽう弱い[英エコノミスト]

広告業界を軽蔑するイーロン・マスクは、バイラルなスローガンを得意とする。11月29日に開催されたニューヨーク・タイムズのイベントで、世界一の富豪は、昨年彼が買収したソーシャル・ネットワーク、Xがツイッターとして知られていた頃の広告を引き上げる企業についてどう思うかと質問された。「誰かが私を脅迫しようとしているのなら、『勝手にしろ』」と彼は答えた。 彼のアプローチは、億万長者にとっては自然なことかもしれない。しかし、昨年、収益の90%ほどを広告から得ていた企業にとっては大胆なことだ。Xから広告を撤退させた企業には、アップルやディズニーが含まれる。マスクは以前、Xがブランドにとって安全な空間である証拠として、彼らの存在を挙げていた。

By エコノミスト(英国)