おがわの音♪　第1520版の配信

日本でも報道されていると思いますが、OpenAIの取締役会が突如CEOのSam Altmanを解雇して以来、大変な事件に発展しています。

時系列的には、

·        OpenAIがSam Altman（CEO）の解雇を発表

·        Greg Brockman（President）がそれを受けて辞任を発表

·        大株主のMicrosoftが交渉に参加

·        OpenAIが新たなCEOとしてTwitch創業者のEmmett Shearを任命

·        Sam AltmanのOpenAIへの復帰はないとIlya Sutskeverが発言

·        Satya Nadellaが、Sam AltmanとGreg BrockmanをMicrosoftに向かい入れることを発表

·        OpenAIがライバルのAnthropicとの合併を模索中と報道

·        OpenAI社員らによる「Samを復帰させない限り辞職する」という署名活動がスタート（最終的に770人中710名がサイン）

·        Ilya SutskeverがSamの解雇に賛成したことを謝罪し、署名活動に参加

·        Sam Altmanが再びOpenAIとの交渉を再開

·        OpenAIがSam AltrmanとGreg Brockmanの復帰を発表

ということがわずか4日間の間に起こりました。

 個々の報道だけを見ていても流れが理解しにくいと思うので、まずは背景から解説します。

OpenAIは2015年にSam Altman、Elon Muskらによって設立された、「人類全体のためになる人工知能を作る」という目的で設立された、非営利団体です。

当時、人工知能の研究開発に関しては、Googleが世界の先頭を走っており、そのままだと、一営利企業が、人間の能力を超える汎用人工知能（AGI：Artificial General Intelligence）を独占的に持つ歪な世界になってしまうことを懸念した結果、作られたものです。

OpenAIは、Elon Muskが取締役、Sam AltmanがCEO、Googleから引き抜いた超一流の人工知能研究者Ilya Sutskeverを技術のトップに置き、「人類のためになるAGI」を作るべく、研究開発を始め、画像生成AIであるDall.e、LLM（大規模言語モデル）であるGPTなどを発表しました。

当初は、全ての研究成果をオープンにする形で進めていましたが、人工知能の研究開発に必須なGPUの高騰により、非営利団体のまま世界の最先端を走ることが難しくなってしまいました。その結果、CEOのSam Altmanは、非営利団体であるOpenAIの下に、営利団体であるOpenAI Globalを作り、そこに投資家から資金を集めて、Googleに対抗する、という戦略を採用しました。

Elon Muskは、その方向性に賛成できずに取締役会を離れ（2018年）、Sam Altmanのビジョンに共感したVC（Khosla VenturesとReid Hoffman Foundation）が投資家として参加し、その後Microsoftが巨額の資金（＄1billion）を投入して、OpenAI Globalの大株主になりました（2019年）。この時に、OpenAIが採用したのが、“capped-profit”という仕組みです。

営利企業ではありながら、株主に対する利益の還元には上限があり（最初の投資家の場合100倍）、それを超えた分は、全て非営利団体側が受け取る、というものです。

これは、「人類全体のための人工知能を作る」という非営利団体のミッションを維持しつつ、投資をするからにはリターンが欲しい、という投資家の要望に応えるために作られた世界初の仕組みです。

興味深いことに、OpenAIは、非営利団体のOpenAIの取締役会が営利団体も100％コントロールするという、ちょっと変わった企業統治の仕組みを採用しました。

非営利団体と営利団体では、利益相反があって当然ですが、そこを一つの取締役会が仕切る、という体制です。

そして、「人類全体の利益を、営利団体の株主の利益よりも優先する」と明記してあります（OpenAI：「Our Structure」）。

OpenAIは、GPT3で既に世界の最先端を走っていましたが、2022年11月にそれをChatGPTという形で一般消費者向けに提供したところ、それが前代未聞の大ヒットとなり、Googleすら羨む、人工知能業界のリーダー的存在に躍り出ました。

2023年にはMicrosoftが＄10billionの追加投資を行い、OpenAI Global（営利企業側）の49％の株式を取得しました。その契約の中には、

・ OpenAIは、Microsoftのインフラを使わなければならない

・ Microsoftは、OpenAIの持つ技術全てを自由に自社サービスに活用できる（ただし、OpenAIがAGIを達成するまで）

という条件が含まれていました。

＄10billionの投資の大半は、現金ではなく、Microsoft Azureのクレジットだ、というリーク記事（「OpenAI has received just a fraction of Microsoft’s $10 billion investment」）もあります。

そして、OpenAIがAGIを達成したかどうかに関しては、OpenAIの取締役会が決める、という規定だったそうです。

OpenAIが、AGIの危険性および、その価値を非常に重視していた結果、こんな契約になったのです。

ここで注目していただきたいのは、異なるゴールを持つ非営利団体の取締役会が営利団体を統治し、「人類全体の利益を、営利団体の株主の利益よりも優先する」という通常あり得ない統治体制を持っている点です。

通常であれば、こんなところに投資をする投資家はいませんが、Sam Altmanが持つ「現実歪曲空間」とOpenAIが持つ大きなポテンシャルに、投資家たちもMicrosoftも魅入られてしまったからこんな統治体制を許してしまったのです。

今回の事件は、11月17日にその取締役会が突如Sam Altmanを解雇することを発表して始まりました。

明らかに株主の利益を損なう行為ですが、そんなことが可能だったのは、この異常な統治体制ゆえのものなのです。

取締役会は、解雇の際に「Sam Altmanは取締役会に対して正直ではなく、CEOを任せておくことは出来ない」と発表はしましたが、その後、具体的な理由に関しては、公には発言していません。

状況証拠として、…

• 直前のインタビューで、Sam Altmanが「OpenAI社内で、4つ目の大きな技術革新が起こった」と発言（参照）
• 直前のインタビューで、Ilya Sutskeverが「今のやり方を続けていけばAGIの達成は可能」と発言（参照：[No Priors Ep. 39 | With OpenAI Co-Founder & Chief Scientist Ilya Sutskever](No Priors Ep. 39 | With OpenAI Co-Founder & Chief Scientist Ilya Sutskever)）
• Ilya Sutskeverが最近になって、AGIの危険性について警告する発言をしてきた事
• Ilya Sutskever自身が、取締役の一人として、Sam Altmanの追放に票を投じたこと

などがあったことを考慮し、OpenAI内部でAGIと呼べるほどの人工知能の開発に成功し、その扱いに関して、Sam Altmanと取締役会の間で意見が分かれた結果、Sam Altmanが解雇されたと解釈して良いと、私は理解しました。

実際の解雇の経緯がどうだったのかは今後の調査で明らかになると思いますが、取締役の一人として、Sam Altmanを追放した側に立った Helen Toner氏が、彼女が書いた論文（「Decoding Intentions: Artificial Intelligence and Costly Signals」）で、OpenAIのアプローチを批判しつつ、ライバルのAnthropicのやり方と称えており、それに怒った Sam Altman が Helen を取締役から外そうと試みた結果、彼女の反撃を受けて解雇された、とする記事がNew York Timesに掲載されましたが（Sources: 「before his ousting, Sam Altman moved to push out board member Helen Toner over a paper he thought was critical of OpenAI, among other board tensions」）、それとも整合性があります。

その記事には、彼女が、Sam Altman氏の解雇の直後に、「取締役のミッションは、人類全体の利益であり、もしSam Altmanの解雇によってOpenAIが破綻したとしても、それはミッションに合致したものだ」と社内で発言した、と書かれています（参照）。

それにしても、何よりも高く評価すべきは、MicrosoftのSatya Nadellaの行動です。

大株主でありながら、直前までSam Altmanの解雇を知らされなかったことは怒って当然ですが、冷静に、「OpenAIとSam Altmanの両方をサポートする」というメッセージを発信し続け、Sam Altmanの復帰が難しそうになった段階では、MicrosoftにSamだけでなく、OpenAIのチーム全員をMicrosoftに向かい入れることを宣言し、一時は、Samもそれに同意しました。

水面下でどのような交渉が行われたかは不明ですが、これにより、OpenAIの取締役に対するMicrosoftとSamの立場は圧倒的に強いものになりました。

その後、Ilya Sutskeverを含めたOpenAIの従業員のほぼ全員（770人中710人）が「SamをCEOと復帰させない限り、私たちはOpenAIを辞めてMicrosoftに行く」という書面にサインし、取締役会を追い詰めたのです。

Microsoftは既に、OpenAIの知的所有権全てにアクセスする権利を持っていたので、取締役会が和解に応じなければ、OpenAIのビジネスをMicrosoftが無償で、かつ、独禁法にも抵触せずに、手に入れることになっていました。

その場合、一番痛い目に会うのは、Microsoft以外の投資家たちで、そんなことになれば、取締役会が彼らから訴えられることは確実で、取締役会としては折れる以外の選択肢は無くなってしまったのです。

Samが再度、取締役会と交渉を始めた際も、Satya Nadellaは冷静で、「SamがMicrosoftに移籍しようがしまいが、彼をサポートする」と宣言し、この時点で勝負は決まったようなものです。

この記事を書いている時点では、Sam、Ilya、Helenを外した、Bret Taylor （新任、会長、Salesforceの元CEO）、Larry Summers（新任、元アメリカ合衆国財務長官）、Adam D’Angelo（継続）の3人の取締役から構成される新しい取締役会の元で、再びSamをCEOとしたOpenAIの第三章が始まることになりましたが、そこでは、SamとMicrosoftの力が絶大になることはほぼ確実と言えるでしょう。

一度はSamの解雇に加担したIlya Sutskeverの今後の立ち位置が少し心配ですが、社員と一緒になってSamの復帰を要請し、かつ、取締役としてSamの解雇に賛成したことをX（旧Twitter）で公開謝罪したので、多分大丈夫だと思います。

一連の騒動により、一件、全ては収まるべきところに収まることになったようには見えますが、「人類全体のための人工知能を作る」というOpenAIの本来のミッションと、Microsoftを含めたOpenAI Globalの株主との間の矛盾は解消されていません。

Samの強引な進め方に懸念を表明したHelenが取締役から外れたこともあり、利益や成長を優先した経営になってしまう可能性は大きいと思います。

【追記】上の文章を書いた後に、ロイターから「OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say」という記事が公開されました。

OpenAIの取締役会がSam Altmanを解雇する前に、OpenAIの研究者がOpenAI内部で起きている人工知能の進歩に関して警告をした、というリーク記事です。

この記事によると、研究者たちが導入したQ*（Q star）という仕組みにより、人工知能が大きく進歩し、これまで不可能だった数学の計算が出来るようになった、というものです。

LLMは、基本的には「次の単語を予測する」ことにより、一見知識があるように振る舞いますが、実際に内容を理解しているわけではなく、単に統計的に次の言葉を予測した結果、もっともらしい文章を作り出しているだけです。そのため、文章の要約や生成は得意ですが、数学の計算は不得意です。 

「Q*」が何であるかは不明ですが、それにより人工知能が数学を「理解」し、「論理的にものを考える」ことが出来るようになったとすれば、それはAGI（汎用人工知能）への第一歩であり、人類全体への脅威になりかねず、それがSamの解雇へと繋がったとこの記事は指摘しているのです。

　　2023年11月28日号の一部抜粋

※ メール・BLOG の転送厳禁です!!  　よろしくお願いします。