華々しい数学の成果の数々を評判危機に変えてしまった後、OpenAIはより破滅的でない道を探るため、人間の数学者の知見を求めている。月曜日、同社は数学研究やより広い数学コミュニティとの関わり方——新しい成果をどう提示し、どう公表するかを含む——について助言する新たな独立の数学者パネルを発表した。突然の発表は多くの数学者を驚かせた。The Vergeの取材に応じた研究者たちは、これを良い第一歩としつつも、実際に何をするのか、どれほどの影響力を持つのか、OpenAIが本当に耳を傾けるのかという基本的な疑問を抱えていると語り、さらに、これほど小さな著名研究者の集まりが広い数学コミュニティを代表できるのかという懸念も示した。
研究者たちが分野の「殿堂」と評する9人のメンバーは、スタンフォード、ハーバード、オックスフォード、ケンブリッジなどの機関から集まり、複数のフィールズ賞受賞者やマッカーサー「天才賞」受賞者を含む。グループはニュージャージー州プリンストンの高等研究所（IAS）が受け皿となる。IASは世界で最も尊敬される数学研究の中心地の一つであり、アインシュタイン、フォン・ノイマン、オッペンハイマーらがかつて知的活動の拠点とした場所でもある。
OpenAIによれば、「数学と人工知能に関する顧問グループ（AGMAI）」は独立して運営され、会社が求めていない助言も提出でき、数学への影響について公にコメントし、助言を公開できるという。ただし、それが具体的に何を意味するのかは説明されていない。グループは任務を果たすため、OpenAIの研究に早期にアクセスできるとみられる。メンバーはOpenAIから報酬を受け取らず、グループは必要に応じてメンバーを変更できると同社は述べた。同社は「その価値は、メンバーが自らの判断を働かせ、われわれの判断に異議を唱えられるかどうかにかかっている」とコメント。「グループは新たな成果の検証と発信について助言する。OpenAIが重要性を見極め、公表の調整方法を決め、数学研究の学術的・職業的基準について検討するのを支援する。また、われわれのツールが数学研究と学習をどう支えられるかについても助言する」としている。
独立性が強調される一方で、このグループが実際にどれほどの影響力を持つのか、そもそもなぜ設立されたのかは不明なままだ。スイス連邦工科大学チューリッヒ校（ETHチューリッヒ）の研究者シモン・マシャドは、一連の動きが「謎に包まれている」と述べ、9人がどのように選ばれたのか疑問を呈した。質素なグループのウェブサイトには、「OpenAIが一部のメンバーに外部顧問委員会の設置を持ちかけたことをきっかけに集まった」ものの、会社との議論を経て、数学者たちは独立したグループを立ち上げて他の人々を招くことにした、と記されている。OpenAIが最初に誰に接触したのか、残りのメンバーがどう選ばれたのかは明らかではない。
火曜日に公開されたブログ記事で、メンバーのマルティン・ハイラーはグループの成り立ちと背景にある考えを詳しく説明し、設立をめぐる「誤情報の奔流」に応答した。彼は「AIが数学研究にすでに深い影響を与え、アイデアの正しい帰属、優先権、人間によるアイデアの理解など多くの問題を提起しているのは明らかだ」と書き、AIラボを無視し原則として対話を拒む「ダチョウのような」姿勢を取ることに意味はないと付け加えた。ハイラーはOpenAIからの働きかけがきっかけでグループが生まれたことを認めつつ、すべてのメンバーが同社から接触を受けたわけではなく、結果としてできた組織は「OpenAIやいわゆる『フロンティア』AIラボから真に独立している」と強調した。「明白な守秘義務」を除き、公の場で何を言えるかを制限する協定には誰も署名しておらず、金銭的報酬もなく、技術的支援はIASに頼っているという。
インペリアル・カレッジ・ロンドンとスイス連邦工科大学ローザンヌ校（EPFL）の数学教授であるハイラーは、「もう一つの根本的な事実は、われわれの最大の目的が数学コミュニティの利益を可能な限りよく代表することだ」と書いた。グループがコミュニティの代表的なサンプルとは言い難いと認めながらも、9人全員がこれを極めて真剣に受け止め、善意で行動していると「確信している」と述べた。
メンバーがどう選ばれたにせよ、グループは現在、学界の精鋭数学者たちで構成されている。その規模の小ささは、数学の最先端で活動するために求められる高度に専門化した技能と知識を踏まえると、持ち込まれるあらゆる成果を評価するのに必要な専門性の広がりを備えているのかという疑問をさらに呼ぶ。スコットランドのヘリオット・ワット大学に着任予定の数学教授フランチェスコ・フルニエ＝ファシオは、パネルについて「複雑な気持ち」だと述べ、数学者との関わりを増やすことは「物事を良くするだけだ」としつつ、OpenAIが数学の戦利品を積み上げようとする動きによって仕事と生活が揺さぶられているコミュニティを、この集団が十分に代表できるのか疑問を投げかけた。The Vergeに「象牙の塔のように感じる」と語った。
マシャドも同様に、AIをめぐるより広い数学コミュニティの懸念をメンバーが十分に理解し、代弁できるのか疑問視した。「彼らは素晴らしい数学者だが、より政治的な問題で自分を代表してほしい人々かどうかは分からない」と述べ、彼らのような精鋭的な立場の数学者について「彼らが直面している現実は、今ほとんどの数学者が直面している現実とは大きく異なると思う」と語った。
グループが数学者の信頼を得られるかどうかが、OpenAIが最近重ねた成果発表での相次ぐ失態の余波をどれだけ抑えられるか、そして何より、同社が次に何を発表しようとしているのかによる打撃を和らげられるかを最終的に左右する。ハイラーはブログで、メンバーが「AIラボがわれわれの発言を自分たちの広報マシンに都合よく曲解しようとしないと信じるのはあまりに純朴だ。彼らの広報力はわれわれが太刀打ちできる範囲をはるかに超えている」と述べた。
それでもハイラーは、OpenAIが努力を見せている以上、とりわけ多くの人が同社の行動と拙劣なコミュニケーションを批判した後では、関与しないほうが偽善的だと主張した。グループが提供する助言はまだ固まっていないとしつつ、対応している問題は明確だと述べた。「AI企業がここ数カ月、注目度の高い数学的成果を生み出してきた一方で、その公表と普及が、どう定義するにせよ許容される数学的慣行に遠く及んでいないのは事実だ」。現時点でグループは同僚との対話、公開フィードバックフォーム、そして数学者がAIの分野への影響と向き合う重要な場となったブログ「Proofs and Prompts」での議論を通じて意見を集めているという。
だが、グループの最大の課題はこれから先にある可能性が高い。顧問グループの発表の際、OpenAIは、未公開の新しいモデル——ナビエ・ストークス千年賞問題を解決したのと同じモデル——が今や「数学のほとんどの領域にわたる100以上の長年の未解決問題を解決した」と何気なく明かした。同社は以前、別の千年賞問題にも迫っていると述べていた。グループはウェブサイトで、この滞留への対応が最優先課題だとしている。「われわれは現在、OpenAIが自社の内部モデルによって生み出されたと報告する多数の重要な数学的成果の公表をどう調整するかについて助言するという、きわめて具体的な課題に直面している」。
ある意味で、数学者への関与という新たな取り組みは、それが引き起こした一大広報災害を認めるものでもある。同社は研究者の成果を先取りした、モデルが依拠した人間の仕事を十分にクレジットしなかった、さらには自社モデルを使う人々から盗んだとまで非難された。こうした論争により、多くの数学者が、同社が自ら飛び込んできた学問分野とコミュニティを理解し、あるいは尊重しているのかどうか疑問に思った。ここ数カ月の経緯と、数学者が何を望むかについて多くが書かれてきたことを踏まえ、インペリアル・カレッジ・ロンドンの数学教授ケビン・バザードは、コミュニティが何を望むかを理解するのに、なぜOpenAIがこれほどエリート的な組織を必要と感じたのかと疑問を呈した。「それは難しい定理の証明ではなく、われわれの学問をよりよく理解することだった」と彼は言う。「その点を強調するのに、優秀な人々の委員会が必要だとは必ずしも思えない」。