コンピューティングとAIにおける人間の重要な役割

4月30日、MITシュワルツマン・コンピューティング・カレッジの社会的・倫理的責任イニシアチブ（SERC）は、人工知能が世界をどう形作り、社会にどのような影響を与えるかを検討する終日研究シンポジウムを開催した。イベントでは、SERCの最新シードグラント受賞者による研究発表（大気汚染予測や責任あるコンピュータビジョン展開など）、AIアライメントとAI教育に関するパネル討論、そしてコーネル大学のジョン・クラインバーグ教授（PhD '96）による基調講演が行われた。また、学生研究者がSERCスカラーとして年間のプロジェクトを紹介するポスターセッションも開催された。

「MITでは、AIとコンピューティングが人類に利益をもたらす善の力となるための素晴らしい研究が数多く行われています。これら最先端の研究にこれほど多くのコミュニティの関心が集まるのは感動的です」と、SERC共同副学部長で哲学教授のブライアン・ヘッデン氏は語った。SERC共同副学部長でJ.C.ペニー経営学教授のニコス・トリカキス氏は、「コンピューティングとAIが社会のほぼすべての側面にますます組み込まれる中、SERCの使命は倫理的考察と技術的進歩が共に前進することを確実にすることです。今年のシンポジウムは、MIT全体で進行中の卓越した研究の範囲を強調し、コミュニティがコンピューティングの未来を形作る責任に深く関わるフォーラムを創出します」と付け加えた。

AIアライメントに関するパネルでは、MIT電気工学・コンピュータサイエンス学科（EECS）のディラン・ハドフィールド・メネル准教授が司会を務め、学際的なスピーカーが集まった。Google DeepMindの哲学者兼研究科学者であるイアソン・ガブリエルは、裁判官の例を用いて、「裁判官には良い人格が求められるが、それでもルールを解釈すべきだ。AIを完璧なものとしてモデル化するのは適切ではない。AIは人間の指示に従いながら、その『人格』を使って私たちの道徳的価値観に従って解釈すべきだ」と説明した。政治学のベイリー・フラニガン助教授はさらに一歩進め、AIアライメントの最も重要な問題は「そもそも誰が異なる種類のAIシステムを統治する権利を持つのかという根本的な問いを解決すること」だと述べた。政治学のベルナルド・ザッカ准教授は、AIの急速な発展を踏まえ、「最も緊急な問題の一つは、私たちが置き換えつつあるシステムに含まれる知恵と、それらがなぜそのように機能するのかを理解することだ」と指摘した。全体として、パネリストたちはAIアライメントの軌道に楽観的であり、人間の構成要素がこれらのシステムを形作る上でいかに重要かを強調した。

教育分野では、MITの教授陣とGoogle Gemini for Educationのディレクター、マータ・マカリスター氏が、AIを倫理的に教室に取り入れつつ学術的正確性と厳格さを維持する方法を探った。MITのAI教育臨時委員会共同議長であるエリック・クロッパー教授とサミュエル・マッデン教授は、AIが作業を「オフロード」するために使われるのか、それとも教えられている概念の足場を作るために使われるのかという中心的なジレンマに焦点を当てた。マッデン教授は、試行錯誤を繰り返す「認知的葛藤」のプロセスについて説明し、「学生たちは壁にぶつかると、最初にAIに尋ねるようになった。彼らはこのプロセスで優れているとは見なされず、実際に評価しているスキルを習得していない」と述べた。クロッパー教授は、カリキュラム全体を見直すことを提案し、「いくつかの核となるコンテンツは削除しなければならない。私たちは追加するだけで、解析や剪定をしていない」と述べた。司会のジャスティン・ライヒ准教授は、ティーンエイジャーはAIが悪いと知っていても使用を止めないが、AIの実装方法について議論に参加させ、教師とより内省的な対話を取り入れることで、生徒はこれらのツールをいつどのように使うかをより適切に選択できるようになるかもしれないと指摘した。

ジョン・クラインバーグ教授の基調講演「AIの世界のモデルと私たちのモデル」は、チェスと『指輪物語』の例を用いて、AIシステムがその世界モデルと人間のモデルのミスマッチのために意図せず失敗に導く事例を評価した。現代のチェスエンジンは超人的なレベルでプレイできるが、人間のパートナーと組むと、その戦略は人間には理解できない。エンジンがターンを人間に渡すと、人間はエンジンがこれまで追ってきた予測パターンを把握するのに苦労する。「人間とアルゴリズムのチームの危険は、人間が引き継ぐとき、アルゴリズムは次に何をしたいか分かっているが、人間は分からないことだ」とクラインバーグ教授は説明した。これらの類推は、AIが世界を理解する方法（予測シミュレーション、パターン認識、制約による）と、人間の経験に伴う生得的な身体化された知識との違い、そしてこれらのシステムが実際に動作している世界を真に理解しているかどうかを示している。しかし、ゲームが最終的にチェックメートになるなら、それが重要かどうかという疑問が残る。