AIエージェントはあなたの「同僚」ではない

出勤すると、新しい部下が自分に報告することになると知らされる場面を想像してみてほしい。その部下は人間ではなく、AIツールだ。しかし会社はそのツールをAlexと呼び、肩書きと明確な責任を持つ「従業員」として扱う。あなたはAlexとどれだけうまく仕事ができるだろうか？ボストン大学のビジネス教授エマ・ワイルズが最近行った研究の管理者のように行動するなら、Alexを「同僚」として扱い、ソフトウェアツールとして扱わないことで、仕事のパフォーマンスが低下するだろう。ワイルズの研究では、作業がチャットボットではなく「AI従業員」から来たとされた場合、人々が発見するエラーが18%減少した。名前が重要であることが明らかになった。

これはシリコンバレーが私たちを突き進ませている未来の憂慮すべき一端だ。昨年、NVIDIAのCEOジェンセン・フアンは「デジタル人間」の職場について語った。4月以来、マイクロソフト、OpenAI、Anthropic、グーグルはすべて、AIエージェントのチームを管理するための新しいツールをリリースしており、その多くは実際の人間の柔軟性と認知能力を持つデジタル同僚として明確に宣伝されている。ワイルズの研究に参加した1,261人の管理者のほぼ3分の1が、自分の会社はAIエージェントを従業員として扱っていると答え、23%は組織図にAIを記載している。

もちろん、エージェント型AIの技術的進歩は空虚なものではない。エージェントは、目標を達成するまでループで動作するようにプログラムされたAIツールと考えることができ、より複雑なタスクで測定可能な改善を示している。しかし、これらのツールを同僚や従業員と呼ぶのは大きな飛躍であり、AIに非現実的な期待を設定し、それらを担当するはずの人間の従業員をより悪い状況に追い込むことになる。

その理由の一部は、ワイルズの研究が示唆するように、誰が責任者であるかの感覚が逆転することにある。AIツールが従業員として扱われると、研究参加者はその出力に対する責任を軽く感じた。また、疑わしい作業を自分の修正に頼るよりも、マネージャーにさらにレビューを依頼する可能性が44%高かった（これにより、AIエージェントを使用する時間節約の目的が無効になる）。

これはオフィス文化をはるかに超えて重要だ。AIエージェントが医療、戦争、教育、政府に組み込まれるにつれて、それらは人間の失敗の責任を簡単に転嫁できる場所になるリスクが高まっている。その失敗は実際には人間の悪い決定、インセンティブ、監督の結果である（イランの女子学校への爆撃が広くClaudeのせいにされたが、すべての兆候は一連の人的エラーを示していることを思い出してほしい）。

MITの経済学者で2024年にノーベル賞を受賞したダロン・アセモグル氏は、「AIエージェントは現在、人間を置き換えるものとして販売されているが、それは負け戦だと思う。むしろ、人間の能力を向上させるように最適化されるべきであり、現状のAIはそうではない」と述べている。

理想的な姿はどのようなものか？スタンフォード大学での新しい取り組みを考えてみよう。研究者たちは104の職種の1,500人の労働者に、AIが職務で実行できる可能性のあるタスクに関する情報を提示し、実際に最も役立ち生産的であるものを尋ねた。労働者たちは特定の分野で自動化を望んでいた。例えば、法律書記官はAIが案件全体の適切な進捗を確保するのに役立つと考えた。しかし、多くの場合、技術専門家がAIに最も適していると判断したタスク（営業担当者の顧客信用格付けの確認など）は、実際の労働者が絶対にエージェントにやってほしくない、または必要ないと述べたものだった。

これでAlexの話に戻る。Alexを従業員と呼ぶのは簡単であり、特に何か問題が起きたときに便利だが、それはブランディングの行為にすぎない。ツールを仕事に適したものにするわけではなく、ワイルズの研究が示すように、周囲の人間のパフォーマンスを低下させる。そして、人間こそがAIが再現しようとしている主体性を持っていることを思い出してほしい。人間はAlexよりも良い扱いを受けるに値する。