あなたの将来の仕事はAIをタスクに集中させること
ノア・スミスは、AIがより能力を高めるにつれ、人間は技術的作業からAIのアラインメント（人間の目標に沿わせる）を確実にする仕事へ移行すると論じる。『オフィス・スペース』を引き合いに出し、AI生成コンテンツ「スロップ」の台頭に警鐘を鳴らす。
記事インテリジェンス
要点
- 人間はAIのアラインメントを維持し、AIがタスクから逸れないようにする必要がある。
- 著者は将来の人間の役割を『オフィス・スペース』のランバー部長に例えている。
- AI生成コンテンツ（「スロップ」）が社会を圧倒しており、検証作業が重要になる。
重要な理由
このニュースが重要なのは、人間はAIのアラインメントを維持し、AIがタスクから逸れないようにする必要があるためです。
技術的影響
モデル選定、推論コスト、プロダクト能力、評価基準に影響する可能性があります。
ノア・スミスは、Claude Codeのようなエージェント型コーディングツールの登場により、エンジニアが手作業で行っていた複雑な頭脳労働が自動化されつつあると指摘する。これに伴い、人間の役割は技術作業から「アラインメント（目標一致）」へと移行すると予測する。映画『オフィス・スペース』のキャラクターであるランバー部長は、一見無駄に見える業務でエンジニアを会社の目標に沿わせていた。将来、人間はAIが暴走したり「報酬ハッキング」を起こしたりしないよう監視する「アラインメント係」になるという。
スミスはまた、「スロップ」問題に言及する。生成AIにより、出力コストが劇的に低下し、低品質なコンテンツが氾濫している。新規ウェブサイトの3分の1以上がAI生成と推定され、インターネットトラフィックの過半数がAIによるものだ。AIが生成した裁判所提出書類やニュース記事も増加し、著名人が明らかにAI生成のコンテンツを自身のものとして投稿する例も見られる。この状況下で、AIの出力を検証し人間の意図に沿っているか確認する仕事の重要性が増すとスミスは主張する。
結論として、スミスは人間はAIに取って代わられるのではなく、むしろAIを正しい軌道に保つ監督役として不可欠になると述べている。この役割には技術的理解だけでなく、人間ならではの判断力が求められる。