AIEWFデイリーディスパッチ：オートリサーチとAIと人間の主体性の間の緊張

「ワンショットでデザインすることはできません。」AIエンジニアワールズフェアでPaul Bakausはこう語った。

水曜日はAIEWFメインステージでオートリサーチデーが開催された。オートリサーチは、推測通り、一種のループである。Introspectionの共同創業者Roland Gavrilescuは、今朝Latent Spaceとのインタビューで最も明確に説明した。彼はオートリサーチが「エージェントがシステム自体を維持するのを助けるループを構築できる」と述べ、それを「内部ループを研究し維持する」外部ループと呼んだ。

AnthropicのThariq Shihipar（Claude Codeの担当）はオートリサーチに具体的に言及しなかったが、彼の基調講演は継続的な発見と適応という同じ考えを反映していた。「モデルは成長するものであり、開発されるものではない」と彼は言い、「モデルを使うにつれて、モデルとともに理解し学習していく」と述べた。

元GoogleエンジニアリングリーダーAddy Osmaniもループについて話したが、彼の枠組みはGavrilescuのものと大きく異なっていた。

オートリサーチがシステムを研究し維持するループにエージェントを配置するのに対し、Osmaniは外部ループは人間が保持すべきだと主張した。「エージェントは内部実行ループのはるかに多くを実行できるが、外部ループは依然としてエンジニアリングである」と彼は述べた。彼の要約はさらに直接的だった：「内部ループは能力であり、外部ループは主体性である。」

人間の主体性は依然として重要

エージェントが何をすべきか、人間エンジニアが何を保持すべきかというこの緊張は、一日中繰り返されるテーマだった。火曜日に支配的だった「ソフトウェア工場」の枠組みに対する反発も感じられた。NotionのGeoffrey Littがツイートで次のように要約した：「『工場』は憂鬱な未来のビジョンであり、メタファーは重要である。」

Littは今日、デザインエンジニアリングトラックで多くの聴衆を集め、「人間がコードを理解する必要がある理由と方法」について話した。Lily Zhangは重要なポイントをツイートした：「未来は非常に二極化する：理解している者は次の大きなアイデアを持ち続ける。理解を委任する者はエージェントに取って代わられる。」

その後、Littは自身の議論を拡張するスレッドを投稿した。エージェントがプロセスの多くを処理できるようになっていることを認めつつも、人間は何が起こっているかを理解する必要があると述べた。「エージェントが何をしているかを学ぶことで、創造的なプロセスに積極的に参加できるようになる」と書いた。

もう一人のAIEWFスピーカーで人間の主体性を強化しようとしたのはPaul Bakausで、彼は新しいデザインツールImpeccableに関するセッションを開催した。Bakausは両方の極端——完全に手作業でデザインし続けること、または完全にハンズオフプロセスへの「ループ最大化」——を拒否した。「真実はその中間にある」と彼はセッション後に私に語った。

彼の目標は、エージェントに骨の折れる最初の80％の作業を任せ、その後人間を「最後の20％に戻して、それをユニークなものにする——あなたの好みや視点を本当に加える」ことだった。

「自動は存在せず、今後も存在しない。」 — Paul Bakaus, Impeccable

Bakausにとって、これは単に今日のモデルの一時的な限界ではない。それはまた、著作者性と自分の仕事に対する責任を受け入れることでもある。「人々は目的を必要とし、自分が創造するものに役割を果たしたいと思っている」と彼は言った。「エージェントと協力することで、製品に対する所有権をより強く感じる。」

この哲学はImpeccable自体に組み込まれている。「自動は存在せず、今後も存在しない」とBakausは聴衆に語った。彼の意味は、彼の製品は決して「ワンショット」で解決策を提供しない——ユーザーはデザインプロセスに関与しなければならないということだ。「ポイントは、最終的に何を得たいかを導く方法を提供することだ」と彼は付け加えた。

生成メディア

同じ疑問が生成メディアのパネルでも浮上した。画像、動画、音声モデルがより高性能になるにつれ、問題は単に何を生成できるかではなく、誰の判断が結果を形成するかである。

Googleの生成メディア製品（Nano Bananaを含む）に取り組むNicole Brichtovaは、平均的な好みと培われた専門知識を区別した。「技術を磨いてきた人は非常に異なるレベルの専門知識を持っている」と彼女は言った。「平均的な人間には見えないものが見える。」

これは重要である。なぜなら、すべてのモデルには、その作成者が認めるかどうかに関わらず、デフォルトの美学があるからだ。「結局それは私たちになる」とBrichtovaは言った。「結局はモデリングチームになる。」彼女は、モデル開発者が「本当に創造的な視点を持つ」人々とより緊密に協力する必要があるかもしれないと示唆した——実質的にアートディレクターをループに戻すことだ。

Shane Guはより広く同じ点を指摘した。モデルが自身の出力を生成し洗練する能力が向上しても、人間は何が間違っているか、平凡か、不十分かに気づく感受性を保持しなければならないと彼は主張した。

「今はAIが多くのプロンプトを処理して十分かもしれないが、そうであっても、AIがコンテンツを生成していることに決して満足してはならない。常に自分の感受性を見つけなさい。」

エージェンティックサイト

ウェブ自体——究極の人間情報ネットワーク——も、どの程度の自動化を使用するかで苦闘している。

本日午後の「エージェンティックサイト」に関するセッションで、AdobeのプリンシパルサイエンティストCarlos Sanchezは、訪問者の意図に基づいてリアルタイムでページを組み立てパーソナライズするウェブサイトをデモした。彼はこの移行をますます避けられないものとして提示した：「これは今可能であり、さらに良くなり、より安くなり、より速くなるだけだ。」

しかしSanchezは警告の言葉も述べた。「AIを使うと、物を構築するのは簡単だが、何を構築すべきかを知るのは難しい」と彼は後に私に語った。これは、エージェントがブランドに代わって体験を生成する場合に特に重要になる。「サイト全体を生成することはできない」と彼は言った。結果がブランドガイドラインから逸脱する可能性があるからだ。

これで議論はオートリサーチに戻る。エージェントはますます他のエージェントを観察、評価、改善できるようになるかもしれないが、人間は依然として目標を定義し、結果を判断し、ループが生み出すものに対して責任を負わなければならない。

エージェンティックテクノロジーが今どれほど印象的であっても、自動化された「ソフトウェア工場」のアイデアがどれほど魅力的であっても、依然としてループに人間が必要である。