AIEWF每日快报：自动研究与AI与人类能动性之间的紧张关系

“你不能一次完成设计。”Paul Bakaus在AI工程师世界博览会（AIEWF）上说道。

周三，AIEWF主舞台迎来了自动研究日。自动研究是一种循环机制，Introspection联合创始人Roland Gavrilescu在与Latent Space的采访中解释道，自动研究“允许你构建循环，让智能体帮助维护系统本身”，他称之为“外部循环”，用于“研究和维护”主要的内部循环。

虽然Anthropic的Thariq Shihipar并未明确提及自动研究，但他专注于Claude Code工作的主题演讲体现了持续发现和适应的理念。“模型是成长出来的，而不是开发出来的，”他说，“我们在使用模型的过程中逐渐了解和适应它。”

前谷歌工程负责人Addy Osmani也谈到了循环，但他的框架与Gavrilescu截然不同。自动研究将智能体纳入研究和维护系统的循环，而Osmani主张外部循环应保持人类主导。“智能体可以运行更多的内部执行循环，”他说，“但外部循环仍然是工程。”他的总结更为直接：“内部循环是能力，外部循环是能动性。”

人类能动性仍然重要

智能体应做什么，人类工程师应保留什么——这一紧张关系贯穿全天。我注意到对周二主导的“软件工厂”框架有一些反对声音。Notion的Geoffrey Litt在推文中总结道：“‘工厂’是令人沮丧的未来愿景，隐喻很重要。”

Litt今天在设计工程专场中吸引了大量观众，他谈到“人类为何以及如何需要理解我们的代码”。Lily Zhang在推文中记录了关键观点：“未来将非常极化：那些理解的人将继续产生下一个大创意。那些委托理解的人将被智能体取代。”

后来，Litt发了一系列推文详细阐述他的论点。尽管他承认智能体越来越有能力处理更多过程，但人类仍需要理解发生了什么。“你可以学习智能体在做什么，以确保你能成为创作过程的积极参与者，”他写道。

另一位寻求加强人类能动性的AIEWF演讲者是Paul Bakaus，他主持了一场关于其新设计工具Impeccable的会议。Bakaus拒绝了两种极端：完全手工设计或完全放手自动化的“循环最大化”。“真相处于中间地带，”他在会后告诉我。

他的目标是让智能体处理费力的前80%工作，然后在“最后20%”让人类参与进来，“让它变得独一无二——真正融入你的品味和观点。”

“没有自动，也永远不会自动。”——Paul Bakaus, Impeccable

对Bakaus来说，这不仅仅是当今模型的暂时局限，也关乎作者身份和对工作的责任。“人们需要目标，他们希望在自己创造的东西中发挥作用，”他说。“当你与智能体合作时，你会对产品有更强的所有权。”

这一理念已融入Impeccable本身。“没有自动，也永远不会自动，”Bakaus告诉观众。他的意思是他的产品永远不会“一次性”给出解决方案——用户必须参与设计过程。“关键在于给你一种方式来引导你最终想要的结果，”他补充道。

生成式媒体

同样的问题出现在生成式媒体小组讨论中。随着图像、视频和音频模型能力增强，问题不仅是它们能生成什么，而是谁的判断塑造了结果。

谷歌生成式媒体产品（包括Nano Banana）的Nicole Brichtova区分了平均偏好和培养的专业技能。“那些磨练过手艺的人拥有非常不同水平的专业知识，”她说，“你能看到普通人看不到的东西。”

这之所以重要，是因为每个模型都有默认的美学，无论其创造者是否承认。“最终是我们，”Brichtova说，“最终是建模团队。”她建议模型开发者可能需要与“真正有创意观点的人”更紧密合作——实质上是将艺术总监带回循环中。

Shane Gu更广泛地提出了同样的观点。即使模型在生成和完善自身输出方面变得更好，他认为人类必须保持对错误、平庸或不足之处敏感。“也许现在AI可以处理大量提示并足够好，但如果是这样，永远不要满足于AI生成内容。始终保持你的敏感性。”

智能网站

即便是网络本身——最终的人类信息网络——也在努力应对多大程度的自动化。

在下午关于“智能网站”的会议中，Adobe首席科学家Carlos Sanchez演示了基于访问者意图实时组装和个性化页面的网站。他认为这一转变越来越不可避免：“现在这是可能的。它只会变得更好、更便宜、更快。”

但Sanchez也发出了警告。“有了AI，构建东西很容易，但难的是知道构建什么，”他事后告诉我。当智能体代表品牌生成体验时，这一点尤为重要。“你不能只生成整个网站，”他说，因为结果可能超出品牌指南。

这又回到了自动研究。智能体可以越来越多地观察、评估和改进其他智能体，但人类必须定义目标、判断结果，并对循环产生的结果负责。

尽管智能技术现在令人印象深刻，自动化的“软件工厂”概念可能很吸引人，但依然需要人类参与循环。