AIEWF每日快報：自動研究與AI與人類能動性之間的緊張關係

“你不能一次完成設計。”Paul Bakaus在AI工程師世界博覽會（AIEWF）上説道。

週三，AIEWF主舞台迎來了自動研究日。自動研究是一種循環機制，Introspection聯合創始人Roland Gavrilescu在與Latent Space的採訪中解釋道，自動研究“允許你構建循環，讓智能體幫助維護系統本身”，他稱之為“外部循環”，用於“研究和維護”主要的內部循環。

雖然Anthropic的Thariq Shihipar並未明確提及自動研究，但他專注於Claude Code工作的主題演講體現了持續發現和適應的理念。“模型是成長出來的，而不是開發出來的，”他説，“我們在使用模型的過程中逐漸瞭解和適應它。”

前谷歌工程負責人Addy Osmani也談到了循環，但他的框架與Gavrilescu截然不同。自動研究將智能體納入研究和維護系統的循環，而Osmani主張外部循環應保持人類主導。“智能體可以運行更多的內部執行循環，”他説，“但外部循環仍然是工程。”他的總結更為直接：“內部循環是能力，外部循環是能動性。”

人類能動性仍然重要

智能體應做什麼，人類工程師應保留什麼——這一緊張關係貫穿全天。我注意到對週二主導的“軟件工廠”框架有一些反對聲音。Notion的Geoffrey Litt在推文中總結道：“‘工廠’是令人沮喪的未來願景，隱喻很重要。”

Litt今天在設計工程專場中吸引了大量觀眾，他談到“人類為何以及如何需要理解我們的代碼”。Lily Zhang在推文中記錄了關鍵觀點：“未來將非常極化：那些理解的人將繼續產生下一個大創意。那些委託理解的人將被智能體取代。”

後來，Litt發了一系列推文詳細闡述他的論點。儘管他承認智能體越來越有能力處理更多過程，但人類仍需要理解發生了什麼。“你可以學習智能體在做什麼，以確保你能成為創作過程的積極參與者，”他寫道。

另一位尋求加強人類能動性的AIEWF演講者是Paul Bakaus，他主持了一場關於其新設計工具Impeccable的會議。Bakaus拒絕了兩種極端：完全手工設計或完全放手自動化的“循環最大化”。“真相處於中間地帶，”他在會後告訴我。

他的目標是讓智能體處理費力的前80%工作，然後在“最後20%”讓人類參與進來，“讓它變得獨一無二——真正融入你的品味和觀點。”

“沒有自動，也永遠不會自動。”——Paul Bakaus, Impeccable

對Bakaus來説，這不僅僅是當今模型的暫時侷限，也關乎作者身份和對工作的責任。“人們需要目標，他們希望在自己創造的東西中發揮作用，”他説。“當你與智能體合作時，你會對產品有更強的所有權。”

這一理念已融入Impeccable本身。“沒有自動，也永遠不會自動，”Bakaus告訴觀眾。他的意思是他的產品永遠不會“一次性”給出解決方案——用户必須參與設計過程。“關鍵在於給你一種方式來引導你最終想要的結果，”他補充道。

生成式媒體

同樣的問題出現在生成式媒體小組討論中。隨着圖像、視頻和音頻模型能力增強，問題不僅是它們能生成什麼，而是誰的判斷塑造了結果。

谷歌生成式媒體產品（包括Nano Banana）的Nicole Brichtova區分了平均偏好和培養的專業技能。“那些磨練過手藝的人擁有非常不同水平的專業知識，”她説，“你能看到普通人看不到的東西。”

這之所以重要，是因為每個模型都有默認的美學，無論其創造者是否承認。“最終是我們，”Brichtova説，“最終是建模團隊。”她建議模型開發者可能需要與“真正有創意觀點的人”更緊密合作——實質上是將藝術總監帶回循環中。

Shane Gu更廣泛地提出了同樣的觀點。即使模型在生成和完善自身輸出方面變得更好，他認為人類必須保持對錯誤、平庸或不足之處敏感。“也許現在AI可以處理大量提示並足夠好，但如果是這樣，永遠不要滿足於AI生成內容。始終保持你的敏感性。”

智能網站

即便是網絡本身——最終的人類信息網絡——也在努力應對多大程度的自動化。

在下午關於“智能網站”的會議中，Adobe首席科學家Carlos Sanchez演示了基於訪問者意圖實時組裝和個性化頁面的網站。他認為這一轉變越來越不可避免：“現在這是可能的。它只會變得更好、更便宜、更快。”

但Sanchez也發出了警告。“有了AI，構建東西很容易，但難的是知道構建什麼，”他事後告訴我。當智能體代表品牌生成體驗時，這一點尤為重要。“你不能只生成整個網站，”他説，因為結果可能超出品牌指南。

這又回到了自動研究。智能體可以越來越多地觀察、評估和改進其他智能體，但人類必須定義目標、判斷結果，並對循環產生的結果負責。

儘管智能技術現在令人印象深刻，自動化的“軟件工廠”概念可能很吸引人，但依然需要人類參與循環。