AI代理不是你的“同事”

設想一下，你上班時得知有一位新下屬將向你彙報工作。這位下屬不是人，而是一個AI工具——但你的公司仍稱它為Alex，一個擁有職位和明確職責的“員工”。你會如何與Alex合作？波士頓大學商學院教授艾瑪·懷爾斯最近的研究表明，如果你像她研究中的管理者一樣，將Alex視為“同事”而非軟件工具，你的工作表現會更差。懷爾斯發現，當工作成果被説成來自一個具備代理能力的“AI員工”而非聊天機器人時，人們發現的錯誤減少了18%。名字的重要性遠超我們的想象。

這是硅谷正將我們推向的未來令人擔憂的一瞥。去年，英偉達CEO黃仁勳談到了“數字人類”的工作場所。自四月以來，微軟、OpenAI、Anthropic和谷歌都發布了管理AI代理團隊的新工具，其中許多被明確宣傳為具有人類靈活性和認知能力的數字同事。在參與懷爾斯研究的1261名管理者中，近三分之一表示他們的公司已經將AI代理視為員工，23%甚至將其列入組織架構圖。

當然，代理型AI的技術進步並非空談。代理可以被視為編程為循環工作直至達成目標的AI工具，它們在更復雜任務上的表現已有可測量的提升。但將這些工具稱為同事或員工是一個巨大的跳躍，這會對AI的能力設定不切實際的期望，同時讓本應負責它們的人類員工處境更糟。

這在一定程度上是因為，懷爾斯的研究表明，這顛倒了對誰負責的認知。當AI工具被定位為員工時，研究參與者認為自己對其產出的責任更少。他們將可疑工作提交給經理進一步審查的可能性高出44%，而不是相信自己的修正——這抵消了使用AI代理節省時間的初衷。

這個問題遠超辦公室文化：隨着AI代理被嵌入醫療、戰爭、教育和政府等領域，它們越來越可能成為人類失敗責任的方便推卸之處，而這些失敗實際上是糟糕的人類決策、激勵機制和監督的產物（回想一下伊朗一所女子學校遭炸彈襲擊的事件被廣泛歸咎於Claude，而所有跡象都表明這是一連串人為錯誤）。

麻省理工學院經濟學家、2024年諾貝爾獎得主達龍·阿西莫格魯説：“AI代理目前被宣傳為可以替代人類的東西，我認為這是一個失敗的主張。它們應該被優化以改善人類能力，但目前的AI並非如此。”

那麼，理想的情況是什麼樣的？考慮一下斯坦福大學的一項新努力：研究人員向104個職業的1500名工人展示了AI可能在其工作中執行的任務信息，然後詢問什麼實際上最有幫助和生產力。工人們確實在某些領域希望自動化：例如，法律文員認為AI可以幫助確保案件取得適當進展。但通常，技術專家認為最適合AI的任務——比如為銷售代表驗證客户信用評級——正是實際工人明確表示他們絕對不希望或不需要代理去做的事情。

這讓我們回到Alex。稱Alex為員工很容易——也很方便，特別是當出現問題時——但這只是一種品牌宣傳。它並不會使工具更適合工作，而且正如懷爾斯的研究所示，它使周圍的人工作表現更差。請記住，人類擁有AI試圖複製的自主性，他們值得比Alex更好的對待。