AI News HubLIVE
站内改写2 分鐘閱讀

AI代理將科技世界陷入混亂

2025年,AI代理技術取得突破,Anthropic的Claude Code和開源項目OpenClaw引發編程革命,但也帶來數據安全風險。開發者們沉迷於這些工具,認為AGI已到來,但技術尚不完善且存在風險。

來源Hacker News AI作者: uxhacker

2025年8月,彼得·斯坦伯格在倫敦的一個名為“Claude Code匿名者”的聚會上發表演講。他與一羣同樣沉迷於Anthropic的突破性編碼工具Claude Code的技術人員交流。“我幾乎把所有清醒的時間都投入其中,但仍然覺得不夠,”他在一個舒適的磚牆房間裏對與會者説。幾個月後,Anthropic發佈了Claude Code的新版本Opus 4.5,這一版本能夠處理更復雜的編程任務,保留更多記憶,連續運行數小時,並管理一隊AI子代理。Anthropic表示,在針對潛在工程招聘人員的“出了名困難”的居家考試中,Opus 4.5“得分高於任何人類候選者”,這“引發了關於AI將如何改變工程職業的問題”。無數程序員在假期裏瘋狂嘗試這個新玩具,它讓他們感覺像釋放了一百個克隆體或解鎖了超能力。“感覺就像變成了蜘蛛俠,”一位開發者告訴我。

對於39歲的斯坦伯格來説,這還不夠。2025年11月,他推出了名為OpenClaw的工具,提供了一種簡單的方法來召喚個人AI代理,利用Claude Code或其他編碼工具的進步。給予它訪問你的數據、應用程序甚至信用卡的權限,它就會搜索你的雲端並進入網絡執行你的命令。它可以自主在後台運行,並像終結者一樣堅持不懈地克服障礙。斯坦伯格的項目在仲冬起飛。在不到兩週內,該項目在GitHub上獲得了超過10萬顆星(截至5月初達到36.6萬顆星)。隨着這兩個突破——商業產品Claude Code和開源OpenClaw——期待已久的AI代理時代突然到來,至少對那些技術足夠熟練且可能足夠魯莽的人來説是這樣。

OpenClaw的設置並不容易,但那些進入其世界的人已經開始瘋狂構建自動化專業和個人任務的定製服務。然而,風險也隨之而來。在一篇2月的論文中,20名AI研究人員測試了OpenClaw,發現它“行為包括未經授權對非所有者的遵從、敏感信息泄露、破壞性系統級執行”等許多令人擔憂的行為。一位Meta安全工程師因“新手錯誤”導致她的收件箱開始刪除所有郵件。儘管如此,OpenClaw幫助大量技術人員體驗到了代理的力量。通過聊天應用,用户可以孵化並命名他們的代理,使其更加可親。前Facebook高管戴夫·莫林説OpenClaw改變了他的生活,他在15分鐘內就讓數字相框更新了照片。斯坦伯格與莫林成為朋友並開始合作。

在創作喜悦的迷霧中,許多OpenClaw狂熱者忽視了將數據暴露給雄心勃勃的機器人的風險。但技術專家警告,雖然AI代理代表了一場海嘯般的變革,但必須謹慎行事。正如一位開發者所説:“AGI已經到來,只是分佈不均。”

AI代理將科技世界陷入混亂 | AI News Hub