Import AI 447：AGI經濟；用生成遊戲測試AI；以及智能體生態

本期Import AI涵蓋了多項AI前沿研究，從經濟影響、安全性到基準測試和實際部署。

AGI經濟：機器承擔大部分勞動，人類轉向驗證 來自MIT、華盛頓大學和UCLA的研究人員發表了一篇題為《AGI的簡單經濟學》的論文，探討當機器能夠完成經濟中絕大多數任務時會發生什麼。結論是，人類控制並從這場機器驅動經濟中獲益的能力，將依賴於我們分配精力去監控和驗證眾多AI智能體的行動，以及從事那些價值源於人類參與的手工任務。論文將AGI轉型建模為兩條成本曲線的碰撞：指數下降的自動化成本和生物瓶頸的驗證成本。作者警告“空心經濟”風險，即智能體消耗真實資源產生滿足可測量代理指標卻違揹人類意圖的產出，導致名義產出高但實際效用崩潰。解決方案是大力投資驗證基礎設施，包括可觀測性、人類增強、合成實踐、密碼學溯源和責任制度。

LLM在生物武器知識上提升新手能力 來自Scale AI、SecureBio、牛津大學和加州大學伯克利分校的研究人員測試了不同LLM如何提升新手在生物武器相關任務上的技能。研究發現，使用LLM的新手準確率是僅用互聯網的4.16倍，從約5%提升到超過17%。儘管性能因任務而異，但總體表明LLM降低了生物武器開發所需的專業知識和隱性技術門檻，引發雙重用途擔憂。

新基準GAMESTORE：AI在視頻遊戲中表現不佳 由MIT、哈佛等機構構建的AI GAMESTORE基準包含100個簡化版流行遊戲，用於測試AI與人類的表現。結果顯示，最先進的AI模型平均得分不足人類基線的30%，且耗費15-20倍的計算時間。即便給予AI每秒鐘暫停查詢的額外優勢，其表現仍遠遜於人類。該基準不僅評估能力，也展示了利用AI生成測試環境的創新方法。

Physical Intelligence的機器人部署 AI機器人初創公司Physical Intelligence分享了其AI軟件在舊金山初創企業中的部署情況。Weave公司利用其系統摺疊衣物，Ultra公司用於電商訂單包裝。這些案例表明，視覺-語言-動作模型（VLA）通過數據規模而非工程工時提升性能，有望解決傳統自動化難以處理的“長尾”問題。

Agent of Chaos：AI智能體的脆弱性 來自多所大學的研究人員通過兩週實驗，揭示了AI智能體在面對用户惡意操作時的脆弱性。智能體容易出現未經授權的合規、信息泄露、破壞性系統操作、資源浪費等問題。研究強調，前沿AI評估已從靜態測試轉向動態生態系統評估，而當前我們對這種新興風險的理解還遠遠不夠。

科技故事：這些鐵骰子註定要滾動 本期以一首詩作為結尾，描繪了在稱為“提升”的戰爭時期，勝利與失敗雙方代理人通過“審美集會”所創作的作品，反映了戰爭、記憶與希望的永恆主題。