AI Snake Oil

本文透過資料和案例分析，反駁了AI將導致軟體工程師大規模失業的敘事。作者指出，所謂的AI驅動的裁員往往是財務壓力下的“AI洗白”，而實際的就業資料表明，AI只是壓縮了“執行”層，但“決策”和“交付”層仍需要人類深度參與。文章提出了“決定-執行-交付三明治”模型，並認為這些瓶頸不會因AI能力提升而消失。

谷歌聲稱其AI智慧體團隊僅用單條提示和約900美元就構建了一個作業系統，但本文分析了該說法的多處疑點：提示實際上長達數千行、可能存在過度擬合、未公開關鍵資訊等。文章強調了獨立評估的重要性，並認為此類公開世界評估需要新的方法論標準。

不要跳過AI治理的艱苦工作。文章探討了AI風險是否應引發超常規政府幹預，認為依賴不擴散等非凡干預代價高且效果有限，建議投資於社會韌性以應對AI的潛在濫用風險。

介紹CRUX，一個合作專案，透過長期、真實的開放世界任務來評估前沿AI能力。首次實驗顯示AI代理自主釋出iOS應用，既展示了進步，也指出了風險，如應用商店垃圾資訊。

研究者提出了一個衡量AI智慧體可靠性的框架，將可靠性分解為12個維度，並發現儘管能力提升迅速，但可靠性進展緩慢。該研究呼籲行業將可靠性作為獨立維度進行最佳化。

本文運用“AI作為正常技術”框架分析法律行業，指出AI並不會自動降低法律服務成本，因為存在三大瓶頸：監管壁壘（如禁止非律師執業）、對抗性動力（訴訟和交易中的軍備競賽）以及人類參與需求（法官、律師和客戶的時間限制）。文章還探討了可能的制度改革路徑。

莫拉維克悖論認為對人類困難的任務對AI容易，反之亦然。本文透過實證檢驗和進化論分析，指出該悖論缺乏證據，且其基於的進化解釋值得懷疑。悖論式思維導致了AI領域的過度樂觀與不必要的恐慌。作者建議不應依賴此類預測，而應專注於適應已明確到來的技術變革。

本文深入探討了“AI作為普通技術”框架，對比了AI 2027觀點，分析了AI擴散速度的常見誤解，並討論了AI採用過程中的實際挑戰。

儘管AI有望加速科學發現，但本文指出AI可能透過加劇生產-進步悖論、引入軟體工程錯誤、強化錯誤理論依賴以及削弱人類理解來拖慢科學進步。文章呼籲改革激勵機制、加強元科學研究並重新思考AI工具設計。

本文認為通用人工智慧（AGI）並非一個里程碑，因為它不代表AI系統特性或影響的突變。AGI的定義模糊、不可觀察，且其經濟影響需數十年才能透過技術擴散實現。AI的能力與權力應區分，風險來源於環境設計而非能力本身。企業應謹慎採用AI產品，政策制定者應關注促進擴散而非追求AGI。

一篇新論文主張將人工智慧視為正常技術，而非超智慧實體。它強調AI的緩慢採用、漸進的經濟影響以及人類控制的重要性，與烏托邦/反烏托邦敘事形成對比。

本文分析了關於AI能力進步是否放緩的爭論。作者認為，模型擴充套件（scaling）並未終結，但行業領袖的預測不可靠；推理擴充套件（inference scaling）有潛力但存在侷限性；能力提升與實際經濟影響之間的關聯很弱，產品開發和採用才是關鍵瓶頸。

對2024年全球選舉中AI使用情況的分析發現，超過一半的深度偽造並非出於欺騙意圖，且大多數欺騙性內容無需AI也能低成本製作。虛假資訊的傳播更多取決於受眾需求而非技術手段。