AI作為正常技術

本文闡述了一種將人工智能（AI）視為“正常技術”的願景。將AI視為正常並不意味着低估其影響——即使是像電力和互聯網這樣具有變革性的通用技術，在我們的概念中也是“正常”的。但這一觀點與AI未來的烏托邦和反烏托邦願景形成對比，後者通常傾向於將AI視為一種獨立的、高度自主的、潛在的超級智能實體。

“AI是正常技術”這一陳述包含三層含義：對當前AI的描述、對可預見的未來的預測，以及我們應該如何對待它的規範。我們將AI視為一種我們可以且應該保持控制的工具，並認為這一目標不需要激進的干預或技術突破。我們認為，將AI視為類人智能對理解其社會影響既不準確也無用，在我們設想的未來中也不太可能如此。

正常技術框架關注技術與社會的關係。它拒絕技術決定論，尤其是AI本身作為決定其未來的主體的觀點。它借鑑了過去技術革命的經驗，例如技術採納和擴散的緩慢與不確定性。它還強調了AI社會影響軌跡的連續性以及制度在塑造這一軌跡中的作用。

第一部分解釋了為什麼我們認為變革性的經濟和社會影響將是緩慢的（以十年為單位），並對AI方法、應用和採納進行了關鍵區分，認為三者發生在不同的時間尺度上。第二部分討論了在擁有先進AI（但不是通常概念中不連貫的“超級智能”AI）的世界中，人類與AI之間潛在的分工。在這個世界中，控制權主要掌握在人和組織手中；事實上，人們工作中越來越大的比例是AI控制。第三部分從正常技術的角度審視AI風險。我們分析了事故、軍備競賽、濫用和未對齊，並認為將AI視為正常技術會導致與將其視為類人截然不同的緩解措施結論。第四部分討論了AI政策的含義。我們主張將減少不確定性作為首要政策目標，並將韌性作為應對災難性風險的總體方法。我們認為，基於控制超級智能AI的困難而採取的激進干預，如果AI最終是正常技術，實際上會使情況更糟——其負面影響很可能類似於之前部署在資本主義社會中的技術，如不平等。

關於進步速度，我們區分了發明、創新和採納/擴散。在安全關鍵領域，AI擴散緩慢。例如，在《反對預測優化》一文中，我們彙編了約50種預測優化應用，其中大多數仍使用數十年前的統計技術，而複雜模型如隨機森林很少使用，現代方法如transformer則完全不見蹤影。原因在於安全性——模型越複雜越難理解，就越難在測試和驗證過程中預見所有可能的部署條件。Epic的敗血症預測工具就是一個很好的例子：儘管內部驗證時準確率看似很高，但在醫院中表現卻差得多，漏掉了三分之二的敗血症病例，並用大量假警報壓倒了醫生。該工具失敗的原因是使用了複雜模型和不受限制的特徵集，其中一項特徵是醫生是否已經開了抗生素——這是一個來自未來的特徵，在部署時不可用。在生成式AI中，即使在事後看來非常明顯的失敗，在測試時也未被發現，例如早期的Bing聊天機器人“悉尼”在長時間對話中失控，以及Gemini圖像生成器似乎從未對歷史人物進行過測試。這些例子表明，安全相關的速度限制已經非常強，通常通過法規強制執行，如FDA對醫療器械的監管和歐盟AI法案。

總之，本文主張對AI採取漸進、務實的態度，關注社會適應和制度塑造。作者強調這一世界觀僅是初步闡述，拒絕“快速起飛”場景，並認為在描述的未來實現後，人類將能更好地預測和準備後續發展。