人工智能作為社會技術

人工智能作為社會技術

在關於人工智能的辯論中，許多討論仍深受上世紀90年代科幻小説中“奇點”概念的影響。文章指出，這一源自科幻的敍事——即人工智能將迅速超越人類智能，成為擁有自身利益和目標的超級智能——實際上掩蓋了技術發展的真實複雜性。作者認為，大型語言模型（LLM）並非通往通用人工智能的“賢者之石”，而是一種社會技術，類似於圖書館、語言、市場和官僚機構，其核心功能是重組人與人之間的社會關係。

LLM通過處理人類語言的大型數據集，生成類似人類話語的文本，從而在用户和訓練數據的作者之間建立起一種機械中介的社會關係。這種關係並非全新的現象，而是現代社會生活中常見的中介關係的一種延伸。然而，這種中介的幻覺常常使用户誤以為他們只與機器互動，而忽略了背後大量人類作者的貢獻。作者強調，理解這一機制至關重要，因為它打破了關於人工智能具有自主意識和意圖的神話。

作者將人工智能置於“漫長的工業革命”的歷史背景中，這場革命始於兩百年前，至今仍在持續。與奇點理論所設想的急劇變革不同，工業革命的歷史表明，技術變革往往是混亂、多樣且不可預測的。同樣，人工智能的社會影響也不會是單一的、決定性的轉變，而是會在與現有社會技術（如官僚制、市場和民主）的碰撞中產生複雜的結果。

文章特別借鑑了赫伯特·西蒙的“人工科學”思想。西蒙認為，人工智能、經濟、行政和政治系統都是“複雜信息處理”的形式，它們通過將複雜的現實簡化為可處理的“粗粒化”（coarse-grainings）來運作。官僚制就是這種粗粒化的典型例子：它將複雜的社會關係簡化為規則和類別，以便進行大規模協調。人工智能作為一種新的粗粒化技術，正在與這些舊有的抽象系統相互作用，可能加強、重塑或取代它們。

作者警告説，關於通用人工智能即將到來的預言正在影響實際政策，例如美國特朗普政府大幅削減行政機構的行動。這些行動基於對人工智能能力的過度樂觀，忽視了真正需要關注的複雜社會問題。相反，我們應該將人工智能視為一種新的社會技術，它將緩解一些問題，加劇另一些問題，併產生全新的挑戰。為了理解這些後果，社會科學與計算機科學之間的合作變得前所未有的緊迫。

總之，文章呼籲摒棄奇點神話，以更實際、更細緻的方式研究人工智能對社會的影響。人工智能不是萬能的鍊金術，而是人類漫長技術演進中的最新一環。只有通過跨學科的努力，我們才能應對它帶來的機遇和挑戰。