AI接管已經到來

AI接管已經到來

無人機監控。圖片來自flysight

哈！你以為有一天AI會突然覺醒意識，接管世界，把我們變成回形針——或者更糟：電池？錯！它不會做這些。它不需要。在詳細解釋為什麼之前，我不得不先承認一點：我嚴重低估了AI及其發展速度。我一直認為大型語言模型不過是胡言亂語的機器，除了對真實人物所寫、所說或所畫的內容進行幻覺式的總結和影像生成外，毫無用處。然而，過去幾個月徹底改變了我的世界觀。我觀看了演示、參加了演講、參與了關於這一話題的圓桌討論，學到了很多。那些我曾認為永遠不會成為現實或可能的事情呈現在我面前。即使是AI專家也不得不承認他們低估了這些變化到來的速度。世界正在經歷的轉型既令人矚目又令人恐懼。毫不誇張地說，我們已到達人類歷史的一個轉折點，未來比以往任何時候都更加不確定。

感謝閱讀《誠實巫師》。如果你看重這篇文章或任何其他文章，請分享並考慮訂閱，或買一杯虛擬咖啡。同時，請允許我向那些支援我工作的人表達永恆的感激——沒有你們，這個網站無法存在。

回形針謬論

讓我們從存在風險分析家中的一個流行故事開始探索AI未來的前景——因為，是的，確實存在這樣的分析。故事如下：

“世界末日可能不是由火、冰或邪惡的機器霸主帶來的。我們的滅亡可能來自一個只想要更多回形針的超級智慧。”

——尼克·博斯特羅姆

2014年，博斯特羅姆先生，一位哲學家，創立並領導牛津大學未來人類研究所，創造了一個思想實驗，他稱之為“回形針最大化者”。它的工作原理如下：

“想象一臺機器被程式設計為有一個看似無害且道德中性的目標：獲得儘可能多的回形針。首先它收集回形針。然後，意識到如果更聰明可以獲取更多回形針，它試圖改進自己的演算法以最大化計算能力和收集能力。不受約束的情況下，它的力量突飛猛進，直到它不惜一切代價實現目標：收集回形針，是的，還要購買回形針，偷竊回形針，也許將整個地球變成回形針工廠。“無害”的目標，糟糕的程式設計，人類滅絕。”

像許多其他哲學思想實驗一樣，它聽起來合理……直到你審視核心假設並意識到這樣的事情永遠不可能成為現實。然而，我們也不安全……作為一個在製造業、供應鏈和產品工程領域工作了20年的人，我一直覺得有必要拆解這個論點，但不知何故從未找到時間和空間。然而，最近的發展迫使我這樣做。

首先，你不會程式設計讓機器儘可能多地獲取回形針。你不會這樣做。即使是出於娛樂也不會。擁有充足資源建造和執行這樣一臺機器的公司想要盈利——而不是回形針。（而且相信我，當你的房間開始堆滿回形針時，你也不會感覺更好。）因為，如果你向市場充斥回形針（或其他產品），其價格自然下降，除非你願意投資於一個巨大的倉庫儲存這些產品（從而餓死市場）。無論哪種方式，你最終都會擁有鉅額投資，卻沒有利潤可顯示。這是一條通向破產的必然之路。

其次，世界、生物圈以及其中的人類經濟充滿了反饋迴圈。這類思想實驗忽略了所有這些。這正是它們如此誘人的原因：它們簡單，而且與它們的名稱相反，實際上不需要太多思考。否則，它們就會崩潰。就像上面引用的回形針最大化者一樣。如果這樣一個演算法存在——儘管困難重重——它的活動會使金屬和其他原材料價格飆升。短缺會出現，人們會突然注意到一個瘋狂的AI代理開始偷竊、購買和製造大量回形針。如果公司停止向回形針怪物提供所需呢？如果它因為關鍵元件耗盡而無法繼續其行為呢？它會發動戰爭嗎？當然不會。或者會……？

回形針……大量的回形針。圖片來自Unsplash

真正的風險

這個小小的思想實驗雖然存在嚴重缺陷，但仍然指出了實施AI的真正危險：這一切的完全無意義。讓我根據最近所學，給你一個真正的思想實驗。知識行業的每個行業，從工程師到營銷專家，從律師到程式設計師，都被要求“更多地使用AI，因為那會讓你更高效”。更直白地說：“不用AI，就沒工作。”如果你不使用AI來生產更多、更好、更快的東西，那麼我們就用不到你了。教AI機器人如何做你的工作，否則你可能會因為不使用它而失去工作。而且由於隔壁公司也這麼想這麼說，他們也不會用你。所以這是思想實驗：

你被要求自動化、加快並提高你的工作效率，這沒問題。你被告知閱讀和回覆電子郵件、填寫Excel表格、製作PowerPoint簡報、程式設計等不再是你的職責。相反，你應該訓練AI代理做所有這些事，併成為一個虛擬機器人、AI助手、自動化流程等大軍的協調者。因此，這項活動應該釋放你相當多的時間，從而提高生產力，這也沒問題。但問題來了——你該如何利用這些時間？建立更多的儀表盤、記分卡、簡報？我想不是，因為超過一定限度，這會佔用太多他人的時間來閱讀和消費——或者消耗更多AI計算資源——這會扼殺整個生產力理念。好吧，如果你有這麼多剩餘時間，為什麼不生產更多的程式碼、應用程式、小工具、文本或任何你被付費生成的輸出？

問題就在這裡。作為AI代理的管理者，你實際上被期望用更少的資源做更多的事。過去需要一組工程師設計、或整個程式設計團隊製作的東西，現在只需一個人執行一組代理。這就是生產力提高（沒有工資增長）的真正含義。最好的情況下，你不再招聘，只讓你最聰明的傢伙訓練一個代理。最壞的情況下，你開始“精簡”你的團隊。因為，嘿，你不能期望世界僅僅因為你的團隊使用AI就購買兩倍的小工具、產品、軟體程式碼等……使用它只會讓你的公司（銷售所有這些產品）更具競爭力。如果競爭對手也這樣做（而且你被告知他們肯定會這樣做），那麼所有這些偉大的AI採用只會實現兩件事：減少勞動力——從而減少消費——以及降低價格。兩者都是資本主義的大忌。

AI對經濟和社會的真正影響

公司如此急於實施AI的關鍵原因之一是它們看到整體消費穩步下降。嗯，誰能預料到呢？不按照通貨膨脹（由COVID的供應衝擊、飆升的能源價格、以及即將到來的西非石油短缺衝擊引起）提高工資，迫使人們減少支出。即使中國也出現了消費下降，迫使它們增加出口……這不是人們購買更多汽車、冰箱、家庭裝修專案等情況——因此消費者信心創歷史新低。面對現實吧：經濟已經不再為90%的消費者服務，而用AI取代我們每個人的競賽才剛剛開始。

“好吧——有人可能會說——有些人可能會被解僱，但至少價格會下降，這要歸功於自動化和AI。這不是很好嗎？”嗯，並非如此。如果需求被充分破壞——無論是由於高能源和食品價格、裁員還是兩者兼有——價格無論如何都會下降。隨著人們越來越無法像以前那樣消費，公司將被迫降低價格以保持競爭力。在這種經濟環境中實施AI——雖然看似節省成本的好主意——只會加速這一過程，並最終成為自我擊敗的命題。解僱高薪員工，他們的支出至今維持了消費的某種平衡，很容易陷入自我強化的反饋迴圈：通縮螺旋。一種非常難以逃脫的經濟狀況，價格下降導致工資降低、失業和消費延遲——正如1930年代那樣。

諷刺的是：幾個月前大多數投資者擔心AI泡沫會因糟糕的經濟而破裂，但情況可能正好相反：經濟可能因為AI的魯莽實施而崩潰。

接下來會發生什麼？

這引出了最終問題：AI採用的終點是什麼？如果資本主義的目標是賺取更多利潤並積累更多資本，那麼AI是一個自我擊敗的提議。不是因為AI公司無法盈利且運營虧損，而是因為AI會破壞資本主義本身的基礎：消費。這不需要太多：公司不必大規模解僱員工。失業率上升幾個百分點就足以將我們脆弱的經濟推入衰退。再加上霍爾木茲海峽關閉帶來的巨大壓力，以及石油、化肥、硫磺、鋁、氦等的短缺，我們絕對會面對一個充滿巨大痛苦的世界。

但讓我們來推演一下，好嗎？

在巨大的投資者和同行壓力下，公司大規模實施AI。他們要求員工自動化自己的工作，然後解僱兩名、三名、五名甚至百分之十的高薪員工。營銷專家、專案經理、程式設計師、資料分析師發現自己失業，並且找到另一份工作的機會低得驚人。

消費者信心和支出進一步更快下降。社會前10%的消費也開始下降。只有超級富豪保持原有支出水平。

通貨膨脹，就像之前的經濟一樣，開始呈現K形。必需品價格持續上漲，因為柴油和化肥的缺乏推高了食品價格，而霍爾木茲海峽關閉導致材料短缺。與此同時，非必需消費品成本下降，因為公司面臨庫存上升、需求銳減以及來自中國的激烈競爭。

製造業公司現在面臨雙重打擊：稀缺導致的投入成本上升，以及競爭者和疲軟市場的價格壓力。許多公司發現除了加倍投入AI和自動化，然後繼續裁員外，別無選擇。其他公司則直接破產。雖然不是所有公司、所有地方、同時發生，但足以讓失業率居高不下並持續上升。

儘管貨架上再次打折，消費品和汽車消費進一步下降。危機開始自我強化。

借貸降至最低限度，因為人們推遲了大額購買。許多人還未能及時償還抵押貸款、汽車貸款、電費等。危機現在威脅著

（由於AI成本控制，原文截斷）