我們對人工智慧應該恐懼什麼（2021）

2021年末，ChatGPT問世前幾個月，我寫了一篇關於AI恐懼的文章。現在重發，希望你們評價那些預測，而不是我來評價。有一點在2021年可能沒被注意到：企業採用AI現在是一種自上而下的命令，疊加在自下而上的盲目模仿上。沒有程式設計背景的初級員工被授予許可權，要求“自動化一切”，程式碼庫變得極其複雜，以至於沒有人能從頭到尾讀懂。最終拯救他們的AI清理諮詢市場，看起來會很像2010年代的安全漏洞恢復行業。我錯過了那個具體形態，但我看到了更廣泛的問題——我們總是會在外包思考之前，先外包選擇。

下面就是那篇文章。告訴我它遺漏了什麼。

很久以前，在遙遠的城市哈爾科夫，我7歲時第一次看到VHS播放器。我手裡拿著第一盒磁帶，上面手寫著“終結者2”。我記得最清楚的是洛杉磯被核彈轟炸的場景，我驚恐地反覆倒帶觀看。後來我問大人這何時發生、誰的錯，他們笑著說別擔心。他們是對的。我長大了，終結者2不再是恐怖片而是經典，對AI的恐懼也被對人類智慧的恐懼所取代。

實際上，有什麼可怕的呢？自動化核轟炸？無人機？終結者翻拍？不，未來不是行走的殺手機器人。想想看，在遙遠的星系裡，根本沒有人工智慧，只有裝滿齒輪的機器人。而在弗蘭克·赫伯特的未來兩萬年後，創造人工智慧會被判處死刑。

但生活就在當下，人們正在逐漸失去它，因為AI太多了。有些人說要消滅它，扎克伯格則說要讓AI更努力地工作。

這裡有一個不同的觀點：你最大的錯誤是認為計算機能思考。有一個有用的詞：用詞不當。早在1945年，美國軍人將ENIAC和UNIVAC稱為“電子大腦”。從那時起就亂套了。當時沒人知道大腦如何工作，現在也沒人能完全解釋。我們有神經元，它們交織在一起，就產生了你。但當我們思考時，電流透過大腦。我們儲存記憶，但不知道如何儲存。有些人撞到頭就失憶，有些人切除一半大腦還能正常生活。

我們並不真正理解大腦如何工作。我們理解心臟如何工作，但大腦的命令來自無法控制的部分。當然，我們有神經介面，MRI掃描，但不知道如何從頭構建一個大腦。如果我們理解一個Heathkit電子管收音機，我們能修復它，重建它。這意味著我們真正理解它。但大腦呢？不，我們只有猜測。1945年我們對大腦的瞭解只有現在的10%。

因此，在這種知識水平下，有人說：“我們應該把這個東西叫做‘電子大腦’。”這是用詞不當。如果名字裡有“大腦”，那麼計算機就是大腦。於是我們有了程式設計師理解計算機，還有一群試圖複製大腦的狂熱者。

讓我們明確一些定義。首先，跳過維基百科，我們來看韋氏詞典：人工智慧的定義是電腦科學的一個分支，涉及計算機中智慧行為的模擬；或者機器模仿人類智慧行為的能力。我們不需要發明其他東西。這就是AI的定義：機器對人類行為的模仿。第一個下棋程式可以稱為AI。

機器學習：計算機透過不斷將新資料納入現有統計模型來改善其效能的過程。所以機器學習只是向統計模型新增資料。輸出是0到1之間的浮點數。如果是狗，就是0.999狗。如果是貓，就是0.998貓。使演算法更復雜，你可以教計算機玩馬里奧、疊俄羅斯方塊。

神經網路：一種計算機架構，其中多個處理器以類似於人腦神經元連線的方式互連，並能透過試錯學習。但同樣，沒有提到大腦替代品或實際智慧。

那麼作者在抱怨什麼？抱怨我們喜歡燒女巫和扮演捉鬼敢死隊。也許是因為科幻小說，或者我們遺漏了什麼，但我們開始將人類情感賦予機器。我不是說建造一個決定何時發射核彈的系統。不，我們沒那麼蠢。我們在做其他蠢事。

我們把情感和選擇能力交給了AI。每次在TikTok上滑動、Instagram上點贊、滾動Facebook資訊流，我們都在信任AI為我們選擇下一個內容。過去屬於人類決策的東西交給了計算機，因為我們無法正確處理那麼多資訊。過去有吟遊詩人、小丑、講故事的人，他們能讀懂房間氣氛。如果笑話不好笑，他們會反思並調整。而演算法不會理解你，它只想讓你在網站上停留更久。於是你看了一些奇怪影片，演算法已經得出關於好壞結論，三小時後你沉浸在動物被碾死的影片中。

不要誤解我。AI本身沒有壞處，只要你接受它是什麼：一個計算機演算法。一組尋找結果的行動序列。結果不會精確，但這就是AI的重點：從最可能正確的資料集中找到最可能正確的結果。什麼影響AI？輸入資料和模型。誰訓練模型和收集資料？人。每個裝置後面總有一個人。機器永遠不可能是新事物的原因。即使有人建造了一臺會“思考”和“創造更完美機器”的機器，也是因為有人創造了那臺製造機器的機器。

然後就是經典的槍支情景。把槍交給兩個人：一個經驗豐富的射手和一個看了黑幫電影的小孩。第一個會關上保險收好槍。第二個會開槍射什麼東西。第一人知道他手裡有什麼以及如何使用。他是負責任的。第二人會射殺鄰居的貓然後說：“不是我，它自己走火了。”更好的類比是汽車。有經驗的司機在堵車時靜靜坐著，他知道變道只會浪費時間。

所以，我們應該害怕什麼？不是AI本身，而是人類對AI的誤解和濫用。我們害怕未知，但更應害怕我們自己的愚蠢。最終，AI是一面鏡子，反映的是我們自己。