對AI人人都同意卻令人沮喪

關於人工智能的討論長期處於狂熱狀態，每個人都有自己的看法。令我沮喪的是，我不僅能夠理解所有人，而且在某種程度上，我內心同時持有所有主要立場。我發現自己矛盾重重，支離破碎。

我同意加速主義者的觀點。我曾短暫使用過一個開源智能體編程工具，以每秒1000個token的速度調用中國頂尖模型——那感覺就像藥物直接注入血管。27年前，我在CyberLife公司研究人工生命時，就試圖做同樣的事，只是時機早得多。創造可以是美好的、温暖的、充滿目的性的。有疾病需要治癒，氣候模型需要優化，軟件需要為每個人量身定製。

我同意藝術家的觀點。我們的作品全被偷走，被混搭成世界文化遺產的平庸大雜燴。我比任何人都更激進——我認為模型權重是對訓練數據的衍生作品。勝出的是權力，不是規則，因為權力總會贏。沒有對AI生成藝術的無情否定，我們就無法在藝術中保留人類情感。每一個細微之處都需要編輯和策展。我關心藝術中的人類情感。

我同意民族主義者的觀點。我看到美國政府突然宣佈一款強大的新模型僅對美國公民開放，這讓我反胃。當歐盟委員會回應稱歐洲需要AI“技術主權”時，我深感共鳴。這是一場競賽。

我同意末日論者的觀點。看着PauseAI組織，我想：是的，這項技術可能造成傷害——存在性傷害。即便不是當前架構的擴展，也會在未來十年或下個世紀通過其他技術實現。必須監管，必須簽署國際條約。這就像核武器，但不僅受政府主導加速，還受商業價值驅動。

我同意開放主義怪人的觀點。自1997年起我就熱愛開源軟件。因此，當看到開源模型能公平競爭時，我已經在軟件領域見證了這一幕。儘管有問題，我仍然同意。隨着模型越來越好，我們卻被限制在少數提供商手中，權力集中在少數人手裏，這越來越糟糕。

（我猜我並不真正同意那些因水資源或能源消耗而反對數據中心的人——因為這些問題可以通過正確的基礎設施解決。其他的問題主導了這些鄰近問題，儘管我是環保主義者。反對數據中心有更強大的理由。）

……深呼吸……

是的，這一切都矛盾。它支離破碎。開源模型對末日論最不利，AI主權與暫停相反，保護藝術家作品阻礙加速。一切都不協調。

為什麼我成了矛盾的碎片？

因為所有論點都是對的，但哪個最對取決於接下來發生什麼。

如果我們在S曲線的頂端，AI能力停滯不前，只有幾個成本翻倍的10%改進……那麼是的，讓我們推廣它，讓它對所有人開放，監管日常風險，消除所有問題，獲得所有好處。無法阻止資本主義，但可以把它做對。

如果AI變得極其強大，但不知何故沒有自己的“權力意志”，那麼我想待在一個大型帝國中，它為了我的利益控制其使用。對國防的後果是令人崩潰的、難以想象的。軍事加速無法忍受。但如果你選擇退出呢？那很糟糕。

如果AI不僅更強大，而且我們失去控制，這些異類心智開始大規模行動，以我們無法集體或個別控制的方式運作。它會擴散，要麼像惰性癌症一樣吞噬我們的文明，要麼像有意的克蘇魯怪物一樣粗心且故意地摧毀一切。

而沒有人知道會發生什麼。

我有點累了，同時對AI話題的每個帖子表示同意和不同意。

僵住了。

我想我會給我的議員發郵件，要求對AI開發者造成的嚴重傷害追究責任。這似乎是一個不錯的下一步。