擔心AI？來，給你更多AI

上個月，Anthropic預告了其尚未釋出的AI模型Mythos，該公司警告稱，該模型在發現和利用從作業系統、網頁瀏覽器到工業軟體和醫療平臺的安全漏洞方面異常擅長。這一訊息在企業界引發了恐慌，也讓政府官員警覺至今。目前Mythos僅限可信合作伙伴使用，但專家擔心，成本更低、更廣泛可用、保護措施更少的類似模型將在數月後出現。這可能引發網路安全噩夢：無數有價值的計算機系統成為新晉駭客的輕鬆目標。Anthropic當時表示，壞訊息是，像Mythos這樣的工具可能導致網路安全“動盪期”；好訊息是，“歷史上安全工具更有利於防禦者”，“最終同樣會如此”。換言之，Mythos令人恐懼，但別擔心——Mythos也能提供幫助。

不久後，OpenAI釋出了其模型更新，據多項指標顯示，該模型同樣能夠發現並利用新漏洞。其領導者也談到賦能“防禦者”，使他們能在數字基礎設施中更快發現和修復問題。與Anthropic僅與選定的合作伙伴共享Mythos不同，OpenAI更像是在推銷：該公司本週暗示，在AI網路安全末日中求生的最佳方式是投資AI網路防禦——而這他們恰好可以提供。

這種情況下的風險或許異常鮮明且明確，但其中的動態模式卻很熟悉。隨著AI模型能力更強、更多人可用，它們製造了只能用更多AI才能緩解的問題。2023年，AI生成的冗長郵件已需要AI來摘要；如今，在鼓勵採用AI的工作場所，員工正使用新工具處理大量“工作廢料”。充斥著合成影像和影片的網際網路呼喚新的AI驗證工具；程式設計師用AI代理生成難以追蹤的程式碼，又用AI代理審計；廉價AI內容淹沒搜尋引擎，而解決之道是用AI將搜尋引擎變成摘要工具。這正是新“代理型”線上經濟的基本邏輯：消費者端更強大的AI代理將迫使企業端也使用AI代理，反之亦然。

這既非陰謀，也不是本次技術浪潮的特例。新技術常創造新穎的、未預見的、大量的勞動力或物品需求，或分佈於整個經濟中，或集中在新興產業。個人電腦的興起為駭客提供了巨大攻擊面，從而催生了大量網路安全工作並售出大量防毒軟體。更廣泛地看，在網際網路時代，網路安全已成為各類大型機構和公司內部或外包處理的事務。軟體催生更多軟體，淘汰了一些工作，改變了一些工作，也創造了大量新工種。

關於AI的另一大擔憂——就業流失——這些先例提供的比“白領工作即將消失”的說法更令人安慰。你可能常聽到技術人士提起傑文斯悖論：更高效的蒸汽機導致煤需求增加；更高效的燈泡並未減少能源需求，而是導致使用更多燈；更高效的軟體開發將產生更多、更廣泛的軟體，而非開發者需求崩潰。同樣，但更具對抗性的是，如果駭客變得更高效，可行且經濟的目標列表會大幅擴充套件；同時，網路防禦變得更易獲取，這些目標突然發現自己需要新的網路安全服務。在這個時期，“攻擊者”還是“防禦者”佔上風，以及能持續多久，仍是開放問題。但根據這一相對樂觀的敘事，AI網路安全末日以及經濟對其的反應，在這個過程中可能產生巨大的需求和新種類的人類工作。

然而，到2026年，這種技術樂觀主義更難堅持，因為目前看來，極少數超大規模公司似乎定位要捕獲所有上行空間。前沿模型確實在創造未預見的、大量的新服務需求，但這些服務恰好是前沿實驗室最能提供的（例如，AI公司組建內部諮詢機構，向陷入AI採用困境的客戶公司派遣“前線工程師”，雖創造了新的崗位，但保持在內部）。這是新“行業”的後果——該行業實際上由五家公司組成，其中三家可信地接近前沿，而它們——無論是科技巨頭（谷歌、Meta）、初創公司（OpenAI、Anthropic），還是個性化商業帝國的分支（SpaceXAI）——都以某種方式成為萬億美元級企業。這些公司承諾重塑經濟的大片領域，同時進行高度顯眼的垂直整合。這不理想！

對AI公司來說一切挺好：如果事情發展到這一步（在一個極其年輕、不可預測、投機的行業中遠非確定），它至少描繪出一條擺脫史無前例的資本支出和債務的路徑。對其他人而言，這種模式開始令人感到有點窒息。新的AI能力到來，威脅著使現有系統飽和至無用，或迅速破壞例如本已脆弱的網路安全平衡。你被告知，處理這些後果的唯一方法是使用AI來修復，而AI正變得越來越貴。在眾多民調中，公眾對一種似乎被窄控且激進部署的技術表達了不適和擔憂。目前正競相儘快採用AI的美國工業，是否也開始感到有點被困住了？