担心AI？来，给你更多AI

上个月，Anthropic预告了其尚未发布的AI模型Mythos，该公司警告称，该模型在发现和利用从操作系统、网页浏览器到工业软件和医疗平台的安全漏洞方面异常擅长。这一消息在企业界引发了恐慌，也让政府官员警觉至今。目前Mythos仅限可信合作伙伴使用，但专家担心，成本更低、更广泛可用、保护措施更少的类似模型将在数月后出现。这可能引发网络安全噩梦：无数有价值的计算机系统成为新晋黑客的轻松目标。Anthropic当时表示，坏消息是，像Mythos这样的工具可能导致网络安全“动荡期”；好消息是，“历史上安全工具更有利于防御者”，“最终同样会如此”。换言之，Mythos令人恐惧，但别担心——Mythos也能提供帮助。

不久后，OpenAI发布了其模型更新，据多项指标显示，该模型同样能够发现并利用新漏洞。其领导者也谈到赋能“防御者”，使他们能在数字基础设施中更快发现和修复问题。与Anthropic仅与选定的合作伙伴共享Mythos不同，OpenAI更像是在推销：该公司本周暗示，在AI网络安全末日中求生的最佳方式是投资AI网络防御——而这他们恰好可以提供。

这种情况下的风险或许异常鲜明且明确，但其中的动态模式却很熟悉。随着AI模型能力更强、更多人可用，它们制造了只能用更多AI才能缓解的问题。2023年，AI生成的冗长邮件已需要AI来摘要；如今，在鼓励采用AI的工作场所，员工正使用新工具处理大量“工作废料”。充斥着合成图像和视频的互联网呼唤新的AI验证工具；程序员用AI代理生成难以追踪的代码，又用AI代理审计；廉价AI内容淹没搜索引擎，而解决之道是用AI将搜索引擎变成摘要工具。这正是新“代理型”在线经济的基本逻辑：消费者端更强大的AI代理将迫使企业端也使用AI代理，反之亦然。

这既非阴谋，也不是本次技术浪潮的特例。新技术常创造新颖的、未预见的、大量的劳动力或物品需求，或分布于整个经济中，或集中在新兴产业。个人电脑的兴起为黑客提供了巨大攻击面，从而催生了大量网络安全工作并售出大量杀毒软件。更广泛地看，在互联网时代，网络安全已成为各类大型机构和公司内部或外包处理的事务。软件催生更多软件，淘汰了一些工作，改变了一些工作，也创造了大量新工种。

关于AI的另一大担忧——就业流失——这些先例提供的比“白领工作即将消失”的说法更令人安慰。你可能常听到技术人士提起杰文斯悖论：更高效的蒸汽机导致煤需求增加；更高效的灯泡并未减少能源需求，而是导致使用更多灯；更高效的软件开发将产生更多、更广泛的软件，而非开发者需求崩溃。同样，但更具对抗性的是，如果黑客变得更高效，可行且经济的目标列表会大幅扩展；同时，网络防御变得更易获取，这些目标突然发现自己需要新的网络安全服务。在这个时期，“攻击者”还是“防御者”占上风，以及能持续多久，仍是开放问题。但根据这一相对乐观的叙事，AI网络安全末日以及经济对其的反应，在这个过程中可能产生巨大的需求和新种类的人类工作。

然而，到2026年，这种技术乐观主义更难坚持，因为目前看来，极少数超大规模公司似乎定位要捕获所有上行空间。前沿模型确实在创造未预见的、大量的新服务需求，但这些服务恰好是前沿实验室最能提供的（例如，AI公司组建内部咨询机构，向陷入AI采用困境的客户公司派遣“前线工程师”，虽创造了新的岗位，但保持在内部）。这是新“行业”的后果——该行业实际上由五家公司组成，其中三家可信地接近前沿，而它们——无论是科技巨头（谷歌、Meta）、初创公司（OpenAI、Anthropic），还是个性化商业帝国的分支（SpaceXAI）——都以某种方式成为万亿美元级企业。这些公司承诺重塑经济的大片领域，同时进行高度显眼的垂直整合。这不理想！

对AI公司来说一切挺好：如果事情发展到这一步（在一个极其年轻、不可预测、投机的行业中远非确定），它至少描绘出一条摆脱史无前例的资本支出和债务的路径。对其他人而言，这种模式开始令人感到有点窒息。新的AI能力到来，威胁着使现有系统饱和至无用，或迅速破坏例如本已脆弱的网络安全平衡。你被告知，处理这些后果的唯一方法是使用AI来修复，而AI正变得越来越贵。在众多民调中，公众对一种似乎被窄控且激进部署的技术表达了不适和担忧。目前正竞相尽快采用AI的美国工业，是否也开始感到有点被困住了？