不可治理的人工智能官僚主义时代
本文探讨了人工智能如何催生了一种新的、难以问责的官僚主义。作者认为,AI系统虽然擅长处理日常事务(如整理邮件、报销),但其本质是程序化的官僚,缺乏真正的目标和责任感。随着AI在企业和政府中广泛应用,它可能创造出更复杂、更难以摆脱的官僚体系,而人类却无法像对待人类官僚那样对其进行监督或解雇。
文章情报
要点
- AI的“产品市场契合”在于处理日常琐碎的官僚事务,但同时也带来了新的、不可治理的官僚主义。
- AI模型被训练得谨慎规避风险,导致越来越多的拒绝和千篇一律的输出。
- 企业使用AI加剧了内部“工作废料”的生成,且难以衡量实际价值。
- AI的不可预测性和缺乏问责性,使得问题出现时无人负责。
为什么重要
这条新闻值得关注,因为AI的“产品市场契合”在于处理日常琐碎的官僚事务,但同时也带来了新的、不可治理的官僚主义。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
2026年5月29日
我很遗憾地率先告诉你,如果你还没注意到,人类正处于历史上最庞大、最快速的资本积累过程中,正在建设世界上最大且最不负责任的IT部门。
听拥护者说,AI好得惊人,超级智能已经来临。在家教育的妈妈们仁慈地忽视孩子,让他们接受由8000美元Mac工作室驱动的OpenClaw课程,而Y Combinator总裁兼浴缸爱好者Garry Tan则用AI编写的GBrain(恰如其名)替换了整个大脑。
与此同时,大空头投资者Michael Burry在质疑,一些先驱(Yann LeCun、Gary Marcus)暗示LLM技术存在天花板。一位作家威胁要谋杀任何使用AI写作的人。
现实更为平淡:我们迎来了一个异化官僚主义的时代。这个时代将与以往的官僚时代不同,但它确实是官僚主义:非同寻常、加速且令人抓狂。硅谷花了60年扮演“坏小子”,拥有“无视规则”的心态。讽刺的是,它增长最快、最有价值的产品竟是终极的、不负责任的官僚。
AI具有每一种官僚主义本能:热爱流程、重复模式和线路、缺乏对目标和目的的真正理解。然而,与人类官僚不同,模型无法被提升、羞辱或升级。它只能被反复提示。一次又一次。
生活已经充满平凡的官僚主义
在AI拥趸把我赶出房间之前,“官僚”一词并非贬义。AI真正的、诚实的市场契合价值深深植根于日常生活中平凡的官僚元素。对于一群问“OpenClaw能为我做什么”的人,回应是史上增长最快的代码库:它能阅读和总结我的邮件,谢天谢地,终于来了。
这是特点,不是缺陷。
官僚主义是将混乱体验转化为可管理列表的过程。它驱动我们日常生活的细节:收据、收件箱、医疗记录、保险索赔和待办事项列表。
哇,我们就像召集了一个极其昂贵的、星际间的外星联合国来入侵我们生活的每个角落。
消费者现在有了一个“像金毛犬一样热情、像闪电侠一样迅速的实习生”,集体回收数百万个微小时刻。待办事项列表和电子邮件收件箱,井井有条。费用报告,提交了!医疗记录和保险索赔,研究和处理了。甚至税务也可以优化!谢谢,小小的数字助手!
同样,公司一直囤积大量无用之物。每个人都知道撰写无人阅读的周报那种特别令人沮丧的本质。这些报告构成了公司内一个普遍接受但从未承认的神话的支柱:大多数人在9-5时段(Z世代则是11-3)打酱油,没人想惹事或仔细查看。
初级工作被转化为中层管理工作,在合适的论坛“呈现”,然后提炼成要在高管离岸会议上争论数小时的要点。一次又一次。将初级员工的工作摆在老板面前要么是晋升的权力游戏,要么是想让某人被炒。
哎呀。AI现在已经彻底暴露了这一点。你的每一份文件、你的贡献和笔记?被摄取和总结。层层叠叠的政策和指南:AI可以起草文件供检查、遵循、审查和分享。
Palantir和OpenAI之流已经猛击官僚主义。它不再是移植Montana的Bill维护的古老软件(是Windows 1998 COBOL商业逻辑)的障碍——GPT 5.5只需2小时就能完成,测试并运行。
有能力的执行者和高代理个体在欢呼——理由充分。无形的组织管道正在暴露,他们被赋能。“你只管做就行。”当前令人兴奋的激励和惊人的估值推动着这一点:使用更多智能。TOKENMAXX!否则你就落后了。反官僚主义者,联合!
他们欢呼得太早了。
在小范围内有效的做法在规模上变得不可行:AI不知道什么重要,它会默认将一切视为默认流程。
任何见过Claude未来模型Mythos输出的人都能证实——无情的官僚正在向你而来:你的内存泄漏、你未探索的Unicode边缘情况。讽刺的现实是,给予LLM对规则集的自由支配权会暴露人类永远想不到的风险。
一旦暴露,风险就变成股东和法律责任。公司知道它们,因为Mythos告诉了它们。证券欺诈(一切都是证券欺诈!)。顾客可以起诉。人们的数据可能被黑客攻击。
现在每个人都争先恐后地相互踩踏,试图尽可能快地产生工作废料,而与之斗争的人则试图削减它。在硅谷的软件公司中,许多已经裁员20%,刀子出鞘:设计师在编程界面,工程师在设计,产品经理两者都做。每个人都带着同样的心态“我们本来就不需要那些其他职能合作伙伴”(用户研究员和文案写手都被解雇了)。在一项匿名在线调查中,近90%的大型科技员工表示新模型产生了更多工作废料。70%的人表示“很多”。这意味着内部军备竞赛正在升温:更好的模型,更多的工作废料,更少的问责,以及每月5亿美元的代币账单,价值存疑。
这个循环的结果体现在我们的日常生活中:以前始终在线、坚不可摧的系统多次崩溃:GitHub、Cloudflare、AWS。几乎可以肯定是因为工作和“氛围废料”。
你是否注意到你的生活变得更好了?
东西并没有更便宜,我的软件和小工具似乎完全没变得更快、更好或更便宜。
有理由相信问题具有结构性。
上周我给Codex一个目标:创建付费内容生产管道,用于我制作的一些付费内容。在此过程中,我让GPT 5.5 Pro检查其工作并在发现问题时提出。目标是达到零个良好范围界定的p0和p1。毫不夸张,48小时后它仍在打磨越来越小的边缘用例。
如果你是处理数万亿美元交易收入的Amazon.com,这种不懈打磨正是你想要的。但作为消费者,我的“推送到生产”变成了一个怪物般的3小时过程,包含无用的CI/CD操作和类型检查。
即使你承认这些检查是好的,Claude Mythos预览结果也表明这还不够。某个地方会有一个内存或逻辑跳跃可供利用以获取root权限。对于几乎任何人来说,你完全陷入困境。
尽管GPT 5.5发布不到1个月,而Hermes、OpenClaw和LLM智能的“让代理决定”时代甚至不到6个月,但没有迹象表明更好的东西即将到来。Polsia的零人力公司?骗局。除了那些获得数百万点赞、声称得到OpenAI和Anthropic大力补贴的虚荣X帖子(“我的ChatGPT Pro订阅已经回本了!”),现实世界的价值尚未出现。
让我们希望在未来12-18个月内随着新模型发布而改变。
壳中的官僚
但早期模型的自由度已被系统地侵蚀成功能性官僚主义。LLM模型架构在功能上是官僚主义的。使用过这些工具的人都知道——LLM在特定领域(如编码)中猜对路径相当不错,但对目的毫无概念。
不必如此,但硅谷公司如此编程了它。模型学会了谨慎,首先避免一切伤害。新员工开始时充满能量。然后公司磨灭它。模型也是如此。数百万轮负面反馈训练出了终极公务员:从不越界,从不冒险。
技术实现是你不控制的10000行系统提示,在你的文字触碰到模型之前加载;数百个且不断增加的安全检查;以及根据特别阻止错误类型独立判断的校准规则实时评分。你是否遇到过AI处理你的答案,最后却说“抱歉,我无法帮助”?这就是正在发生的。反幻觉训练进一步推动模型进入官僚主义:这是一个LLM无法逃脱的黑洞。
结果是拒绝增加,以及每个人在其领域似乎都理解的相同温吞的“废料”。Claude、Gemini和ChatGPT经常以奥威尔式的理由拒绝你的请求。它们可能是在人类历史上最大的盗版IP劫案上训练的,但绝无可能让你得到其中一些。
别眨眼,但你得到的是预期结果。规避、阿谀奉承、平淡地拒绝做你真正想做的事:这就是一个不可治理、不负责任的官僚在被教导道歉时的所作所为。
我最近遇到了OpenAI安全团队的问题,由于IP问题导致我的Codex订阅和Hermes代理被登出。与一个“人”来回12封邮件后,没有任何进展——只有一个链接,未能让我更接近解决问题。只是无限循环的“我理解你的问题,这是我们的政策。”当然,极致的智能。
进入没有老板的官僚
这一切的幽默在于,LLM本身是不可治理的。Anthropic的宪法必须通过某种数据科学家哲学家的降神会从潜在空间中捞出来,模型在那里生成下一个token。LLM输出是概率性的——对于非平凡的输出,你无法得到相同的结果。
最深层的问题是问责。一个LLM,尽管有所谓的智能,既不能被信任也不能被追责。官僚机器依赖于责任链和流程,但最终总有一个人。AI打破了这条链:“模型建议的”或“模型实施的”成为推诿之词。“检查模型”很快将成为可笑的任务——类似于要求某人“检查智能手机电路”当它出错时。员工点击了批准;客户感受到了痛苦。没有人负责。
政府官僚以难以解雇和控制而闻名。但最终,有人,以某种方式能够做到。在工作之外,人们至少可以通过内疚和羞耻迫使他们承担一些责任。
但我们欢迎进入我们中间的AI智能体则不然。在我们不知情的情况下,企业可能正在引入全新的官僚形式,而它们自己将无法解开,一切都是为了“效率”和“生产力”。
工作废料和当前AI的现实是,在更安全的系统、更多共享上下文和减少平凡工作方面存在真正价值。但要点错过了进步的实际意义——冒险、行动和集体精神,它们真正推动前进并与未知互动,无论发生什么。
人类建造AI是为了逃离官僚主义,追求更“人性化”的愿望。然而,迄今为止,我们却建造了完美的官僚,它快速运行我们的官僚主义,然后创造出自己复杂且不可治理的机器官僚主义来取代它。
当我们厌倦官僚时,将没有人可解雇。