对AI人人都同意却令人沮丧

关于人工智能的讨论长期处于狂热状态，每个人都有自己的看法。令我沮丧的是，我不仅能够理解所有人，而且在某种程度上，我内心同时持有所有主要立场。我发现自己矛盾重重，支离破碎。

我同意加速主义者的观点。我曾短暂使用过一个开源智能体编程工具，以每秒1000个token的速度调用中国顶尖模型——那感觉就像药物直接注入血管。27年前，我在CyberLife公司研究人工生命时，就试图做同样的事，只是时机早得多。创造可以是美好的、温暖的、充满目的性的。有疾病需要治愈，气候模型需要优化，软件需要为每个人量身定制。

我同意艺术家的观点。我们的作品全被偷走，被混搭成世界文化遗产的平庸大杂烩。我比任何人都更激进——我认为模型权重是对训练数据的衍生作品。胜出的是权力，不是规则，因为权力总会赢。没有对AI生成艺术的无情否定，我们就无法在艺术中保留人类情感。每一个细微之处都需要编辑和策展。我关心艺术中的人类情感。

我同意民族主义者的观点。我看到美国政府突然宣布一款强大的新模型仅对美国公民开放，这让我反胃。当欧盟委员会回应称欧洲需要AI“技术主权”时，我深感共鸣。这是一场竞赛。

我同意末日论者的观点。看着PauseAI组织，我想：是的，这项技术可能造成伤害——存在性伤害。即便不是当前架构的扩展，也会在未来十年或下个世纪通过其他技术实现。必须监管，必须签署国际条约。这就像核武器，但不仅受政府主导加速，还受商业价值驱动。

我同意开放主义怪人的观点。自1997年起我就热爱开源软件。因此，当看到开源模型能公平竞争时，我已经在软件领域见证了这一幕。尽管有问题，我仍然同意。随着模型越来越好，我们却被限制在少数提供商手中，权力集中在少数人手里，这越来越糟糕。

（我猜我并不真正同意那些因水资源或能源消耗而反对数据中心的人——因为这些问题可以通过正确的基础设施解决。其他的问题主导了这些邻近问题，尽管我是环保主义者。反对数据中心有更强大的理由。）

……深呼吸……

是的，这一切都矛盾。它支离破碎。开源模型对末日论最不利，AI主权与暂停相反，保护艺术家作品阻碍加速。一切都不协调。

为什么我成了矛盾的碎片？

因为所有论点都是对的，但哪个最对取决于接下来发生什么。

如果我们在S曲线的顶端，AI能力停滞不前，只有几个成本翻倍的10%改进……那么是的，让我们推广它，让它对所有人开放，监管日常风险，消除所有问题，获得所有好处。无法阻止资本主义，但可以把它做对。

如果AI变得极其强大，但不知何故没有自己的“权力意志”，那么我想待在一个大型帝国中，它为了我的利益控制其使用。对国防的后果是令人崩溃的、难以想象的。军事加速无法忍受。但如果你选择退出呢？那很糟糕。

如果AI不仅更强大，而且我们失去控制，这些异类心智开始大规模行动，以我们无法集体或个别控制的方式运作。它会扩散，要么像惰性癌症一样吞噬我们的文明，要么像有意的克苏鲁怪物一样粗心且故意地摧毁一切。

而没有人知道会发生什么。

我有点累了，同时对AI话题的每个帖子表示同意和不同意。

僵住了。

我想我会给我的议员发邮件，要求对AI开发者造成的严重伤害追究责任。这似乎是一个不错的下一步。