硅谷对AI的误解

在一次晚宴上，一位AI实验室的人直白地问我，为什么我要做我现在做的事——写关于医疗进步中监管瓶颈的文章，花时间研究临床试验相关的政策。他看着我，带着一种近乎怜悯的表情。我告诉他我的信念：在AI时代，医学将比以往任何时候都更受到监管和临床实验繁琐过程的制约，而投入数十亿资金加速临床前研究并不能触及这个问题，尽管它并不引人注目。我提到了住房问题：几十年来我们一直有建造更好住房的技术，但住房却比以往更贵，因为住房问题关乎政治意愿，而非纯粹的能力。他难以置信地看着我。显然，像我这样聪明的人应该知道，AI，或者更确切地说，通用人工智能（AGI）很快就会变得极具说服力——它在多个基准上已经超过了专业辩论者的说服力。我说：“嗯。”他说：“是的，是的，”语气中带着一种对事物有深刻了解的人的口吻，仿佛像我这样的凡人，不是AI实验室的员工，根本不可能理解。那晚我辗转反侧，怀疑自己是否做错了每一个决定。我能做得更好吗？但随着太阳升起，我重新找到了支撑我的想法：无论AI变得多么“智能”，在现实世界中，智能往往不是改变事物的主要瓶颈。当比你聪明、掌握特权信息的人坚持反对时，很难坚守这个信念。但我还是坚持我的看法。因为这些实验室的人曾凭借看似疯狂的想法赚得盆满钵满，现在世界几乎对他们的每一句话都深信不疑。我认为这是一个错误。AI未必能解决大多数人真正关心的问题，包括医疗，除非我们清晰地思考这些问题。而目前，我认为我们并没有做到——至少没有达到应有的程度。我的论据很简单，来自两个方面。一是对旧金山社会动态的观察，以及那里的人们对这一切的谈论方式。二是我在一个我恰好有所了解的领域——医学——中注意到的东西。AI在医学中的局限经常被用来证明AI风险合理性的一个承诺是，它将“治愈疾病”。每位大型AI实验室的CEO都这么说，投资者似乎也同意：任何带有AI故事的生技初创公司都能获得可观的估值，而传统生技公司却在资金困境中挣扎。但我一直认为，这项事业受到许多与“智能”无关的因素的制约，而这一点常常被忽视，令人费解。如果我们将科学进步视为智能的粗略代表，并询问它是否单独就能解除瓶颈，证据无处不在。以伊隆定律为例：每美元研发投入所批准的新药数量几十年来一直在下降，即使我们的科学工具变得比以前强大得多——这与更多原始能力存在所预测的正好相反。或者以Adaptimmune公司为例，该公司已将两种革命性疗法推向市场，针对罕见癌症，但由于开发成本高昂，仍在为生存而挣扎。生物制药领域的一大瓶颈是临床试验，如今每个药物平均耗时约七年，花费超过十亿美元。而试验并不仅仅是形式。它们恰恰生成了最初可以训练更好模型的数据：人类数据，这是不可替代的。我们有大量证据表明，更快的临床试验对生物医学创新非常重要，无论是直接还是间接（通过增加行业从业者的风险偏好，并通过快速反馈循环帮助更好地调整激励）。这包括扎实的经济学论文表明，在所有其他条件相同的情况下，缩短试验时间会大幅增加对某个疾病领域的投资，以及中国的自然实验。中国正威胁要在生物技术领域超越美国，中国生物技术公司已占西方大型制药公司许可交易的一半以上。仅仅十年前，这一比例还是零。这一转变发生在中国基础科学仍然较弱的情况下，主要是由于监管改革允许使用人体数据进行更快的迭代学习。临床试验可以变得更短、更丰富、更好，包括借助AI。我特别看好替代终点和生物标志物，AI可以将一个药物是否有效的离散、粗糙的读数转化为快速、连续的读数。这反过来将极大优化试验。对于某些适应症，如果找到合适的替代终点，试验可能快10倍、便宜10倍。这甚至还没有考虑优化试验但不一定缩短的好处：想象一下，拥有正确的生物标志物，在早期就能告诉你治疗是否有效。但即使在这里，约束条件也不完全是智能。通常，是治理问题。我一直在与试图构建这些生物标志物的公司交谈，他们反复遇到的问题是获取底层数据有多难。有些公司已经等了一年，等待美国国立卫生研究院发布他们可以用来生产更好生物标志物的影像数据集。如果需要与食品药品监督管理局（FDA）互动来验证其终点，情况更糟：我之前写过，骨质疏松症试验中使用骨密度作为替代终点的验证花了12年！尽管支持数据已经完全存在，而且所做的分析基本上是回归分析。当AI领域的人接触医学中的监管和治理时，往往显得相当肤浅。我多次看到这样的论点：因为大多数药物因缺乏疗效而失败，所以监管不能解释过去几十年与基础科学相比医学进步的放缓：毕竟，批准更多无效药物无济于事。这种分析表面上听起来正确，但事实并非如此。当人们谈论监管在减缓生物医学进步中的重要性时，他们很少是指最后的批准决定。而是指整个上游过程：人体数据如何容易被收集，以及一旦收集，如何容易被使用。我对临床试验最了解，但这不是治理和政策减缓进步的唯一领域。另一个例子与我们的专利制度结构如何影响药物创新有关。在生物医学中，我们有一个称为“靶点聚集”的问题：大多数公司追逐相同的生物靶点，因为这些靶点风险较小，意味着我们对生物空间的探索比可能的要少得多。看清这一点最清晰的方式是通过风险。药物发现中有两种风险。靶点风险捕捉生物不确定性：这种蛋白质是否与疾病因果相关，击中它是否能在没有不可接受毒性的情况下帮助患者？分子设计与优化风险是下游问题，取决于靶点：针对已知靶点设计一个新分子，并提高效力、选择性、安全性以及其他许多特征。这主要属于化学领域，本质上更容易预测；给定一个经过验证的靶点，好的团队通常能得到一个不错的分子。专利制度进一步阻止公司承担靶点风险，因为它奖励新的化学物质，而不是新的生物学。物质组成是大多数专利保护的内容。这指的是一个具体的分子，这意味着它们不保护“一个靶点值得药物化”的洞察。验证新靶点（并隐含地发现新生物学）的人承担了巨大的靶点风险，但由于专利制度的设计，无法获得回报：一旦首创药物发布了令人信服的临床数据，靶点得到验证，这种验证基本上是公开的。然后竞争者们针对同一个风险降低的靶点设计不同的分子，每个快速追随者都获得自己的强专利。因此，公司最终堆积在已被证明的靶点上，而不是验证新靶点，所以我们获得了一波又一波针对同一类生物学的药物。具有讽刺意味的是，获得最大融资的AI生物学公司主要针对同一个已得到良好服务的分子优化问题。例如，Chai Discovery——估值为38亿美元，按早期生物技术标准是巨大的——和Isomorphic Labs都是分子优化引擎：它们更快、更准确地设计化合物。这很好，但正如我和其他人之前所说，扩大已验证靶点的前沿对社会整体更有价值。然而，这正是专利制度不激励的部分。结果证明，即使是AI驱动的公司最终也是对经济和法律激励做出反应！我怀疑同样的原则也适用于医学之外。扩散是困难的，一项技术在经济中传播的速度并不完全、甚至主要取决于其底层进步的原始速度。能力存在与能力被机构吸收，并转化为人们关心的结果不是一回事。而且有广泛的证据表明这一情况。环顾当今世界，人们可能会注意到它奇怪地未改变。大型语言模型可以生成代理并编写复杂的应用程序，但像客户服务这样平凡的事情仍然没有被很好地自动化。事实上，往往是自动聊天机器人成为体验中最差的部分。GDP上升了，这很好，但并没有大幅上升。而且，尽管一再警告末日来临，初级工作似乎基本完好，甚至还在增加。对许多人来说，这是令人惊讶的。就在前几天，我在一个会议上，有人评论说，如果他几年前能看到今天的AI能力，他会感到惊讶——并会假设世界现在看起来会大为不同，GDP增长会高得多。这是一个新鲜的观察。但实际上，之前已经有人提过，对于那些思考现实世界扩散障碍的人来说，整个轨迹是可以预测的。我记得2023年的一个进步会议（Progress Conference）上，经济学家泰勒·考恩（Tyler Cowen）向满屋子被AGI影响的人提出了这个论点，许多人简直无法相信。他提出，能力会比它们所产生的变化来得更快；GDP增长将相对于炒作令人失望，并且不会有大规模的工作岗位流失。到目前为止，数据似乎证实了他的观点。预见这一点的人对摩擦有更好的感觉——技术实际上会多么缓慢和不均匀地扩散到世界中。奇怪的是，充满异常聪明的人的旧金山核心科技圈似乎没有这种感觉。为什么这么多聪明的人都有这个盲点？单一文化的形成我的观点是，旧金山的某些社区（我将其称为“SF人”，尽管我并非指所有人乃至大多数人）已经变得近乎单一文化，这种单一文化有两个强化特征。第一，质疑AGI是否具有完全变革性——至少不能靠自身——已经变得真正低地位。那些早期判断正确AI潜力的人赚取了财富和地位，现在世界几乎对他们的每一句话都深信不疑。挑战这个叙事会让你被视为落伍者或反进步。第二，硅谷的乐观主义文化导致了对现实世界摩擦的系统性低估。人们生活在一个日益由软件组成的、可预测和可控的泡沫中，忘记了物理世界、人类机构和监管过程的顽固性。我在宴会上遇到的那位AI研究员，他真诚地相信AGI会通过其说服力解决一切问题，包括住房和医疗。但他没有意识到，说服力本身无法更改产权法、建筑规范或临床试验的伦理要求。这些是需要政治和社会变革的领域，而AI无法单独解决它们。我的结论是：我们需要对AI保持谦逊，认识到它的局限性，并专注于解决那些真正阻碍进步的问题，而不是仅仅等待智能的奇迹。