从实验到临床级AI在医疗保健中的应用

多年来，企业AI战略一直基于一个简单假设：一旦模型足够好，采用就会随之而来。然而，这一假设正在被检验，并且正在失败。模型能力按大多数标准已经到位，但基础设施、安全态势和工作流架构尚未准备好让自主系统在企业内安全运行。

这一差距的一个明显信号来自联邦政府本身。当NIST在2026年1月发布关于AI代理安全的正式信息请求（RFI）时，在2026年3月9日截止前收到了932条公众评论——这一非同寻常的响应量反映了从业者多么迫切地应对当前框架未能解决的问题。NIST自己的评估直言不讳：自主代理正被嵌入生产环境，而没有管理传统软件所需的身份管理基础设施、访问控制或审计机制，即使它们正在编写和执行代码，并在数十个集成服务中链接工具调用。

支撑这一担忧的安全数据令人警醒。在NIST内部研究引用的2025年初红队演习中，针对AI代理的新攻击策略81%的时间成功——这一失败率与底层模型的推理能力无关。

医疗保健最尖锐地说明了工作流方面的问题。向HHS国家卫生信息技术协调办公室提交的正式评论认为，数据准备、互操作性、生命周期监控和可审计性等能力是实现AI潜力同时保护患者、临床医生和机构的基础，特别是对于嵌入文档和操作工作流、影响护理但未被作为医疗器械监管的AI。

所有来源的模式都是相同的：瓶颈不是智能，而是准备就绪。

Wolters Kluwer健康部门高级副总裁兼首席技术官Alex Tyrrell在Emerj的AI in Business播客中与Matthew DeMello一起解释了为什么自主AI的成功现在取决于现代化企业基础设施、安全态势和工作流架构，而不是改进模型性能。

本文考察了三个洞见，阐明了为什么自主AI的采用受限于企业准备度而非模型能力。

基础设施准备度作为门槛因素

Alex指出，自主系统不会因为模型弱而失败——而是因为企业栈是为人为节奏、基于屏幕的工作流构建的。自主AI消除了这种摩擦，暴露了以前隐藏的架构弱点。最大的制约因素不是创新欲望，而是技术债务：单体应用、脆弱的API、粗粒度的权限和为人操作员设计的运营工具。当代理开始以机器速度执行任务时，这些弱点成为系统性障碍。

他强调了现代化基础设施的几个实际步骤：将单体分解为模块化、可观测的组件；重新设计API以实现细粒度、最小权限访问；为机器驱动的流量峰值设计基础设施；现代化可观测性和监控；以及为代理加强身份和访问控制。

领域适配推理作为自主性能的引擎

Alex认为，企业持续低估了代理可靠运行所需的领域适配量。现成的模型只是起点；一旦进入真实工作流，就必须通过监督指令、微调、低秩适配和动态思维链进行重塑，直至反映专业人员的推理模式。这是企业真正的差异化所在。

他描述了领域适配如何从根本上改变模型：一个前沿基础模型经过多次领域适配后，看起来与最初完全不同。代理工作流的本质要求将任务分解为推理单元，有时比人类更细，有时合并多个步骤。领域专家成为代理推理的脚手架。多模型系统成为常态，动态思维链必不可少，可解释性来自细粒度。

自主安全态势作为新的企业要求

Alex最后强调，一旦代理开始行动，安全假设不再成立。攻击面扩大，身份模型改变，合规框架必须演变以解释机器驱动行为。安全是代理从实验到生产时遇到的第一个限制。身份、权限、可审计性和可观测性都必须为自主行动者重建。

他还指出，威胁参与者现在也受益于相同的生成能力，使攻击更难检测、更易扩展、更具适应性。企业必须重新思考如何验证代理身份、监控代理间通信，并在HIPAA、SOC 2、ISO等框架下保持合规。

Alex最尖锐的观察是当代理取代人类点击时，传统运营信号如何崩溃：“尖峰从哪里来？这个错误从哪里来？可观测性、监控——这是一个挑战，所以你必须适应。”

总之，从实验到临床级AI的转变需要企业优先考虑基础设施现代化、领域适配推理和自主安全态势。只有这些要素到位，AI才能真正从概念验证走向安全、可靠的临床应用。