人工智能如何重塑受监管的专业工作流程

受监管行业采用人工智能时面临大多数技术买家从未遇到过的挑战：零容错率。金融服务、法律、税务和审计等领域运作的标准是，部分准确性不仅是一个四舍五入的错误——而是会导致监管、财务和声誉后果的合规失败。

在AI介入之前，风险规模已经很大。美国国家经济研究局发表的研究发现，美国企业平均将工资总支出的1.3%至3.3%用于监管合规，这一负担随时间推移而增加，且在不同行业和公司规模间差异显著。

斯坦福大学的研究人员测试了通用语言模型在可验证法律问题上的表现，发现幻觉率高达58%至88%，这凸显了在没有专门保障措施的情况下，现成AI不适合高风险法律和监管工作的原因。

数据处理加剧了准确性问题。美国国家标准技术研究院的AI风险管理框架将与使用底层数据训练AI系统相关的隐私问题列为核心风险类别，同时还包括模型训练和输出数据的安全性。

对于金融机构来说，这转化为一个硬性要求：供应商必须证明敏感的申报文件、税务记录和客户数据永远不会成为模型训练语料的一部分——大多数商业AI系统并未被设计来提供这种保证。

这些压力意味着机构需要能够切实减少监管工作劳动力和成本的AI，同时避免该行业无法容忍的两种失败模式：不准确和数据泄露。

Emerj首席执行官兼研究负责人Daniel Faggella在AI金融服务播客中邀请了汤森路透首席执行官Steve Hasker，深入探讨受监管机构如何通过满足受托责任级别的准确性要求、保护敏感数据以及保持对受监管决策的责任来安全采用AI。

本文提炼了关于受托责任级AI如何重塑金融服务中法律、税务和监管决策的四个见解：

1. 受监管AI工作的受托责任级准确性要求：法律、税务、审计和监管功能要求正确性标准，使得“基本准确”的AI输出不足以用于受监管用途。

1. 劳动密集型监管流程的工作流自动化：AI可以减少准备、审查和验证大规模监管申报文件的负担，同时保持专业人员的责任。

1. 受监管AI采用的数据保护保证：敏感的客户和机构信息必须与模型训练隔离，并防止在未来的输出中暴露。

1. 机器辅助决策的明确签核要求：受监管输出必须由承担受托和监管责任的个人批准，即使AI加速了导致这些决策的前期工作。

受监管功能在准确性标准下运作，这些标准是通用AI系统未曾设计来满足的。法律、税务、审计和金融服务团队在错误输出不仅仅是操作麻烦——它们是具有监管、财务和声誉后果的合规失败。这创建了一个AI在进入核心工作流程之前必须达到的门槛：正确性必须与对有执照专业人员的期望相匹配。

挑战不仅仅是减少幻觉；而是确保机器生成的工作符合管理受监管提交的标准。Hasker指出，这些功能依赖于精确性、可验证性和一致性——这些特性在没有专门保障措施的情况下，概率模型无法保证。AI可以加速分析和起草，但只有当其输出达到与人类工作相同的受托责任期望时才行。

准确性要求还决定了AI可以首先部署在哪里。涉及结构化文档、可重复审查步骤和明确定义的正确性标准的任务提供了最安全的采用路径。在这些领域，AI可以通过减少手动工作量来支持专业人员，同时仍在受监管实践的范围内运作。

当被问及哪些专业工作流程在近期最可能发生变化时，Hasker提到了监管申报文件的准备。他描述了这样一个过程：消耗大量专业时间，同时承担重大的法律和合规风险。金融机构通常管理数百万页的申报文件、披露、审计输入和支持文档——其中许多是重复性的、对准确性敏感的，并且对下游决策至关重要。

“监管申报文件准备消耗大量专业时间，带来重大合规风险，并且建立在权威内容之上。专家驱动的AI应用可以自动化大部分调查负担，但最终责任仍由签署的专业人员承担。”——汤森路透首席执行官Steve Hasker

正如Hasker指出的，“内容和专家驱动的AI应用将从根本上自动化这一过程”，使机构能够将专业时间从文档处理转向更高价值的分析。责任结构没有改变——CFO、总法律顾问和其他负责人仍然保留签核责任——但导致该决策的前期工作变得显著更高效。

Hasker认为数据保护是金融服务中AI采用的主要条件之一。虽然组织希望获得AI的生产力优势，他们也需要确信客户信息、交易数据和专有机构知识将得到保护。在高度受监管的环境中，数据泄露不仅仅是技术问题——它代表了对机构的潜在生存风险。

Hasker强调，受监管机构需要保证客户信息、交易数据和专有知识将与模型输出隔离。他将这一要求与依赖用户交互来随时间改进模型性能的AI开发方法进行对比——在金融和法律环境中，任何客户输入的重复使用都可能违反监管期望，从而产生不可接受的暴露风险。

“金融机构需要确信在使用AI时，客户信息、交易数据和专有知识得到保护。只有组织确定其数据不会成为未来模型输出的一部分时，自动化的好处才能实现。”——汤森路透首席执行官Steve Hasker

Hasker的核心主题之一是受监管的AI采用最终归结为责任。AI可以加速准备、分析和审查，但受监管输出仍然需要明确负责的个人批准最终结果。在整个对话中，他强调总法律顾问、CFO、CEO和其他高级领导人的角色——不是作为象征性的签署人，而是作为对工作承担法律和受托责任的人。

Hasker认为，AI不会消除这种责任；相反，它会使责任更加明确。机构必须确定哪些任务可以由机器支持，哪些决策仍然需要来自有执照专业人员或高级管理人员的人类判断。在受监管环境中，这一区别至关重要，因为对申报文件、法律意见和财务提交的责任不能委托给模型。

从Hasker对受监管AI采用的看法来看，机构需要正式确定保持责任完整的界限：明确的签核责任、验证步骤、专业监督要求以及符合AI支持的合格工作流程。

这些准确性期望构成了受监管AI采用的基础——确保机器生成的工作加强专业输出而不是引入新合规风险的标准。