人工智慧如何重塑受監管的專業工作流程

受監管行業採用人工智慧時面臨大多數技術買家從未遇到過的挑戰：零容錯率。金融服務、法律、稅務和審計等領域運作的標準是，部分準確性不僅是一個四捨五入的錯誤——而是會導致監管、財務和聲譽後果的合規失敗。

在AI介入之前，風險規模已經很大。美國國家經濟研究局發表的研究發現，美國企業平均將工資總支出的1.3%至3.3%用於監管合規，這一負擔隨時間推移而增加，且在不同行業和公司規模間差異顯著。

斯坦福大學的研究人員測試了通用語言模型在可驗證法律問題上的表現，發現幻覺率高達58%至88%，這凸顯了在沒有專門保障措施的情況下，現成AI不適合高風險法律和監管工作的原因。

資料處理加劇了準確性問題。美國國家標準技術研究院的AI風險管理框架將與使用底層資料訓練AI系統相關的隱私問題列為核心風險類別，同時還包括模型訓練和輸出資料的安全性。

對於金融機構來說，這轉化為一個硬性要求：供應商必須證明敏感的申報檔案、稅務記錄和客戶資料永遠不會成為模型訓練語料的一部分——大多數商業AI系統並未被設計來提供這種保證。

這些壓力意味著機構需要能夠切實減少監管工作勞動力和成本的AI，同時避免該行業無法容忍的兩種失敗模式：不準確和資料洩露。

Emerj執行長兼研究負責人Daniel Faggella在AI金融服務播客中邀請了湯森路透執行長Steve Hasker，深入探討受監管機構如何透過滿足受託責任級別的準確性要求、保護敏感資料以及保持對受監管決策的責任來安全採用AI。

本文提煉了關於受託責任級AI如何重塑金融服務中法律、稅務和監管決策的四個見解：

1. 受監管AI工作的受託責任級準確性要求：法律、稅務、審計和監管功能要求正確性標準，使得“基本準確”的AI輸出不足以用於受監管用途。

1. 勞動密集型監管流程的工作流自動化：AI可以減少準備、審查和驗證大規模監管申報檔案的負擔，同時保持專業人員的責任。

1. 受監管AI採用的資料保護保證：敏感的客戶和機構資訊必須與模型訓練隔離，並防止在未來的輸出中暴露。

1. 機器輔助決策的明確籤核要求：受監管輸出必須由承擔受託和監管責任的個人批准，即使AI加速了導致這些決策的前期工作。

受監管功能在準確性標準下運作，這些標準是通用AI系統未曾設計來滿足的。法律、稅務、審計和金融服務團隊在錯誤輸出不僅僅是操作麻煩——它們是具有監管、財務和聲譽後果的合規失敗。這建立了一個AI在進入核心工作流程之前必須達到的門檻：正確性必須與對有執照專業人員的期望相匹配。

挑戰不僅僅是減少幻覺；而是確保機器生成的工作符合管理受監管提交的標準。Hasker指出，這些功能依賴於精確性、可驗證性和一致性——這些特性在沒有專門保障措施的情況下，機率模型無法保證。AI可以加速分析和起草，但只有當其輸出達到與人類工作相同的受託責任期望時才行。

準確性要求還決定了AI可以首先部署在哪裡。涉及結構化文件、可重複審查步驟和明確定義的正確性標準的任務提供了最安全的採用路徑。在這些領域，AI可以透過減少手動工作量來支援專業人員，同時仍在受監管實踐的範圍內運作。

當被問及哪些專業工作流程在近期最可能發生變化時，Hasker提到了監管申報檔案的準備。他描述了這樣一個過程：消耗大量專業時間，同時承擔重大的法律和合規風險。金融機構通常管理數百萬頁的申報檔案、披露、審計輸入和支援文件——其中許多是重複性的、對準確性敏感的，並且對下游決策至關重要。

“監管申報檔案準備消耗大量專業時間，帶來重大合規風險，並且建立在權威內容之上。專家驅動的AI應用可以自動化大部分調查負擔，但最終責任仍由簽署的專業人員承擔。”——湯森路透執行長Steve Hasker

正如Hasker指出的，“內容和專家驅動的AI應用將從根本上自動化這一過程”，使機構能夠將專業時間從文件處理轉向更高價值的分析。責任結構沒有改變——CFO、總法律顧問和其他負責人仍然保留籤核責任——但導致該決策的前期工作變得顯著更高效。

Hasker認為資料保護是金融服務中AI採用的主要條件之一。雖然組織希望獲得AI的生產力優勢，他們也需要確信客戶資訊、交易資料和專有機構知識將得到保護。在高度受監管的環境中，資料洩露不僅僅是技術問題——它代表了對機構的潛在生存風險。

Hasker強調，受監管機構需要保證客戶資訊、交易資料和專有知識將與模型輸出隔離。他將這一要求與依賴使用者互動來隨時間改進模型效能的AI開發方法進行對比——在金融和法律環境中，任何客戶輸入的重複使用都可能違反監管期望，從而產生不可接受的暴露風險。

“金融機構需要確信在使用AI時，客戶資訊、交易資料和專有知識得到保護。只有組織確定其資料不會成為未來模型輸出的一部分時，自動化的好處才能實現。”——湯森路透執行長Steve Hasker

Hasker的核心主題之一是受監管的AI採用最終歸結為責任。AI可以加速準備、分析和審查，但受監管輸出仍然需要明確負責的個人批准最終結果。在整個對話中，他強調總法律顧問、CFO、CEO和其他高階領導人的角色——不是作為象徵性的簽署人，而是作為對工作承擔法律和受託責任的人。

Hasker認為，AI不會消除這種責任；相反，它會使責任更加明確。機構必須確定哪些任務可以由機器支援，哪些決策仍然需要來自有執照專業人員或高階管理人員的人類判斷。在受監管環境中，這一區別至關重要，因為對申報檔案、法律意見和財務提交的責任不能委託給模型。

從Hasker對受監管AI採用的看法來看，機構需要正式確定保持責任完整的界限：明確的籤核責任、驗證步驟、專業監督要求以及符合AI支援的合格工作流程。

這些準確性期望構成了受監管AI採用的基礎——確保機器生成的工作加強專業輸出而不是引入新合規風險的標準。