從實驗到臨牀級AI在醫療保健中的應用

多年來，企業AI戰略一直基於一個簡單假設：一旦模型足夠好，採用就會隨之而來。然而，這一假設正在被檢驗，並且正在失敗。模型能力按大多數標準已經到位，但基礎設施、安全態勢和工作流架構尚未準備好讓自主系統在企業內安全運行。

這一差距的一個明顯信號來自聯邦政府本身。當NIST在2026年1月發佈關於AI代理安全的正式信息請求（RFI）時，在2026年3月9日截止前收到了932條公眾評論——這一非同尋常的響應量反映了從業者多麼迫切地應對當前框架未能解決的問題。NIST自己的評估直言不諱：自主代理正被嵌入生產環境，而沒有管理傳統軟件所需的身份管理基礎設施、訪問控制或審計機制，即使它們正在編寫和執行代碼，並在數十個集成服務中鏈接工具調用。

支撐這一擔憂的安全數據令人警醒。在NIST內部研究引用的2025年初紅隊演習中，針對AI代理的新攻擊策略81%的時間成功——這一失敗率與底層模型的推理能力無關。

醫療保健最尖鋭地説明了工作流方面的問題。向HHS國家衞生信息技術協調辦公室提交的正式評論認為，數據準備、互操作性、生命週期監控和可審計性等能力是實現AI潛力同時保護患者、臨牀醫生和機構的基礎，特別是對於嵌入文檔和操作工作流、影響護理但未被作為醫療器械監管的AI。

所有來源的模式都是相同的：瓶頸不是智能，而是準備就緒。

Wolters Kluwer健康部門高級副總裁兼首席技術官Alex Tyrrell在Emerj的AI in Business播客中與Matthew DeMello一起解釋了為什麼自主AI的成功現在取決於現代化企業基礎設施、安全態勢和工作流架構，而不是改進模型性能。

本文考察了三個洞見，闡明瞭為什麼自主AI的採用受限於企業準備度而非模型能力。

基礎設施準備度作為門檻因素

Alex指出，自主系統不會因為模型弱而失敗——而是因為企業棧是為人為節奏、基於屏幕的工作流構建的。自主AI消除了這種摩擦，暴露了以前隱藏的架構弱點。最大的制約因素不是創新慾望，而是技術債務：單體應用、脆弱的API、粗粒度的權限和為人操作員設計的運營工具。當代理開始以機器速度執行任務時，這些弱點成為系統性障礙。

他強調了現代化基礎設施的幾個實際步驟：將單體分解為模塊化、可觀測的組件；重新設計API以實現細粒度、最小權限訪問；為機器驅動的流量峯值設計基礎設施；現代化可觀測性和監控；以及為代理加強身份和訪問控制。

領域適配推理作為自主性能的引擎

Alex認為，企業持續低估了代理可靠運行所需的領域適配量。現成的模型只是起點；一旦進入真實工作流，就必須通過監督指令、微調、低秩適配和動態思維鏈進行重塑，直至反映專業人員的推理模式。這是企業真正的差異化所在。

他描述了領域適配如何從根本上改變模型：一個前沿基礎模型經過多次領域適配後，看起來與最初完全不同。代理工作流的本質要求將任務分解為推理單元，有時比人類更細，有時合併多個步驟。領域專家成為代理推理的腳手架。多模型系統成為常態，動態思維鏈必不可少，可解釋性來自細粒度。

自主安全態勢作為新的企業要求

Alex最後強調，一旦代理開始行動，安全假設不再成立。攻擊面擴大，身份模型改變，合規框架必須演變以解釋機器驅動行為。安全是代理從實驗到生產時遇到的第一個限制。身份、權限、可審計性和可觀測性都必須為自主行動者重建。

他還指出，威脅參與者現在也受益於相同的生成能力，使攻擊更難檢測、更易擴展、更具適應性。企業必須重新思考如何驗證代理身份、監控代理間通信，並在HIPAA、SOC 2、ISO等框架下保持合規。

Alex最尖鋭的觀察是當代理取代人類點擊時，傳統運營信號如何崩潰：“尖峯從哪裏來？這個錯誤從哪裏來？可觀測性、監控——這是一個挑戰，所以你必須適應。”

總之，從實驗到臨牀級AI的轉變需要企業優先考慮基礎設施現代化、領域適配推理和自主安全態勢。只有這些要素到位，AI才能真正從概念驗證走向安全、可靠的臨牀應用。