將臨牀決策權從LLM中剝離

在AI治療領域，一個關鍵問題是如何確保臨牀決策的安全性和可靠性。Hamo AI團隊決定不讓大型語言模型（LLM）自行決定臨牀步驟，而是採用一種確定性管道來分離決策與生成。

該管道的流程如下：每次交互都經過評分（SCORE）、選擇狀態桶、准入門、選擇動作、微實踐、危機預篩查，最後生成（GENERATE）。其中，評分和生成由LLM完成，其餘所有步驟都是確定性代碼。模型從不決定臨牀步驟是否合適——它甚至看不到准入表，也不需要推理它。當模型被調用生成時，決策已經計算完畢。

核心是一個准入表，包含九種治療學派和四種客户狀態。每個單元格定義了在特定狀態下允許的療法。例如，認知行為療法（CBT）對穩定客户允許思想記錄、證據檢查和行為實驗，但對正在崩潰的客户只允許接地練習。技術集不會因為模型感覺謹慎而縮小，而是因為狀態分數索引到了不同的行。

危機檢測在生成前運行，分為三個階段：第一階段是確定性關鍵詞預篩查，純代碼，目標50毫秒以下，實際通常在5毫秒內；第二階段是零温度分類器，確定性配置，同一消息始終得到相同判定，目標3秒，實際0.8-2秒；第三階段是持續重新評估。一旦觸發，生成被完全跳過，發送固定消息，並通知主治臨牀醫生。固定消息是故意的——在急性風險下，不應讓語言模型發揮創造性。

文章坦承了這種設計的成本：對話流暢度下降，管道有時會產生比模型“想要”的更生硬的回覆；迭代速度變慢，添加一種新學派需要修改表格和臨牀審核；無法進行通用對話，這是有意為之，但確實是一種能力缺失；工程複雜度增加，確定性主幹需要大量代碼。

儘管有這些成本，該設計提供了關鍵優勢：准入門不會被説服。一個能言善辯的客户不會因為説服力而獲得更深層的治療——他們的狀態分數決定一切。此外，安全標誌不會衰減：三週前的風險信號仍然會限制當前允許的操作。

未解決的問題包括：危機協議無法檢測故意隱藏的風險，也無法進行物理干預；結果斜率指標仍在路線圖中。完整的危機協議已公開詳細發佈，以便機構合作伙伴審計。