跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

合規性作為一種分佈:委託契約、誤差預算與基於使用的AI監管中的評估權分配

文章摘要

本文提出用“部署失敗率”替代“基準分數”作為合規證據物件,並研究部署方、審計方與執法點之間的策略博弈。作者給出五種機制與命題,以解決宣告混合分佈的真實性、審計無偏性、長期認證預算、子群保證成本以及事件指標誤導等問題。研究基於五個預註冊的合成實驗,未評估任何語言模型或生產系統。

來源arXiv AI作者: John deVadoss
合規性作為一種分佈:委託契約、誤差預算與基於使用的AI監管中的評估權分配
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

本文考察的是基於使用場景的人工智慧監管中的一致性認定問題。此類監管按部署風險分配義務,卻缺少一個能夠承載這些義務的證據物件。論文指出,基準分數只是模型的一種屬性,而一次部署的“一致性”應當被理解為:在某一明確宣告的上下文分佈之下、受適用範圍約束並設有有效期的失敗率。作者沿用此前提出的委託契約框架,其中包括凍結配置、限定範圍內的宣告以及可執行的修訂規則,並在部署方、審計方與執法節點之間的策略性博弈中對該框架進行分析。

論文圍繞五個問題展開。第一,所宣告的上下文混合能否被做得真實可信?作者給出的機制是對所宣告的混合施加適當評分懲罰,並證明最優回應的部署方所產生的超額失敗被該懲罰權重的 O(λ^{-1/2}) 所約束。第二,審計能否在面對能夠識別評估流量的系統時保持無偏?作者提出一種從真實流量中抽取的承諾—揭示式審計,它在構造上即無偏,並且用同一樣本對評估方本身進行評分。第三,認證誤差預算能否支撐長期執行的部署?論文說明,折半式誤差預算會使認證覆蓋率降至 (1-p)^n 以下,而採用 α 投資方式則可在邊際誤認證保證下維持覆蓋率。

第四,聚合審計能否支撐按子群給出的保證?作者指出,要獲得逐子群保證,審計規模需要隨子群質量按 1/m 的比例擴大。第五,若事件度量只統計系統失敗而不計入回退成本,能否正確排列不同部署安排?論文證明,任何僅關注失敗的度量都會在任意回退成本下偏向“撤回”這一選擇,即使按總損失排序時各安排的先後次序恰好相反。

作者透過五項預先註冊的合成研究對上述每一項主張進行了檢驗,並明確說明研究中沒有評估任何語言模型或生產系統。這一限制意味著結論屬於機制與命題層面的理論結果加合成驗證,而非對現實部署的實證測量。

在監管落地層面,論文認為執法應位於分發、能力獲取、變現與風險轉移這幾個關鍵節點;一致性記錄的有效期構成一種注意義務標準;而“一致性即速率”的路徑應與歐盟《人工智慧法案》所採用的靜態符合性評估形成對照。作者 John deVadoss 於 2026 年 10 月 23 日提交該論文,arXiv 編號為 2610.33112,屬於 cs.AI 分類,ACM 分類涵蓋 K.4.1、K.5.2、I.2.6、J.4 與 G.3。

展開要點與分析

文章情報

投資人進階

要點

  • 合規性應定義為宣告上下文分佈下的失敗率,有範圍且會過期,而非模型基準分數。
  • 對宣告混合分佈施加適當評分懲罰可將最佳響應部署方的超額失敗限制在懲罰權重的O(λ^{-1/2})內。
  • 基於即時流量的提交-揭示審計天然無偏,且同一審計樣本可同時評估部署方和評估方。
  • 僅統計系統失敗而忽略回退成本的事件指標會偏好退出策略,即使總損失排序相反。

技術影響

可能影響合規要求、模型釋出節奏、資料治理和企業採購。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。