通過格遍歷實現多層感知器的區間認證

本文提出了一種嚴格的理論框架，用於解決人工智能安全中的對抗魯棒性問題。作者將對抗魯棒性歸結為格遍歷問題，其中每個格元素對應於包含輸入點的軸對齊超矩形（區間）。對於多層感知器分類器，區間I構成聲音認證的條件是：輸入點x在I內，且x在I內任意擾動均不改變MLP的預測。相反，區間I構成完全認證的條件是：x在I內，且當x離開I時MLP的預測必然改變。論文開發了格遍歷算子，並應用於精化與驗證的迭代方案中。利用形式化MLP驗證器，保證了聲音認證的最大性和完全認證的最小性。在目標優化問題中，作者發現了有趣的不對稱性：完全認證的最小解可在多項式時間內通過預言機調用獲得，而聲音認證則被證明具有強難解性。此外，對於對稱區間（即ℓ∞球）的優化問題，論文提出了對數時間算法。最後，作者通過新開發的ParallelepipedoNN系統進行了實證評估，展示了該方法的有效性。這項工作為對抗魯棒性的理論理解和實際驗證提供了新途徑，特別是完全認證的概念補充了現有研究的空白。該論文由Merkouris Papamichail、Konstantinos Varsos、Giorgos Flouris和João Marques-Silva共同撰寫，於2026年4月提交至arXiv。研究團隊來自多個機構，他們的工作為AI安全領域提供了重要的理論基礎。通過將對抗魯棒性轉化為格遍歷問題，作者不僅簡化了問題的表述，還揭示了兩種認證類型之間的複雜性差異。完全認證的易處理性和聲音認證的難解性可能對未來模型驗證策略產生深遠影響。此外，ParallelepipedoNN系統的開發為實際應用提供了工具。總體而言，這是一篇具有理論深度和實踐價值的論文。在機器學習和人工智能領域，對抗魯棒性一直是研究熱點。傳統方法多采用經驗性防禦，但缺乏嚴格保證。本文提出的區間認證方法為魯棒性提供了形式化保證。聲音認證類似於傳統的魯棒性概念，而完全認證則是首次提出。這種對稱性分析揭示了優化層面上的根本差異。此外，對於ℓ∞球約束的優化，對數時間算法提供了效率優勢。實驗部分使用了作者自研的ParallelepipedoNN系統，在多個基準數據集上展示了方法的有效性。未來的工作可以拓展到其他神經網絡架構和更復雜的認證類型。