跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

隨機重置路徑尋找:圖路徑上級聯賭博機的路徑級遺憾

文章摘要

本文提出隨機重置路徑尋找(SRP)問題,一種在已知有向圖上進行情節學習的框架,其中邊的成功概率未知且固定。SRP模擬了量子中繼網絡中的糾纏分發、閃電網絡中的支付路由等場景。作者證明了全局重置結構使得最優策略為開環策略,屬於組合級聯賭博機(CCB)範疇。他們提出了Log-Dijkstra元算法,並實例化了基於UCB的PathUCB和基於湯普森採樣的PathTS。主要理論成果是PathUCB的路徑級遺憾界,通過每條路徑的複雜度C(π)將遺憾分解到次優路徑上。實驗表明PathTS通常表現最佳,但存在對抗實例導致其不收斂。推薦PathTS作為實用默認算法,但需警惕對抗實例。

來源arXiv Machine Learning作者: Guni Sharon, Wei Zhang
隨機重置路徑尋找:圖路徑上級聯賭博機的路徑級遺憾
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近日,一篇題為《隨機重置路徑尋找:圖路徑上級聯賭博機的路徑級遺憾》的論文被提交至arXiv。該研究由Guni Sharon等人完成,提出了一種全新的學習問題——隨機重置路徑尋找(Stochastic Reset Pathfinding, SRP),並對其進行了深入的理論與實驗分析。

SRP定義在一個已知的有向圖上,其中每條邊具有未知但固定的成功概率。在每個情節(episode)中,智能體承諾一條從源點到目標點的路徑,如果執行過程中任何一條邊失敗,智能體將被重置回源點。這一模型能夠捕捉多種實際應用場景,例如量子中繼網絡中的糾纏分發、閃電網絡(Lightning Network)中的支付路由,以及不可靠網狀網絡中的包裹投遞。

論文的核心貢獻之一在於揭示了SRP的全局重置結構使得最優策略是開環的(open-loop),即策略不依賴於執行歷史。這一特性將SRP納入組合級聯賭博機(Combinatorial Cascading Bandit, CCB)框架。在此基礎上,作者提出了一個Log-Dijkstra元算法,並實現了兩種具體算法:基於置信上限(UCB)的PathUCB和基於湯普森採樣(Thompson Sampling)的PathTS。

理論方面,論文的主要技術成果是為PathUCB推導了路徑級的遺憾界。該界限通過每條次優路徑的複雜度C(π)來分解遺憾,其中C(π)綜合了路徑中各邊的前綴和後綴可靠性。這一界限與傳統的邊級CCB界限互補,並且在具有多項式多條源到目標路徑的結構化圖上提供更多信息。

實驗部分,作者在量子網絡、分層有向無環圖(DAG)、網格世界和埃爾德什-雷尼圖等領域進行了測試。結果支持了理論分析,並顯示PathTS通常在所有測試算法中取得最佳經驗性能。然而,作者也構造了一個對抗實例,在該實例中PathTS無法收斂,這與組合湯普森採樣在乘法獎勵問題上已知的指數級障礙一致。

基於這些發現,作者推薦將PathTS作為實際應用中的默認算法,但同時也提醒用户注意對抗實例的存在。這項研究為處理具有重置特性的路徑規劃問題提供了理論框架和實用工具,有望推動量子網絡、支付路由等領域的算法設計。

展開要點與分析

文章情報

工程師中級

要點

  • 提出了隨機重置路徑尋找(SRP)問題,應用於量子網絡、閃電網絡等。
  • 證明了SRP的最優策略是開環的,屬於組合級聯賭博機。
  • 提出了PathUCB和PathTS算法,並給出了路徑級遺憾界。
  • 實驗顯示PathTS通常最優,但存在對抗實例使其失效。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。

隨機重置路徑尋找:圖路徑上級聯賭博機的路徑級遺憾 | AI News Hub