跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

面向機器人安全的程式級對抗性協同自適應自我對弈

文章摘要

本文提出一個程式級對抗性協同自適應自我對弈框架,讓編碼智慧體無需微調模型,僅透過測試對手程式碼和任務反饋生成攻擊與防禦。在自動駕駛和類人機器人兩個八代案例中,防禦方分別引入直接驅動恢復和修正輸入狀態驗證,但這些響應僅實現區域性任務恢復,未能建立持續魯棒性。

來源arXiv Robotics作者: Leo Benaharon, Chi Zhang, Wei Zheng, Weifan Zhang, Yifan Wei
面向機器人安全的程式級對抗性協同自適應自我對弈
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

一篇新發表於 arXiv 的機器人學研究論文提出了“程式級對抗性協同自適應自我博弈”框架,試圖利用編碼智慧體自動改寫機器人軟體程式,從而在攻擊與防禦的持續對抗中觀察軟體層面的適應過程。該論文編號為 arXiv:2610.36143v1,作者為 Leo Benaharon 等共五位研究者,提交時間為 2026 年 10 月 26 日,屬於機器人學(cs.RO)分類,全文共 8 頁、包含 5 幅圖。

研究團隊關注的核心問題是:編碼智慧體能夠透過修改可執行程式來調整機器人軟體,但針對一個不斷演化的對手所作出的成功響應,未必能夠長期保持有效。換言之,某一次攻擊被成功化解,並不代表系統獲得了持續穩健的防禦能力。為研究這一現象,作者構建了一套無需對模型進行微調的自博弈框架,讓編碼智慧體依據經過測試的對手程式碼以及任務反饋,分別生成攻擊程式與防禦程式,形成程式層面的攻防共同演化。

在實現上,該框架為不同應用場景提供了環境專用介面。針對自動駕駛場景,框架支援接入外部程式;針對人形機器人行走控制,則提供 SDK 層面的防禦介面。這種設計使攻擊與防禦都能以可執行程式的形式落地,而不僅僅停留在策略引數或抽象層面,從而使適應過程具備可檢驗的實體載體。

論文透過兩組各持續八代的案例研究,展示了具體的軟體響應方式。在自動駕駛案例中,防禦方引入了直接驅動恢復機制,即在檢測到異常後直接介入執行層面的動作恢復;在人形機器人案例中,防禦方則修改了輸入狀態校驗邏輯,以應對攻擊者對狀態的干擾。作者指出,這些響應能夠實現區域性任務恢復,但並未建立起持續性的穩健性。

該研究的方法論價值在於,它把攻防適應及其侷限以可執行工件和任務級證據的形式呈現出來,使研究者能夠觀察智慧體如何修改程式碼、修改帶來了何種效果,以及在多代對抗之後防禦為何仍可能失效。論文同時說明,整個流程不依賴模型微調,而是依賴程式修改與反饋迴圈。該預印本目前提供 PDF、實驗性 HTML 版本與 TeX 原始碼,DOI 為 10.48550/arXiv.2610.36143,尚待 DataCite 完成註冊。

展開要點與分析

文章情報

工程師進階

要點

  • 編碼智慧體透過修改可執行程式來適應機器人軟體,但針對進化對手的有效響應可能無法持久。
  • 框架支援自動駕駛外部程式和類人機器人SDK級防禦的環境特定介面。
  • 兩個八代案例顯示防禦方分別採用直接驅動恢復和輸入狀態驗證修正,僅實現區域性恢復。
  • 框架透過可執行工件和任務級證據使適應過程及其侷限性可觀察。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。