跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

StepX-Edge:端側UI視覺語言模型的架構-訓練-部署協同設計

文章摘要

StepX-Edge是一款僅有0.9B參數的端側UI視覺語言模型,通過架構、訓練和部署的三層協同設計,在OCR、屏幕理解、視覺問答和元素定位等任務上實現了高精度與高效率的平衡。其創新包括UI感知分層視覺編碼(ULVE)、漸進維度投影連接器(PDP)、五階段課程學習框架以及模塊化兩階段量化方案。在多個基準測試中,StepX-Edge超越了同尺寸模型,甚至媲美2B參數級別的模型。量化後可在驍龍8 Gen5設備上穩定運行,首令牌延遲約0.84秒,解碼速度98 tok/s,峯值內存1.4GB。代碼和模型將開源。

來源arXiv Computer Vision作者: Yin Wang, Haotian Hu, Jineng Han, Wentao Qiu, Zhenhua Ge, Liujian Tang, Fanyi Wang
StepX-Edge:端側UI視覺語言模型的架構-訓練-部署協同設計
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

長期以來,在端側設備上部署具有全面UI理解能力的視覺語言模型一直面臨着精度與效率的兩難困境。一方面,OCR、屏幕理解、視覺問答和元素定位等任務對精度要求極高;另一方面,移動芯片的計算、內存和功耗預算極為嚴格。現有工作要麼犧牲一方換取另一方,要麼止步於仿真而未在實際設備上驗證。

StepX-Edge的出現打破了這一僵局。該模型僅有0.9B參數,通過架構、訓練和部署的三層協同設計,在極小的參數預算下實現了全面UI理解。在架構上,模型引入了UI感知分層視覺編碼(ULVE)和漸進維度投影連接器(PDP),專門應對屏幕的極端寬高比和細粒度感知需求。ULVE通過分層處理保留高分辨率細節,PDP則逐步降低視覺特徵維度以減少計算開銷。同時,全程採用標準全注意力機制,確保與主流移動NPU算子的原生兼容性,避免了自定義算子的部署障礙。

訓練方面,研究團隊基於對UI子任務間相互促進效應的觀察,設計了五階段StepX-Curriculum框架。該框架使得OCR、屏幕理解、視覺問答和元素定位四種能力在參數緊張的情況下協同增長,而非相互干擾。每個階段逐步增加任務難度,並從之前階段的知識中受益。部署方面,模型採用了模塊級差異化的兩階段量化方案:先進行PTQ(訓練後量化)初始化,再對關鍵層進行QAT(量化感知訓練)微調,將量化後的精度損失控制在1%以內。最終模型以W4A16+KV8的量化配置運行。

StepX-Edge在多個基準測試中展現了卓越性能。在ScreenQA上達到88.76 F1,在中文OCRBench v2上達到57.25,均超越所有2B-2.3B基線模型。在RefCOCO(92.0%)和OCRBench v1(831)上,以更少的參數匹配了1.3B-2.3B通用視覺語言模型的水平。量化後,模型可在驍龍8 Gen5設備上穩定運行,首令牌延遲約0.84秒,解碼速度98 tok/s,峯值內存僅1.4GB。研究團隊表示,他們將開源訓練數據、完整的訓練流程以及量化部署管線,以推動端側UI理解技術的發展。

展開要點與分析

文章情報

工程師進階

要點

  • StepX-Edge通過架構-訓練-部署協同設計,在0.9B參數下實現強大的UI理解能力。
  • 創新包括ULVE視覺編碼、PDP連接器、五階段課程學習以及兩階段量化。
  • 在ScreenQA、Chinese OCRBench等基準上超越2B級模型,驍龍8 Gen5設備上高效運行。
  • 將開源訓練數據、完整訓練流程和量化部署管線。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。