本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

Mix-QVLA:視覚-言語-行動モデルのタスク証拠認識型混合精度量子化

記事の要約

本論文は、視覚-言語-行動(VLA)モデル向けのタスク証拠認識型混合精度ポストトレーニング量子化フレームワークMix-QVLAを提案する。全精度モデルと量子化モデルのタスク証拠マップを主要な機能境界で比較し、意思決定に関わる証拠が保たれているかを評価する。さらにタスク実行中各フェーズで変化する層感度をモデル化し、モデルサイズとBitOpsの予算下でビット配分を行う。LIBEROではOpenVLA-OFTのメモリを15.4 GBから4.1 GBに削減し、平均成功率96.3(BF16は97.1)を維持しつつ、推論を1.52倍高速化した。

ソースarXiv Computer Vision著者: Navin Ranjan, Andreas Savakis
Mix-QVLA:視覚-言語-行動モデルのタスク証拠認識型混合精度量子化
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

視覚-言語-行動(VLA)モデルは、視覚知覚・言語理解・行動生成を単一のポリシーに統合し、ロボット操作などのタスクで高い汎化性能を示す。一方でパラメータ数が多く推論コストも高いため、計算資源の限られたロボット実機への直接展開は容易ではない。ポストトレーニング量子化(PTQ)はモデル圧縮と推論コスト削減の定番手法だが、VLAモデルに対して一律に低ビット化すると、タスク意思決定に密接に関わる内部証拠が損なわれ、成功率が大きく低下しやすい。2026年6月17日にarXivへ投稿された論文「Mix-QVLA: Task-Evidence-Aware Mixed-Precision Quantization of Vision-Language-Action Models」は、この問題に取り組む新しい混合精度量子化フレームワークを提案している。著者はNavin RanjanとAndreas Savakisで、論文はコンピュータビジョンとパターン認識(cs.CV)に分類されている。

Mix-QVLAの中心的な考え方は、量子化の良し悪しを出力行動の数値誤差だけで判断せず、量子化後も全精度モデルと同じタスク証拠に基づいて意思決定しているかを見る、というものである。そのため各量子化版を、全精度モデルの行動トークン上の参照決定に固定し、VLAモデルの複数の重要な機能境界で活性値を収集する。そこから正規化された勾配重み付きタスク証拠マップを計算し、全精度版と量子化版の証拠マップを2つの指標で比較する。1つは証拠質量(evidence-mass)の歪みで、意思決定を支える証拠の強さがどれだけ弱まったかを表す。もう1つは帰属分布(attribution-distribution)の歪みで、証拠の空間的・チャネル的な配分がどれだけずれたかを捉える。両者を組み合わせることで、証拠が弱まる場合だけでなく、証拠の「置き場所」が変わるような気づきにくい劣化も検出できる。

境界レベルの劣化尺度が得られた後、Mix-QVLAはソフトボトルネック目的を導入し、これらの境界ごとの劣化を層ごとの感度スコアへ集約する。これにより敏感な層はより高いビット幅で保持し、敏感でない層はより積極的に圧縮できる。さらに重要な点として、本フレームワークはタスク実行中に感度が一定であるとは仮定せず、タスクの段階に応じて敏感度が動的に変化する性質をモデル化する。操作タスクではフェーズごとに各層の最終行動への寄与が大きく異なりうるため、静的な感度プロファイルではビット資源を誤って配分しかねない。こうして得られた証拠認識かつ時間認識のスコアをもとに、モデルサイズとBitOps(ビット演算量)の二重予算制約の下で混合精度ビット配分を解く。

著者らはOpenVLA系のポリシーモデルで広範な評価を行った。LIBEROベンチマークでは、Mix-QVLAはOpenVLA-OFTのメモリ使用量を15.4 GBから4.1 GBへ削減し、平均成功率は96.3を維持した。BF16の全精度モデルは97.1であり、差は小さい。同時に推論速度は1.52倍向上した。これらの結果は、タスク証拠の忠実性を指針とし、実行フェーズの動的特性も考慮した量子化戦略が、低ビットVLA展開の精度と効率のトレードオフを明確に改善できることを示している。大規模VLAポリシーを実際のロボット平台上で動かすための現実的な道筋の一つと言える。

要点と分析を開く

記事インテリジェンス

投資家上級

要点

  • 各量子化版を全精度の行動トークン参照決定に固定し、VLAの機能境界で証拠質量と帰属分布の歪みを測る。
  • ソフトボトルネック目的で境界ごとの劣化を層別感度に集約し、タスク実行中のフェーズ依存の感度変化を扱う。
  • モデルサイズとBitOpsの予算制約下で混合精度ビット配分を導き、LIBEROでメモリ大幅削減と1.52倍の推論高速化を達成。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。