arXivに新たに投稿された論文「Full-Weight VLA Fine-Tuning Without an fp32 Master Copy Silently Erases Most Updates」（著者：Shubham Singh）は、視覚-言語-行動（VLA）モデルの微調整に潜む、見過ごされやすいが影響の大きい数値精度の問題を指摘している。学習可能な重みをbfloat16（bf16）で保持し、fp32のマスターコピーを用意しない場合、最適化器AdamWは各更新をそのままbf16へ書き込むため、重みの1/512より小さい更新は静かに丸められて消えてしまう。
著者はオープンソースの状況を体系的に調査した。公開されている12のVLAコードベースのうち9では、デフォルト設定または文書化されたレシピがこのマスターコピーなしの学習方式を採用しており、そのうち4は完全な重み行列に対して適用している。LeRobotのSmolVLAのデフォルト設定やπ0、π0.5のガイドもこれに含まれる。問題は特定プロジェクトの見落としではなく、主要なツールチェーンに広く存在している。
実験面では、著者はLIBEROベンチマークでfp32コピーなしの微調整を実行し、100ステップごとに重み更新を検査した。その結果、bf16重みへの更新の少なくとも79%が消えていることが分かった。つまり学習信号の大半が実際にはモデルパラメータに反映されていない。この現象は学習ログや損失曲線からはほとんど気づけず、「静かな」失敗と呼べる。
論文はモデル共有プラットフォームの現状も調べている。Hugging Face Hubで抽出した全重みSmolVLA微調整モデルの99%がアクションエキスパートをbf16で保存しており、最近トレーニング設定が指定されたπ0.5の微調整では84%がbf16フラグを有効にしている。公開されている微調整済みモデルの多くが同じ精度損失を抱えている可能性がある。
影響を定量化するため、著者は評価ルールを事前に固定し、LIBERO-Objectタスクでfp32マスターコピーの有無を比較した。両モデルとも十分に学習されていない、10倍低い学習率の設定では、fp32コピーによりSmolVLAの成功率はLeRobotの保存方式の4.3%から49.3%へ、π0.5は5.1%から80.9%へ向上した。π0.5のデフォルト学習率では89.0%から97.7%へ改善した。SmolVLAのデフォルト学習率では、50アクションのチャンクを開ループで実行する場合に約10.2ポイント向上し、10アクションごとに再計画する場合は4.2ポイントの向上にとどまった。
統計的には、上記5つの比較に、すべての学習可能重みをbf16にしたSmolVLAとの2つの比較を加えた7組の対照のうち、fp32コピーを保持したすべての実行がコピーなしの対応する実行を上回った（p < 0.05）。8.7ポイントと4.2ポイントの差を除き、すべての差は著者が設定した10ポイントの閾値を超えている。
著者が示す修正は非常に単純で、学習中に学習可能な重みをfp32で保持することである。LeRobotのSmolVLAでは1行の変更で済む。この設定が最終的なポリシーの成功率に数十ポイントもの差をもたらし得ることを踏まえ、論文はVLA微調整の実践者とモデル公開者に対し、デフォルトの精度設定を見直し、微調整済み重みを公開する際には学習中にfp32マスターコピーを保持したかどうかを明示するよう促している。