AI News HubLIVE
站内改写1 分钟阅读

多视野一致性作为几何结构:潜在动力学何时收缩,何时不收缩

该研究将多步潜在一致性权重λ作为诊断工具,探索其对视频预测器和世界模型中潜在动力学几何结构的影响。在Moving-MNIST上,提高λ显著降低潜在膨胀和预测误差,但在动作条件化的环境中无此效果,表明其作用域有限。通过随机强迫律统一了不同领域的曲线。

来源arXiv Machine Learning作者: Kavya Bhand, Aadi Joshi

arXiv 2607.21645号论文《多视野一致性作为几何结构:当潜在动力学收缩时与不收缩时》由Kavya Bhand和Aadi Joshi提交,系统研究了多步潜在一致性权重λ对视频预测器和世界模型中潜在状态过渡几何的影响。

研究中,作者将λ视为诊断控制变量,测量了潜在膨胀代理指标L20(基于q95分位数)和20步预测误差E20。在Moving-MNIST数据集上(6个随机种子),将λ从0提高到0.8导致L20从4.96±2.01显著降至1.01±0.06(配对t检验p=0.005,Wilcoxon检验p=0.031),同时E20从0.365降至0.177(配对t检验p=1.1e-13)。六个种子中有四个在λ=0.8时达到了L<1的收缩状态。

然而,相同的损失函数在动作条件化环境(Pendulum-v1和CartPole-v1)以及KTH行为视频数据集上并未产生L<1的总体收缩,即便E20有所改善。中介分析(基于Moving-MNIST,n=27,B=2000)显示r-hat=0.94(95% CI [0.88, 1.00]),表明λ通过诱发收缩间接降低了误差,但λ并非随机分配。

防御性检查(包括架构基线、外生压力测试、WorldTest、模型预测控制及缩放实验)总体支持一个窄域主张:软一致性能够推动被动视频向近似收缩的带状区域发展,但这种带状区域受领域限制。一个随机强迫律L20 ~ 1.23 + 1.82η(在λ=0.8时,自举斜率置信区间[1.73, 1.92],R²=0.96)通过校准的η_eff将控制域统一到同一曲线上。在λ=0.4和1.2下的完整联合切片(30/30单元格,5个η值×3个种子)显示出类似的线性L20(η)斜率(约1.69和2.00),但论文未拟合连续的(λ, η)曲面。

该研究揭示了多视野一致性在不同场景下的差异化影响,为世界模型训练中超参数选择提供了几何视角。

多视野一致性作为几何结构:潜在动力学何时收缩,何时不收缩 | AI News Hub