SNAP-FM：面向物理约束生成模型的稀疏非线性加速投影方法
生成模型作为物理模拟的可扩展替代方案，但通常无法确保输出符合守恒律、边界条件等物理约束。约束采样可以在推理时精确施加这些约束，但计算成本高昂。本文提出SNAP-FM，利用稀疏GPU非线性优化加速约束投影。通过ExaModels.jl和MadNLP.jl处理块稀疏雅可比矩阵和KKT系统，该方法在偏微分方程基准测试上实现了更快的非线性约束投影，同时保持约束满足。
生成模型近年来在物理模拟领域展现出巨大潜力，可以作为传统数值求解器的可扩展替代方案。然而，这些模型在生成结果时往往无法保证满足物理定律，如守恒律、边界条件和非线性不变量。为了解决这一问题，约束采样方法在推理阶段直接施加这些物理约束，而无需重新训练模型。但这一过程伴随着高昂的计算成本，尤其是在处理非线性约束时，需要重复进行投影、校正和轨迹优化步骤。
标准的机器学习框架在处理这些约束时效率低下，因为其密集的张量代数运算和有限的稀疏求解器组合能力，难以利用物理约束自然产生的稀疏结构。常见的深度学习库如PyTorch和TensorFlow主要针对密集计算优化，缺乏对稀疏非线性规划的高效支持。为了突破这一瓶颈，来自研究团队（包括Alaina Kolli等七位作者）提出了SNAP-FM（稀疏非线性加速投影方法）。该方法通过挖掘样本批处理和局部PDE耦合在投影子问题中诱导的结构——即块稀疏雅可比矩阵和KKT系统——利用ExaModels.jl和MadNLP.jl以及GPU稀疏分解技术，高效求解稀疏非线性规划问题。
研究团队将SNAP-FM应用于物理约束流匹配（Physics-Constrained Flow Matching, PCFM）框架，在线性和非线性、一维和二维的偏微分方程基准测试上进行了评估。实验基准包括多种经典PDE问题，例如对流方程、扩散方程等。结果表明，该方法在加速非线性约束投影的同时，保持了约束满足的精度，计算速度相比传统方法有显著提升。这些成果表明，稀疏GPU非线性优化可以为科学机器学习中的约束生成采样提供实用的基础。
该论文于2026年6月30日提交至arXiv，论文编号arXiv:2607.00095，目前DOI正在注册中。论文涵盖了机器学习（cs.LG）、人工智能（cs.AI）和计算工程（cs.CE）等多个领域。研究得到了来自相关机构的支持。此研究为生成模型在物理仿真中的应用提供了新的思路，有望降低推理阶段的计算成本，推动物理约束生成模型在科学计算和工程仿真中的实际部署。