前向-前向(Forward-Forward,FF)算法是一种受生物合理性启发的局部学习范式,它试图摆脱反向传播对全局误差梯度的依赖,转而通过逐层区分“好”与“坏”样本来驱动网络训练。然而,原始 FF 框架在稳定性、鲁棒性与泛化能力上仍存在明显短板。Salar Beigzad 与 Vansh Verma 于 2026 年 5 月 11 日提交至 arXiv 的论文《Adaptive Multi-Scale Goodness Aggregation for Forward-Forward Learning》提出了一种名为自适应多尺度 goodness 聚合(AMSGA)的扩展方法,旨在系统性地缓解这些局限,同时保留 FF 的生物合理性与内存高效特性。
该论文的核心思路是重新设计 FF 中“goodness”的估计方式与训练动态。具体而言,AMSGA 引入了四项关键改动。第一,跨局部、中间与全局表示的多尺度 goodness 聚合,使网络不再仅依赖单一层级的能量度量,而是综合不同抽象层次的表示来判定样本属性,从而提升判别信息的丰富度。第二,采用自适应、课程引导的困难负样本挖掘策略,让训练过程由易到难逐步引入更具挑战性的负样本,以增强模型的区分边界。第三,设置依赖层级的自适应阈值,使每一层的 goodness 判定标准能够随其表示分布动态调整,而非沿用固定阈值。第四,引入带预热阶段的余弦退火学习率调度,以改善优化的稳定性与收敛行为。作者强调,这些修改共同强化了 FF 范式,且未破坏其局部学习的本质属性。
实验部分在 MNIST 与 Fashion-MNIST 两个基准数据集上展开,将 AMSGA 与基线 FF 算法进行对比。结果显示,AMSGA 在两个数据集上均取得一致的性能提升:MNIST 上最高提升 1.45%,Fashion-MNIST 上最高提升 1.50%,并且没有带来显著的额外计算开销。作者据此认为,当 goodness 估计与训练动态经过精心设计时,局部学习方法有望变得更具竞争力。
从研究定位看,该工作属于机器学习(cs.LG)与人工智能(cs.AI)交叉方向,论文采用 IEEE 格式,共 6 页、包含 5 张表格,提交版本为 v1,全文约 80 KB。论文的贡献并不在于推翻 FF,而是在其框架内通过工程与算法层面的精细化设计来补齐短板。需要指出的是,当前验证仅限于 MNIST 与 Fashion-MNIST 这类相对简单的图像分类任务,提升幅度虽稳定但绝对数值有限,其在更复杂数据集与更大规模网络上的可扩展性仍有待进一步检验。此外,多尺度聚合、课程式负样本挖掘与逐层自适应阈值等机制引入了若干新的超参数,其敏感性分析与调参成本在摘要中尚未充分展开。总体而言,AMSGA 为局部学习方法的实用化提供了一条值得关注的改进路径,也提示 goodness 估计与优化调度是提升 FF 类算法表现的关键抓手。