跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

滤波器对之间的连接提高卷积神经网络的准确性

文章摘要

本文提出在卷积神经网络中引入可学习的成对滤波器连接函数,替代传统的逐点激活,使网络能够根据任务自适应调整连接方式,从而提升准确率。

来源arXiv Computer Vision作者: Kathleen Anderson, Philipp Gr\"uning, Erhardt Barth
滤波器对之间的连接提高卷积神经网络的准确性
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

卷积神经网络(CNN)架构的演进长期以来主要沿着一条既定路径前进:将卷积块层层堆叠,并在块与块之间插入逐点激活函数。尽管研究人员不断提出新的网络结构,这种基本模式仍然是大多数新架构的基础。然而,纯粹依赖逐点非线性也带来了一些固有的局限。Kathleen Anderson 与另外两位作者在论文《Connections Between Pairs of Filters Improve the Accuracy of Convolutional Neural Networks》中,探讨了一种替代思路:在网络的两个滤波器之间引入成对连接,并进一步证明,采用带有可学习参数的更一般化连接方式,可以让 CNN 获得更好的性能。

论文指出,逐点非线性虽然被广泛使用,但它并非提升网络表达能力的唯一手段。一种已被探索的替代方案是在两个滤波器之间建立成对连接,典型的连接函数使用乘法或最小值运算,从而实现类似逻辑“与”(AND)的连接效果。这类操作将两个滤波器的响应组合起来,而不是让它们各自独立地经过逐点激活。作者在这一基础上更进一步,提出 CNN 可以从更一般的连接中受益,而这些连接中包含可学习的参数。也就是说,连接函数本身不再是固定不变的乘法或取最小值,而是由网络在训练过程中根据数据自行调整。

这种参数化连接的关键优势在于灵活性。借助可学习参数,网络能够在不同的网络层中实现不同的连接方式,从而针对具体任务更好地调整连接函数。相比在所有层中统一使用同一种固定操作,这种做法让每一层都有机会选择最适合其特征表达需求的组合方式。对于需要同时捕捉细粒度局部模式与更复杂组合关系的视觉任务而言,这种自适应性可能尤为重要。

该论文发表于 IJCNN 2023,属于计算机视觉与模式识别(cs.CV)方向,提交到 arXiv 的版本编号为 2606.13736v1,提交时间为 2026 年 6 月 11 日,全文约 976 KB。论文提供了 PDF、实验性 HTML 以及 TeX 源码等多种访问形式,并附有正式的 DOI 链接,对应 IEEE 会议版本。

从更广的研究背景看,这项工作呼应了一个持续存在的讨论:在深度网络中,逐点激活与特征之间的交互应当如何组织。传统的逐点非线性为每个通道单独施加变换,而成对连接则显式地建模滤波器之间的关系。作者的贡献在于把这种关系从预先固定的算子推广为可学习的函数,从而使连接方式本身成为网络设计中的一个可调维度。论文的核心论点是,这种更一般的成对连接有助于提升 CNN 的准确率,并且让不同网络层能够采取不同的连接策略,以更好地适应手头的任务。需要注意的是,文章摘要并未列出具体的实验数据集、准确率提升幅度或消融结果,这些细节需要查阅论文全文才能确认。

展开要点与分析

文章情报

研究者进阶

要点

  • 传统CNN依赖逐点非线性激活函数,存在局限性
  • 成对滤波器连接使用乘法或最小值实现逻辑与,本文推广为含可学习参数的通用连接
  • 可学习连接参数允许不同网络层实现不同的连接函数,更好地适应任务
  • 该方法在IJCNN 2023上发表,属于计算机视觉与模式识别领域

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。