コンピュータビジョンの分野では、畳み込みニューラルネットワーク（CNN）からTransformerへの移行が技術の様相を大きく変えてきたが、一般にこれら二つのアーキテクチャは根本的に異なるものと見なされている。CNNは空間的に局所的な畳み込み演算で定義され、Transformerは大域的な自己注意機構に依存する。しかし、Bowdoinカレッジの学部論文が新たな視点を提示している。畳み込みと自己注意機構は、見かけの違いにもかかわらず、単一のk近傍集約フレームワーク内で統一的に理解できるというのだ。この論文はarXivに掲載され、番号は2606.14725、著者はMingi Kangである。
論文の核心的な洞察は、畳み込みと自己注意機構が実際にはどちらも近傍選択と重み付き集約の特殊ケースであるという点にある。具体的には、畳み込みは空間的近接性によって近傍を選択し、自己注意機構は特徴量の類似性によって選択する。この発見は、両者がカテゴリー的に異なる計算ではなく、連続的なスペクトル上に位置することを示している。これに基づき、著者は畳み込み最近傍（ConvNN）フレームワークを提案し、この関連性を形式化した。
ConvNNフレームワークは、近傍選択を正規化された空間座標に制限することで、標準的な畳み込みと深さ方向分離可能な畳み込みを正確に再現できる。同様に、空間的近接性をスケール付きドット積類似度に置き換えることで、自己注意機構とそのスパース変種（KVT-attentionを含む）も正確に再現する。さらに重要なのは、ConvNNがこれらの特殊ケースを再現するだけでなく、畳み込み層と注意層の両方の直接的な代替として機能し、設定可能な類似度関数、近傍選択戦略、位置エンコーディング、集約カーネルを通じて、局所と大域の集約の間の中間スペクトルを体系的に探索できることである。
この研究の意義は、畳み込みと注意機構の間の伝統的な二分法を打破し、新しいハイブリッドアーキテクチャの設計に理論的根拠と実用的なツールを提供する点にある。研究者はConvNNのパラメータを調整することで、局所性と大域性の間を滑らかに補間でき、新たな効率的な計算モードを発見できる可能性がある。この論文はコンピュータビジョンとパターン認識の分野に属し、Bowdoinカレッジ計算機科学科の学部卒業論文である。
論文の投稿履歴によると、このバージョンは2026年5月31日に投稿され、ファイルサイズは6,735 KBである。興味のある研究者はarXivからPDF全文とTeXソースを入手できる。この研究は深層学習アーキテクチャの統一性の理解に新たな道を開き、将来のより柔軟で効率的な視覚モデル設計に影響を与える可能性がある。