KAN-MLP-Mixer:Kolmogorov-Arnold網絡用於改進基於IMU的人體活動識別的綜合研究
本研究提出一種混合架構KAN-MLP-Mixer,結合Kolmogorov-Arnold網絡(KAN)的精度與多層感知機(MLP)的噪聲魯棒性和效率,用於基於IMU的人體活動識別(HAR)。在8個公開數據集上,混合模型相比純MLP模型平均宏F1分數提升5.33%,顯著優於單獨的KAN和MLP基線。該策略還能一致提升其他先進HAR架構的性能。
Kolmogorov-Arnold網絡(KAN)在乾淨低維數據上展現了出色的複雜函數學習能力,但在噪聲且不完美的真實世界數據集上性能下降。相比之下,傳統的多層感知機(MLP)對噪聲更容忍且計算高效。完全用KAN替換HAR模型中的MLP組件通常會導致準確率和計算效率下降,這引出了一個開放挑戰:如何結合KAN的精度與MLP的噪聲魯棒性和效率?
為應對這一挑戰,該論文系統探索了深度HAR網絡中KAN模塊的各種放置方式,並提出了一種混合架構,戰略性地協同兩種範式的優勢。該架構採用基於KAN的輸入嵌入層,保留MLP層用於中間特徵混合,並引入專門的LarctanKAN模塊用於最終活動分類。
在8個公開HAR數據集上,混合KAN-MLP模型相比純MLP模型實現了平均宏F1分數相對提升5.33%,顯著優於單獨的KAN和MLP基線。此外,將該混合策略集成到其他最先將的HAR架構中也能一致地提升其性能。研究結果表明,精心編排的KAN、MLP或其他傳統神經網絡組件組合能夠產生更魯棒、更準確的HAR模型,適用於真實世界的可穿戴傳感環境。
這項研究由Mengxi Liu等8位作者完成,論文發表在arXiv上(編號2605.19031),共24頁9張圖。實驗覆蓋了多個公開數據集,驗證了混合策略的通用性。未來的工作可以進一步優化KAN與MLP的比例,以及探索在其他感知任務中的應用。