KAN-MLP-Mixer:Kolmogorov-Arnold網路用於改進基於IMU的人體活動識別的綜合研究
本研究提出一種混合架構KAN-MLP-Mixer,結合Kolmogorov-Arnold網路(KAN)的精度與多層感知機(MLP)的噪聲魯棒性和效率,用於基於IMU的人體活動識別(HAR)。在8個公開資料集上,混合模型相比純MLP模型平均宏F1分數提升5.33%,顯著優於單獨的KAN和MLP基線。該策略還能一致提升其他先進HAR架構的效能。
Kolmogorov-Arnold網路(KAN)在乾淨低維資料上展現了出色的複雜函式學習能力,但在噪聲且不完美的真實世界資料集上效能下降。相比之下,傳統的多層感知機(MLP)對噪聲更容忍且計算高效。完全用KAN替換HAR模型中的MLP元件通常會導致準確率和計算效率下降,這引出了一個開放挑戰:如何結合KAN的精度與MLP的噪聲魯棒性和效率?
為應對這一挑戰,該論文系統探索了深度HAR網路中KAN模組的各種放置方式,並提出了一種混合架構,戰略性地協同兩種正規化的優勢。該架構採用基於KAN的輸入嵌入層,保留MLP層用於中間特徵混合,並引入專門的LarctanKAN模組用於最終活動分類。
在8個公開HAR資料集上,混合KAN-MLP模型相比純MLP模型實現了平均宏F1分數相對提升5.33%,顯著優於單獨的KAN和MLP基線。此外,將該混合策略整合到其他最先將的HAR架構中也能一致地提升其效能。研究結果表明,精心編排的KAN、MLP或其他傳統神經網路元件組合能夠產生更魯棒、更準確的HAR模型,適用於真實世界的可穿戴感測環境。
這項研究由Mengxi Liu等8位作者完成,論文發表在arXiv上(編號2605.19031),共24頁9張圖。實驗覆蓋了多個公開資料集,驗證了混合策略的通用性。未來的工作可以進一步最佳化KAN與MLP的比例,以及探索在其他感知任務中的應用。