今天和大家分享一种创新的深度学习技术:KAN+特征提取。
这种技术通过引入KAN来增强模型的特征处理能力,借由KAN的自适应激活函数,动态调整数据特性,从而有效提取更加准确的特征,实现更高性能的模型表现。
这种优势让KAN+特征提取在图像分类、目标检测、语义分割等任务中表现尤为突出,再加上结合带来的强大性能和效率,让它一跃成为了CV领域一个新兴的研究热点,拥有很大的创新空间。
目前已经有成果表明,KAN+特征提取效果出色,这里为了帮大家省了查资料的时间,我挑选了最新的10篇论文给大家参考,idea和效果都展示了,想发论文的同学抓紧啦。
论文原文+开源代码需要的同学看文末
iKAN: Global Incremental Learning with KAN for Human Activity Recognition Across Heterogeneous Datasets
方法:论文介绍了增量学习框架iKAN,它结合了KAN进行特征提取,用于跨不同数据集的人体活动识别。iKAN框架通过使用KAN代替传统的MLP作为分类器,利用了样条的局部可塑性和全局稳定性,解决了现有方法在处理跨数据集任务时遗忘问题。
创新点:
-
用KAN替换传统的多层感知器(MLP),以提高模型的局部可塑性和全局稳定性。
-
增加了一个特征重分配层,帮助模型适应新任务的输入,同时保持对旧任务的记忆。
-
设计了一个能够处理不同传感器数据的多编码器架构,并通过单一分类器输出一致的结果。
FourierKAN-GCF: Fourier Kolmogorov-Arnold Network--An Effective and Efficient Feature Transformation for Graph Collaborative Filtering
方法:论文提出了一种名为FourierKAN-GCF的图推荐模型。Fourier KAN利用傅里叶系数代替标准KAN中的样条函数,以降低训练难度并增强表示能力。这种方法通过将KAN与特征提取相结合,旨在提高图协同过滤任务的性能。
创新点:
-
引入了FourierKAN,替代传统的多层感知器(MLP)用于图卷积网络(GCN)中的特征变换。此方法增强了图协同过滤(GCF)的表现力,同时简化了训练过程。
-
采用消息丢弃和节点丢弃策略,以提高模型的表示能力和鲁棒性,增强了模型在不同数据集上的性能表现。
GraphKAN: Enhancing Feature Extraction with Graph Kolmogorov Arnold Networks
方法:论文介绍了一种名为GraphKAN的新方法,它结合了图神经网络和KANs来增强特征提取。GraphKAN通过用KANs替代MLPs和激活函数,提高了非线性能力和表示能力,尤其在处理图形数据时更为有效。
创新点:
-
初次将KAN应用于图神经网络(GNN),替代传统的多层感知器(MLP),从而解决信息损失问题。
-
通过使用基于样条的单变量函数作为可学习的激活函数,提高了模型的效率和可解释性。
-
通过用KAN替代MLP和固定激活函数,消除了ReLU等激活函数在表示能力上的限制。
Initial Investigation of Kolmogorov-Arnold Networks (KANs) as Feature Extractors for IMU Based Human Activity Recognition
方法:作者将KANs作为一种新型神经网络架构,用于基于惯性测量单元(IMU)的人体活动识别(HAR)任务中的特征提取器。结果显示,KAN特征提取器在所有数据集上均优于CNN,同时参数更为高效。
创新点:
-
首次探索了将KANs用于IMU数据的人类活动识别,替代传统的CNN特征提取器。
-
KAN在参数使用上更为高效,与CNN相比,在保持或提升性能的同时,减少了模型参数的数量。
-
提出了并测试了几种不同的KAN架构变体,以适应不同的人类活动识别任务,展示了KAN在这一领域的潜力和灵活性。
关注下方《学姐带你玩AI》🚀🚀🚀
回复“KAN特征”获取全部论文+开源代码
码字不易,欢迎大家点赞评论收藏