一、 创新的分类

1、算法创新

比如提出CNN、LSTM、GCN、Attention、GAN这些伟大的算法，图灵奖大佬或在路上的大佬

2、架构创新

提出Transformer这种新的架构

3、迁移创新

将NLP的Transformer应用到CV领域，打破了cv和nlp的壁垒

VIT

4、思想创新

预训练

5、方法创新

最多的还是基于Transformer，大多对注意力改进

6、组合创新

1、融合的方式：串行、并行
2、对模块进行微改，看起来具有创新性（可能没啥效果）
三四区=LSTM+Attention（变体，通道，概率稀疏注意力，金字塔注意力）+posion embedding
三四区=Transformer+Attention+cnn+pool+position embedding
组合创新，大有可为！！

二、组合创新的必要性

上限高低：上可顶刊顶会，下可三区四区EI
入场门槛：既可0论文入手，也可顶会下场
助人程度：上可任教读博，下可毕业无忧

三、组合创新的流程

一般的科研流程：
1、明确领域内存在的问题（广泛阅读基础，思考）
2、提出合适的算法去解决（明确每个算法的优点）
组合创新的流程：
1、提出一个组合模型（了解一些顶会顶刊的模型框架，以及具体的算法，并进行总结）
2、了解对应论文中的问题（明确论文的动机和贡献，动机是你的动机的一部分，贡献是你的贡献的一部分，模块来源于哪一篇论文，好好读）

四、组合创新举例

1、组合创新公式

组合创新=基准模型（Transformer、U-Net）+模块（Attention、GCN）
如果想发一区：
1）组合的方式：串行、并行、融合等
2）对模块进行微改，或是加入一些小trick，看起来具有创新性

2、生活中的例子

3、关于CV的例子

4、魔改的方法

组合创新=基准模型（Transformer、U-Net）+模块（Attention、GCN）
如果想发一区：
1）组合的方式：串行、并行、融合等
2）对模块进行微改，或是加入一些小trick，看起来具有创新性