深度学习缝模块怎么描述创新点？(附写作模板+涨点论文)

news2024/11/18 7:30:42

深度学习缝了别的模块怎么描述创新点、怎么讲故事写成一篇优质论文？

简单框架：描述自己这个领域，该领域出现了什么问题，你用了什么方法解决，你的方法有了多大的性能提升。

其中，重点讲清楚这两点：创新和贡献。

明确创新点：即使X只是A的改进，也要明确指出X的新颖之处。（例句：本文提出了一种新的算法X，它通过Y策略优化了Z过程，与现有的算法A相比，它在精度和计算效率上都有显著提升。）
实际贡献：在描述贡献时，不仅要说明性能提升的百分比，还要深入探讨这些改进对实际应用的具体影响。（例句：该模型在标准数据集上的分类准确率提高了X%，这在实际应用中可以减少误诊率，提高患者的治疗效果。）

为了方便大家理解和练手，我特别整理了一份人工智能高质量论文写作模版，可以直接拿来套用。另外还整理了60篇今年最新的涨点论文给同学们作参考，开源代码也附上了。

需要的同学看文末

回到正题，那么具体该怎么讲呢？

创新

新问题

我们阅读论文的时候常会看到“传统xx技术面临xx问题”、“现有的研究xx效果不佳”等描述，如果这些问题正好是别人还没有解决的，那么这就是一个新问题。

新方法

模型上的创新

写清楚为什么要这样“缝合”。在学术研究中，使用现有的模块并在此基础上进行改进是常见的做法。关键在于如何将各个部分有效地结合起来，并通过实验证明整体的性能提升。说白了你需要证明你的多个模块包装起来的整体要有比较大的改进，建议大家哪儿抄的就从哪儿仿照着写。

比如你缝合了A+B，你可以包装成：A+B有效成分+C杂质+D微量杂质。描述的时候不要提A和B的定义，要重新给自己的框架定义。另外，这部分的重点在于分析，你需要分析为什么单独A和单独B效果不好，找出原因，并说明你提出的解决办法是A+B。

参考论文1

标题：FR: Folded Rationalization with a Unified Encoder

方法：这篇论文提出了一种名为Folded Rationalization (FR)的方法，用于解决两阶段理性化模型中的退化问题。FR提出了一种将理性化模型的两个阶段从文本语义提取的角度折叠成一个阶段的方法。FR的关键思想是在生成器和预测器之间使用统一的编码器，基于此，FR可以通过访问传统两阶段模型中生成器阻塞的有价值信息来促进更好的预测器，从而带来更好的生成器。

创新点：

FR提出了一种折叠合理化方法，将生成器和预测器阶段结合在一起，使用一个统一的编码器。
FR中的统一编码器允许预测器访问被生成器阻塞的有价值信息，从而提高了预测器和生成器的性能。

参考论文2

标题：GIRAFFEDET: A HEAVY-NECK PARADIGM FOROBJECT DETECTION

方法：本文提出了一种新颖的重型颈部范式框架GiraffeDet，即一种类似长颈鹿的网络，用于解决大尺度变化问题。GiraffeDet使用了轻量级的空间到深度链作为骨干网络，并提出了广义FPN作为重型颈部。空间到深度链以轻量级的方式提取多尺度图像特征，广义FPN用于学习足够的高级语义信息和低级空间信息交换。

创新点：

本文提出了一种新颖的轻量级替代骨干网络和灵活的FPN相结合的检测器，名为GiraffeDet。
GiraffeDet使用轻量级的空间到深度链作为骨干网络，以轻量的方式提取多尺度图像特征。
GiraffeDet还使用了提出的广义FPN作为重型网络，用于学习足够的高级语义信息和低级空间信息交换。

方法上的创新

目前常用的找创新点的操作是，找相似领域的模块微调，或者直接缝，组成自己的方法，这样做可以同时兼顾理论基础以及涨点。不过你在描述的时候需要注意，如果模块的改动较大，就要说明受了什么启发，改动小就引言带一下就行。

参考论文3

标题：Ranger21: a synergistic deep learning optimizer

方法：这篇论文介绍了一种名为Ranger21的新型优化器，它是在AdamW的基础上选择、测试和整合了八个组件而得到的。研究人员发现，Ranger21相比于AdamW在验证准确率、训练速度、训练曲线平滑性等方面都有显著改进，甚至可以在没有批归一化层的情况下训练ImageNet2012上的ResNet50模型。

创新点：

Ranger21是一种基于AdamW的优化器，通过选择、测试和整合八种不同的优化器增强方法，实现了优化效果的协同增强。
引入了稳定的权重衰减方法，将AdamW风格的权重衰减重新加权，考虑了有效步长，从而模拟了参数相关的各向异性噪声，有助于逃离鞍点并推动优化器朝着更平坦的极小值移动，从而提高泛化性能。
引入了正负动量方法，实验证明在各种数据集上能够提高性能，并与Ranger21中使用的其他算法相互补充。