项目简介

通过参数增加使得模型不仅能够修复图像中的错误或损坏，还能根据文本提示进行智能修复。

例如根据描述来改变图像中的特定细节。这样的处理方式提升了图像修复的质量和智能度，使得模型能够更准确、更灵活地恢复和改进图像。

SUPIR的主要功能图像修复：

SUPIR的核心功能是对低质量或损坏的图像进行修复，提高其视觉质量。这包括处理如模糊、噪点、色彩失真等问题，使图像恢复到高清晰度和高质量状态。

文本引导的修复：SUPIR能够根据文本提示来指导图像修复。这意味着用户可以通过文本描述来指定希望修复或改变的图像部分，使得修复过程更加定制化和精确。

核心技术创新

1、模型放大：SUPIR通过扩大模型规模（即增加模型的参数数量）来提升图像修复的能力。这种放大使得模型能够学习更多的特征，处理更复杂的图像修复任务。

2、多模态技术： 结合了图像处理和文本处理的技术，允许模型不仅理解图像内容，还能理解与之相关的文本描述，从而进行更准确的修复。

3、高质量训练数据集：收集了2000万高质量图像和文本注释，用于训练和控制图像修复。利用大量高分辨率、高质量的图像和相关文本注释作为训练数据，提高了模型的性能和适用性。

4、负质量提示： 通过引入质量较差的图像样本和相应的负面描述作为训练数据，进一步提升模型在感知质量方面的表现。

工作原理

1、图像编码与解码：SUPIR利用一个编码器将低质量图像映射到潜在空间，然后使用解码器重建修复后的图像。

2、文本处理： 通过一个多模态语言模型，SUPIR能够理解与图像相关的文本描述，并将这些信息融入到图像修复过程中。

3、适配器设计：SUPIR设计了一个大规模适配器，用于将模型的生成能力调整到与输入图像相匹配的状态，确保修复过程符合用户的具体需求。

4、采样方法： 采用特殊的采样方法，用于指导图像的恢复过程，以防止过度生成，确保修复后的图像保持真实和高质量。

实验结果

在多种IR任务上展示了出色的修复效果，特别是在复杂和具挑战性的真实世界场景中

1、多样化的图像修复任务：SUPIR被应用于各种类型的图像修复任务，包括但不限于去噪、去模糊、超分辨率、色彩校正等。这显示了其广泛的适用性和灵活性。

2、真实世界的复杂场景处理： 实验中的一个重要亮点是SUPIR在处理真实世界复杂场景中的高效表现。这些场景通常包含多种类型的图像退化，如不均匀光照、运动模糊和天气影响等，这些都是传统图像修复方法难以处理的。

3、高级特性的应用：SUPIR展示了如何根据复杂的文本描述进行定制化修复。例如，它可以根据用户提供的描述，调整图像中特定对象的纹理或颜色，或者改变场景的某些元素。

4、质量评估： 在实验中，SUPIR修复的图像在质量上得到了显著提升。这通过与现有技术的对比评估，以及视觉质量和客观指标（如图像清晰度、纹理细节等）的测量来证实。

5、挑战性任务的处理： 特别值得注意的是，SUPIR在处理一些传统方法难以解决的挑战性任务时表现突出，如极度模糊或严重损坏的图像修复。

6、用户定制和互动性： 实验还展示了SUPIR在用户交互方面的能力，用户可以通过简单的文本指令控制图像的修复过程，这为图像修复提供了新的互动维度。

项目及演示：supir.xpixel.group
论文：arxiv.org/abs/2401.13627