☰
(论文速读)SEI:利用尺度等变性实现无需清晰标签的图像超分辨率与去模糊
2026/11/3 2:53:35 网站建设 项目流程

论文题目:Scale-Equivariant Imaging: Self-Supervised Learning for Image Super-Resolution and Deblurring(尺度等变成像:面向图像超分辨率与去模糊的自监督学习)

期刊:IEEE Transactions on Computational Imaging,2026

摘要:近年来,自监督方法已被证明在多种成像逆问题中能够达到接近监督方法的效果,这为真实图像难以获取或获取成本高昂的科学成像和医学成像应用采用学习式方法铺平了道路。这些方法主要依赖图像分布在平移和/或旋转变换下的不变性,仅从不完整测量数据中学习。然而,对于在多数成像系统中具有重要作用的图像超分辨率和去模糊问题,已有方法仍无法取得具有竞争力的性能。本文表明,当测量只保留低频信息时,旋转和平移不变性不足以支持有效学习。为此,作者提出尺度等变成像(Scale-Equivariant Imaging,SEI):一种新的自监督方法,利用许多图像分布近似满足尺度不变性的性质,从而恢复测量过程中丢失的高频信息。作者在真实数据集上的一系列实验表明,该方法优于其他自监督方法,并能够获得与完全监督学习相近的性能。

一、研究背景与核心问题

图像超分辨率(Super-Resolution,SR)和去模糊(Deblurring)都属于成像逆问题:给定一张经过退化的观测图像,希望恢复其未退化前的细节。常见前向模型可以写成,其中 x 是未知清晰图像,A 表示模糊、下采样等成像过程,y 是观测,是噪声。监督学习可以利用大量 (y,x) 成对数据训练恢复网络,但医学成像、显微成像等场景往往难以获得可靠的清晰真值。

自监督学习试图只从观测 y 中学习。不过,这里有一个根本问题:即使模型输出经退化后与观测一致,也不代表恢复出了高频细节。对超分辨率来说,下采样算子直接丢掉部分信息;对去模糊来说,模糊核会严重压制某些频率。于是,只优化测量一致性,网络仍可能给出一张与观测吻合、却缺少真实细节的图像。

已有等变成像(Equivariant Imaging,EI)依赖平移、旋转等变换构造自监督约束,但平移和旋转不会扩展图像频谱的带宽。论文真正要回答的是:当高频已被成像系统过滤,能否仅根据低频观测,构造对高频恢复有用的学习信号?作者的答案是把利用的对称性从旋转、平移换成尺度变换。

二、核心洞察:尺度变换为什么能帮助恢复高频?

2.1 旋转、平移与尺度变换的差别

在频域中,旋转只是旋转频谱,平移主要改变相位,它们不会把被成像系统截断的高频内容转移到可观测频段。尺度变化则不同:图像结构经过缩放,同类纹理会以不同的空间频率出现。这意味着,如果一个图像集合在统计意义上近似满足尺度不变性,就可以通过不同尺度之间的联系,为原先无法直接观测的细节引入额外约束。

论文将观测对应的带宽记为,将希望恢复的目标带宽记为,且。直观理解是:原始观测只涉及较窄频带,但不同尺度的图像样本可以给出与更宽频带相关的统计约束。这里讨论的不是单张图像经过缩小就“凭空生出”真实纹理,而是利用整个图像分布跨尺度的统计结构,让从退化数据学习恢复算子变得可能。

2.2 两个理论结论的作用

作者首先证明,仅有旋转和平移不变性,并不足以唯一确定更高带宽的图像集合:可以构造两组高频内容不同、但在低频观测上完全相同的图像分布。相反,在潜在图像集合满足严格尺度不变性、成像滤波器满足相应条件时,较高带宽的图像集合可以由低频观测集合唯一确定。

需要区分图像集合可辨识性与单张图像恢复:前者是论文理论直接论证的内容;后者还依赖从观测到潜在图像存在适当的一一对应关系。现实自然图像也通常只是近似尺度不变,因此作者随后设计了可训练的自监督目标,并用实验检验这种归纳偏置是否有效。

三、SEI 方法框架:SURE + 尺度等变约束

论文 Figure 1:SEI 自监督训练框架与两项损失

SEI 并不提出新的超分辨率网络结构,而是提出一种可以训练恢复网络的损失设计。作者以 SwinIR 作为主要骨干网络,学习从退化图像 y 到恢复结果的映射。整体训练由两条互补的约束构成:一条确保恢复结果与真实观测一致,另一条利用缩小后的恢复结果构造新的自监督训练样本。

3.1 前向退化模型与 SURE 损失

对超分辨率和去模糊,论文统一采用如下退化模型:

其中 h 是成像滤波器,表示r倍下采样。去模糊使用 r=1,超分辨率使用 r>1。训练时假设前向算子已知,并按高斯噪声设定构建损失,因此本文研究的是非盲图像恢复,不能直接等同于未知退化核的盲恢复。

作者使用 Stein 无偏风险估计(SURE)度量测量空间中的恢复误差。其形式为:

第一项要求恢复图像重新退化后接近观测;散度项是根据噪声统计进行的无偏风险修正,采用 Monte Carlo 估计。没有噪声时,SURE 退化为测量一致性损失。它的优势是不用清晰标签,问题在于仅在可观测空间进行约束,难以决定缺失高频该是什么样子。

3.2 尺度等变损失:用缩小后的预测构造伪目标

SEI 的关键操作可以写成如下数据流:

具体来说,先对观测做一次恢复;再对恢复结果实施下缩放,作为暂时的学习目标;随后将这个目标重新施加已知退化并添加噪声,送回同一个恢复网络。网络第二次恢复的结果应该接近缩放后的目标,因此定义:

这里的不是从数据集中取出的清晰标签,而是模型自身预测经过尺度变换得到的伪目标。它之所以有价值,是因为在尺度不变性假设下,缩小的图像仍与目标图像分布具有联系;再结合前向退化,模型必须在不同尺度上学会一致的恢复行为。

3.3 联合目标与停止梯度

最终损失为,论文实验统一取。两项损失职责不同:SURE 保证输出不会脱离真实测量,SEQ 用跨尺度自监督补充高频结构方面的学习信号。

一个容易忽略却至关重要的实现细节是Gradient Stopping(停止梯度):生成时,不允许梯度沿伪目标分支反向传播。这样,优化主要推动第二次网络输出去拟合当前伪目标,而不是让伪目标本身随着参数变化一起移动。作者还通过消融验证了这一选择。缩放实现采用双三次插值、随机网格中心,并从中采样。

四、和传统自监督超分、等变成像方法有何不同?

第一类是 SURE 或简单的测量一致性方法,它们不需要清晰图像,但在高频缺失时存在根本的信息盲区。第二类是传统 EI,通过平移、旋转构造变换一致性,对一些欠采样逆问题有效,但遇到频带受限的模糊与超分辨率问题时,所用变换难以带来新的频率约束。

第三类是基于 Patch Recurrence 的经典自监督方案(论文称 CSS):把观测图像本身当作学习目标,并进一步退化得到输入。这类思路在低噪声超分辨率中有一定效果,但当观测已经明显模糊或含噪时,“把观测当成清晰目标”的假设不再稳妥。

SEI 的不同之处在于:先产生恢复结果,再对恢复结果缩放,最后用已知物理退化生成一组新的训练输入—目标对应关系。因此,SEI 既不是简单把输入图像做数据增强,也不是只添加一个等变正则项;它为原本无法在清晰图像空间直接监督的恢复问题,设计了一条自监督训练路径。

五、实验结果与消融分析

5.1 实验设置

作者研究已知退化算子下的去模糊与超分辨率,涵盖 Gaussian Blur、Box Blur 以及 2×、3×、4× 下采样,主要使用 DIV2K、Urban100 和 CT 扫描图像。合成退化中加入标准差 $\sigma=5/255$ 的高斯噪声;主要恢复网络使用 SwinIR。评价指标包括 PSNR、SSIM 和 LPIPS,其中 PSNR、SSIM 依据 Y 通道计算,LPIPS 依据 RGB 图像计算。

5.2 去模糊:自监督与完全监督之间的差距被缩小

论文 Figure 4:Gaussian Blur 下的恢复结果可视化比较

在 DIV2K 的中等 Gaussian Blur 设置下,SEI 的 PSNR 为25.9 dB,与完全监督模型的25.9 dB相同;CSS 为24.2 dB,传统 EI 为24.8 dB。对中等 Box Blur,SEI 为27.0 dB,完全监督为27.3 dB,CSS 为24.2 dB。这些结果说明,在两类模糊核上,尺度自监督可以显著改善相较其他无清晰标签训练方法的恢复质量。

值得注意的是,SEI 并不是所有退化强度下都与监督方法完全持平。例如较小 Gaussian Blur 条件下,SEI 为 30.3 dB,而监督模型为 30.7 dB。论文更可靠的结论是:SEI 在多种已知模糊核上接近监督上限,并明显改善部分传统自监督方法的表现。

5.3 超分辨率:尺度倍率越高,比较结论越需要细看

在 DIV2K 的 4× 超分辨率实验中,SEI 达到23.73 dB,CSS 为21.38 dB,EI 为23.51 dB,完全监督为24.25 dB,显示出较强竞争力。但在 2× 超分辨率上,CSS 的28.50 dB高于 SEI 的28.09 dB;3× 设置下两者均为25.29 dB。这说明“SEI 优于所有自监督方法”不宜被理解为每个倍率、每项指标都领先。

作者还在 Urban100 与 CT 图像中测试了跨图像分布的表现。在对应去模糊设置下,Urban100 上 SEI 为23.63 dB,高于监督模型的23.34 dB;但 CT 数据上 SEI 为34.05 dB,距离监督模型的38.10 dB仍有明显差距。数据分布与退化条件仍会影响无监督恢复的效果。

5.4 测试数据自监督微调

论文 Figure 6:自然图像预训练模型在 CT 图像上的自监督微调

自监督方法的另一项价值是能直接利用没有清晰真值的目标域观测继续训练。作者先在自然图像上训练超分辨率模型,再在 CT 数据上使用自监督目标微调:2× 设置下 PSNR 从34.9 dB提升至37.1 dB,4× 从32.4 dB提升至32.9 dB。这属于针对新数据分布的适应性训练,并不是模型在完全不更新参数的情况下实现泛化。

5.5 消融实验:验证了哪些设计?

  • 停止梯度:比较生成缩放伪目标时是否阻断梯度,以检验训练路径的必要性。
  • 损失权重与尺度策略:比较、尺度采样区间和离散/连续尺度配置,以检验联合目标对设置的敏感性。
  • 变换与插值:比较每个样本使用的缩放次数、双三次/双线性/最近邻插值,以研究自监督样本构造方式。
  • 训练方式与网络结构:比较 Curriculum Learning,以及 SwinIR、UNet、DRUNet、SCUNet 等骨干的适配情况。

六、总结与思考

如果把 SEI 的核心思想压缩成一句话,就是:在清晰图像标签缺失且成像过程丢失高频信息时,用尺度不变的图像分布假设,配合已知退化模型与停止梯度的伪目标学习,构建能约束高频恢复的自监督训练方式。

这篇论文有三个特别值得借鉴的点。首先,它不是一味改造恢复网络,而是追问“哪种变换真正能为当前逆问题提供缺失的信息”,把自监督设计与成像算子的频谱性质联系起来。其次,SURE 与 SEQ 分别承担可观测信息一致性和跨尺度结构学习,两者缺一不可。最后,它说明了没有清晰标签时仍可以在目标域继续优化,这对难以采集参考真值的医学或科学成像具有实践价值。

同时也应看到方法边界:论文主要检验已知模糊核、已知下采样规则以及设定噪声模型的非盲任务;理论结论基于尺度不变性等假设,现实图像仅近似满足;在部分超分倍率、CT 数据分布和感知指标上,SEI 与其他方法仍有差距。后续值得研究的是未知退化模型、更复杂真实噪声与更弱尺度不变性条件下,这种自监督机制还能成立到什么程度。

论文:https://doi.org/10.1109/TCI.2026.3660011
公开预印本:https://arxiv.org/html/2312.11232v4
项目代码:https://github.com/jscanvic/Scale-Equivariant-Imaging

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询