本发明属于在轨图像处理领域,尤其涉及一种低光照空间目标图像亮度增强方法及系统。
背景技术:
1、低光照条件下拍摄的图像通常会遭受到诸多问题,例如噪声增多、对比度降低和细节丢失等。这些问题在空间环境中尤为突出,因为空间环境的光照条件不仅低而且多变,加之空间目标的特殊性,如卫星、太空站等,使得图像质量的提升显得尤为重要和挑战性。目前,常见的图像亮度增强技术包括直方图均衡化、局部增强算法以及基于深度学习的方法。虽然这些方法在一般情况下能够有效增强图像亮度和对比度,但在处理极端的低光照空间图像时,往往会引入过度增强的问题,如噪声放大和细节失真。此外,这些技术往往没有针对空间目标的特殊属性(如材质、形状和反光特性)进行优化。
2、比如,文献号为cn114862722a的现有技术,公开一种图像亮度增强实现方法及处理终端,所述方法包括:对原始图像进行曝光,得到n张曝光图像;将各曝光图像由rgb转换为yuv,得到yuv曝光图像;从yuv曝光图像中提取出色阶分布图,在色阶分布图中,按亮度从小到大依次划分为暗调、中间调和高光的区域,为yuv曝光图像的每个像素点赋予权重值,且依次按暗调、中间调和高光区域内的像素点赋予依次增大的权重值,将相同位置的像素点根据各自的权重进行加权平均得到的像素值作为目标像素值,根据目标像素值按位置重构出目标图像,该目标图像作为亮度增强后的图像。该现有技术能够不影响原始图像原本曝光正常的区域,阴暗部分亮度得到提高,还原了原本色彩。文献号为cn115861101a的现有技术公开了一种基于深度可分离卷积的低照度图像增强方法。其包括:步骤s1、采集日夜间隧道施工的的监控视频并分割成帧图像,以便对低照度图像进行增强;步骤s2、搭建基于深度可分离卷积的自校准低光照图像增强模型,确定模型参数,神经网络的损失函数,将模型性能优化至最佳;步骤s3、将训练好的低照度图像增强网络用于昏暗的日夜间帧图像进行图像亮度增强,得到光照增强后的图像。该方法估计的照明保持了良好的光滑性,且在图像质量和推理速度方面都获得了非常优越的性能,能够在隧道复杂环境中快速改善图像质量。
3、可看好出,在现有技术中,针对空间目标,如卫星或太空碎片,通常具有复杂的几何形状和材料特性,这些特性在低光照条件下的表现与地面上的物体截然不同的低光照空间目标图像如何进行亮度增强,并没有人提出并给出解决方案。
4、因此,增强这类图像时需要考虑到其独特的反射特性和背景光照的影响,以及如何在增强图像亮度的同时保留重要的空间目标信息。
5、鉴于现有技术的不足,开发一种专门针对低光照空间目标图像的亮度增强方法显得尤为重要。这种方法应当能够有效地处理图像噪声,改善图像的动态范围,同时保留重要的目标细节。此外,考虑到空间任务的实时需求,该方法还应具有较高的计算效率和适应性,以便能够在不同的观测条件和任务需求下进行快速调整和应用。
技术实现思路
1、本发明要解决的技术问题是:
2、本发明的目的是提供一种低光照空间目标图像亮度增强方法及系统,以解决在太空环境下常见的低光照以及太空环境独特且光照条件极为不稳定时,常常因太阳光的遮挡或宇宙背景光的缺失而导致获取的图像亮度不足,从而影响图像的质量和后续的图像分析及应用的问题。
3、本发明为解决上述技术问题所采用的技术方案为:
4、一种低光照空间目标图像亮度增强方法,所述方法包括
5、步骤一、获取低光照图像
6、低光照图像的定义为:低光照图像是指在极其微弱光照条件下获取的图像,所述图像具有平均亮度低于30luminance units、信噪比低于20db、对比度低于0.1、色彩保真度ciede2000色差超过5、动态范围低于40db的特征;同时,所述图像还需满足太空在轨需求,包括复杂光照条件、特殊目标特性和环境适应性;这种定义能够为图像亮度增强方法的应用提供明确的标准和指导;
7、步骤二、构建亮度增强网络
8、构建基于无监督深度学习和retinex算法结合的轻量级卷积神经网络作为亮度增强网络,利用轻量级卷积神经网络(cnn)来估计低光照图像的照明成分;
9、该网络接收一张低光照图像输入,将输入图像分解为照明层和反射层,之后输出反射层作为图像亮度增强后的结果;
10、步骤三、亮度增强网络模型训练
11、在网络训练过程中,通过无参考损失函数如曝光损失、空间损失和照明平滑损失训练网络以避免对成对训练数据的依赖;该无参考损失函数能够在没有真实标签的情况下,有效地训练网络以实现图像增强;其中曝光损失用于增亮图像中欠曝光的区域,空间损失保证了图像增强后的空间一致性,照明平滑损失则鼓励照明层的平滑变化,以符合现实世界中照明的自然变化;
12、步骤四、融合处理
13、在获取经过神经网络得到光照条件增强的图像后,与原图像进行融合处理;对两张图像对应的像素值进行加权平均,融合效果通过计算峰值信噪比来判定;如不符合要求则返回步骤三进行网络训练;
14、步骤五、验证亮度增强网络训练后对数据增强效果:
15、获取经过融合后的图片,之后进行网络模型测试与优化,根据网络模型的训练效果和性能表现,调整参数不断调优,直至满足增强后的低光照空间目标图像质量评估要求。
16、进一步地,在步骤一中,低光照图像是指在空间环境中由卫星或空间探测设备拍摄,或利用仿真引擎制作作为输入的低光照图像。
17、进一步地,在步骤二中,所述轻量级卷积神经网络(cnn)基于u-net架构,用于为低光照图像的照明估计,网络包含七层,每层使用3×3的卷积核,前六层的输出通道数为8,最后一层的输出通道数为1,网络结构中包含跳跃连接(skip connections),用以保持图像细节和减少训练过程中的信息丢失;
18、亮度增强网络分别对照明和反射分量估计,其中照明估计使用编码器提取的深层特征来估计图像的照明分量,反射估计将原始输入图像除以估计的照明分量,以获得图像的反射分量,建立的retinex模型如下:
19、i=r×l
20、式中,图像i可以被模型化为照明分量l和反射分量r的逐元素乘积,其中l表示光源对物体的照明情况,通常变化缓慢,分布均匀;r表示物体本身的颜色和属性,与物体的固有属性有关,不受光照强度的影响。
21、进一步地,在步骤三的具体步骤为:
22、(1)初始化亮度增强网络模型:根据预先定义的轻量级卷积神经网络架构,使用xavier初始化方法初始化亮度增强网络模型的所有权重;xavier初始化能够保证网络权重在训练初期有合理的分布,有助于提高模型训练的稳定性和收敛速度;
23、(2)定义损失函数:构建包括曝光损失、空间损失、照明损失、平滑损失在内的复合损失函数,用于优化低光照图像亮度增强网络的训练过程;复合损失函数的内容损失部分用于确保增强后的图像在语义上与原始低光照图像保持一致,维护图像的原始信息和细节;空间损失则旨在调整增强图像的整体风格,使其符合特定的视觉标准;复合损失函数加入的正则化项有助于防止网络过度拟合,促进模型在不同低光照条件下的泛化能力;(通过这种方式,该复合损失函数为低光照图像的有效增强提供了强有力的训练基础,从而实现高质量的图像输出);
24、(3)训练和监控:在训练完成后,使用训练好的模型对实际的低光照图像进行亮度增强处理;通过将增强后的图像与原始图像进行比较,不仅评估图像的视觉效果,还综合考察生成数据的质量、模型的收敛速度以及风格迁移的准确性,全面评估模型的性能和实用性;
25、(4)亮度增强效果与性能验证:利用训练好的亮度增强网络模型对空间在轨目标图像进行亮度增强处理;通过将亮度增强图像与原始图像进行对比,判断提升亮度效果,考虑图像改善质量、模型收敛的速度以及网络的抗噪性,从而全面评估网络模型的性能。
26、进一步地,用于低光照图像高度增强的亮度网络模型通过无监督学习训练实现,核心在于无参考损失函数设计,损失函数包括曝光损失、空间损失和照明、平滑损失四个组成部分:
27、曝光损失定义如下:
28、
29、式中,m是图像被分割的非重叠局部区域的数量,rk是在反射率图像中第k个区域的平均强度,e是预设的期望曝光水平,这里设定为0.6;该损失函数通过增强图像中的欠曝光区域来提高整体亮度,使其达到理想的曝光水平,有助于在不同亮度条件下均能获得一致的图像质量;
30、空间损失函数定义如下:
31、
32、式中,k是图像中考虑的局部区域的数量,ω(i)表示围绕区域i的四个邻近区域(上、下、左、右),r和i分别代表增强后和原始图像的平均局部亮度;该损失保持增强后图像与原始低光照图像在空间一致性上的相似性,从而保持图像结构的完整性。
33、照明损失函数定义如下:
34、
35、式中,这里和分别是水平和垂直方向上的梯度运算,代表照明分量l在这两个方向上的平滑度;
36、图像平滑损失函数定义:
37、
38、式中:i表示图像,i[i,j]表示图像在位置(i,j)的像素值。这个公式计算了图像所有相邻像素间的梯度值,并求和后取平方根,从而量化图像的整体平滑度;该损失函数代表图像中相邻像素间强度差的总和,表示图像的局部平滑度的度量;分别是图像在水平和垂直方向上相邻像素间的差异,这些差异表示了图像在这些方向上的梯度;i[i,j+1]-i[i,j]和|i[i+1,j]-i[i,j]分别是图像在水平和垂直方向上相邻像素间的差异,所述差异表示图像在这些方向上的梯度;
39、总损失函数设置为:
40、ltotal=λ1lexp+λ2lspa+λ3lsmo+λ4ltv
41、式中,λ1λ2λ3λ4代表平衡各个损失项重要性的权重系数,这些权重系数可以根据具体任务需求进行调整。
42、进一步地,在步骤三中,网络训练在ubuntu 20.04系统上基于pytorch深度学习框架训练,训练使用nvidia 3060gpu;设置初始学习率为0.0001;批处理设置为8;训练周期为40个周期;采用l2正则化处理。
43、进一步地,在步骤四融合处理的具体步骤为:
44、在获取经过神经网络得到光照条件增强的图像后,与原图像进行融合处理;对两张图像对应的像素值进行加权平均,公式为
45、
46、其中ifused(x,y)是融合后图像在(x,y)处的像素值,ii(x,y)是原图像和光照增强后的图像在(x,y)处的像素值,wi是对应的加权系数,根据增强的效果动态调整,增强效果通过计算峰值信噪比来判定,峰值信噪比的计算公式为
47、
48、式中,maxi是图像可能的最大像素值(如255对于8位图像);其中mse是均方误差,计算如下:
49、
50、式中,i是原始图像,k是融合后的图像,m和n分别是图像的行数和列数;对得到峰值信号比后对加权系数进行动态调整优化。
51、进一步地,在步骤五的具体过程包括如下步骤:
52、1)、数据预处理与准备
53、对收集到的低光照图像数据集进行一系列预处理操作:包括将图像中的像素值进行标准化处理,确保它们位于0到1的范围内,从而保证数据在处理过程中的一致性;此外,根据亮度增强模型的要求,对图像进行尺寸调整,如将图像大小调整为256×256像素;还应用一些不改变图像语义内容的数据增强技术以增强数据集的多样性,所述增强技术包括随机旋转和翻转;
54、2)、增强前的质量评估
55、建立针对亮度增强的质量评估指标:图像的亮度水平、细节的可见性和噪声水平;然后对数据集中的图像按照这些指标进行初步评估,并记录下它们的初始质量状态,为之后的增强效果比较提供参照标准;
56、3)、增强后的质量评估
57、使用无参照图像质量评估指标(如niqe和brisque),来评估或测量增强后的图像的增强质量;将比较增强前后的质量评分,以衡量图像亮度提升的程度,并根据评估结果对网络参数进行调整和优化;
58、无参照图像质量评估指标包括niqe和/或brisque,
59、niqe是一种基于自然场景统计特性的评分系统,不依赖于具体的图像内容或任何类型的参考图像;
60、brisque也是一种无参照图像质量评估算法,通过分析图像的空间域特征来预测图像质量;brisque关注图像的自然属性(尤其是图像的局部空间特征,如图像的纹理和边缘);
61、4)、域适应性评估与泛化能力测试
62、通过量化分析性能指标:准确率、召回率,以评估模型的域适应性和泛化能力;根据测试结果,优化网络模型及数据处理流程。
63、一种低光照空间目标图像亮度增强系统,该系统具有与所述低光照空间目标图像亮度增强方法的步骤对应的程序模块,运行时执行所述的低光照空间目标图像亮度增强方法中的步骤。
64、一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序配置为由处理器调用时实现所述的低光照空间目标图像亮度增强方法的步骤。
65、一种低光照空间目标图像处理设备,所述低光照空间目标图像处理设备包括至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行所述的低光照空间目标图像亮度增强方法。
66、本发明具有以下有益技术效果:
67、本发明是一种基于图像亮度增强网络,对处在低光照条件下有效的空间目标进行图像亮度增强的方法,专门针对低光照空间目标图像的亮度增强而提出的。太空环境独特且光照条件极为不稳定,常常因太阳光的遮挡或宇宙背景光的缺失而导致获取的图像亮度不足,从而影响图像的质量和后续的图像分析及应用。通过本发明,能够显著提升在太空低光照环境下捕获图像的亮度和可视性,进而提高空间探测、监测和研究的效率和准确性。
68、本发明针对低光照空间目标图像进行亮度增强时特别考虑到其独特的反射特性和背景光照的影响,以及如何在增强图像亮度的同时保留重要的空间目标信息。本发明方法能够有效地处理图像噪声,改善图像的动态范围,同时保留重要的目标细节。此外,本发明考虑到空间任务的实时需求,具有较高的计算效率和适应性,以便能够在不同的观测条件和任务需求下进行快速调整和应用。本发明提供的高效的空间目标图像亮度增强方法及系统,解决了太空环境中常遇到的低光照问题,显著改善在低光照条件下捕获的图像的质量。其中亮度增强效果如图6、图7和图8所示,以下为本发明在图像亮度增强方面的具体效果:
69、(1)图像亮度提升
70、本发明通过结合深度学习技术与retinex理论,有效地提升了在极端低光照条件下捕获的空间目标图像的亮度。这使得原本在太阳光遮挡或宇宙背景光不足情况下捕获的低质量图像变得更加明亮和清晰。
71、(2)图像质量改善
72、除了亮度提升,本系统还优化了图像的对比度和细节表现,使得图像的视觉质量得到显著提高。这种质量提升使得图像更适合进行详细的分析和处理
73、(3)自适应光照变化
74、该系统设计有能力自适应不同的光照条件,能够根据不同的环境光照自动调整处理参数,确保在各种光照下都能获得最优的图像增强效果。
75、(4)空间探测和监测效率提高:
76、通过提供更清晰的图像,本发明显著提高了空间探测、监测和研究的效率和准确性。这对于卫星遥感、天体观测以及太空站监控等应用尤为重要。
1.一种低光照空间目标图像亮度增强方法,其特征在于,所述方法包括:
2.根据权利要求1所述的一种低光照空间目标图像亮度增强方法,其特征在于,在步骤二中,
3.根据权利要求2所述的一种低光照空间目标图像亮度增强方法,其特征在于,在步骤三的具体步骤为:
4.根据权利要求3所述的一种低光照空间目标图像亮度增强方法,其特征在于,用于低光照图像高度增强的亮度网络模型通过无监督学习训练实现,核心在于无参考损失函数设计,损失函数包括曝光损失、空间损失和照明、平滑损失四个组成部分:
5.根据权利要求4所述的一种低光照空间目标图像亮度增强方法,其特征在于,在步骤三中,网络训练在ubuntu 20.04系统上基于pytorch深度学习框架训练,训练使用nvidia3060gpu;设置初始学习率为0.0001;批处理设置为8;训练周期为40个周期;采用l2正则化处理。
6.根据权利要求3、4或5所述的一种低光照空间目标图像亮度增强方法,其特征在于,在步骤四融合处理的具体步骤为:
7.根据权利要求3、4、5所述的一种低光照空间目标图像亮度增强方法,其特征在于,在步骤五的具体过程包括如下步骤:
8.一种低光照空间目标图像亮度增强系统,其特征在于:该系统具有与权利要求1-7任一项权利要求的步骤对应的程序模块,运行时执行所述的低光照空间目标图像亮度增强方法中的步骤。
9.一种计算机可读存储介质,其特征在于:所述计算机可读存储介质存储有计算机程序,所述计算机程序配置为由处理器调用时实现权利要求1-7中任一项所述的低光照空间目标图像亮度增强方法的步骤。
10.一种低光照空间目标图像处理设备,其特征在于:所述低光照空间目标图像处理设备包括至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的低光照空间目标图像亮度增强方法。