本公开涉及一种用于处理图像的图像处理设备,特别地,涉及一种用于使用神经网络处理图像的图像处理设备以及图像处理设备的操作方法。
背景技术:
1、随着计算机技术的发展,数据流量呈指数级增长,人工智能已经成为推动未来创新的重要趋势。人工智能是一种模仿人类思维的方法,因此,人工智能可适用于各种行业。人工智能技术的示例可包括模式识别、机器学习、专家系统、神经网络、自然语言处理等。
2、神经网络通过使用数学表达式模拟人类生物神经细胞的特征,并使用模仿人类学习能力的算法。通过此算法,神经网络能够在输入数据与输出数据之间生成映射,并且生成这种映射的能力可被称为神经网络的学习能力。此外,神经网络具有泛化能力,能够基于训练结果,针对未被用于训练的输入数据生成正确的输出数据。
3、神经网络可用于图像处理,特别地,可使用深度学习网络(dnn)执行用于从图像中去除噪声或伪影、或提高图像质量或分辨率的图像处理。
技术实现思路
1、根据本公开的示例实施例的图像处理设备可通过使用一个或多个神经网络处理图像。
2、根据本公开的一方面,提供了一种用于使用一个或多个神经网络处理图像的图像处理设备,所述图像处理设备可包括存储一个或多个指令的存储器。
3、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:获得第一图像的第一特征信息。
4、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:通过对第一特征信息执行第一处理来生成输出图像。
5、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:基于第一图像和输出图像生成注意力图。
6、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:通过对第一特征信息执行第二处理来获得第二特征信息。
7、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:获得在第一处理期间的第三特征信息。
8、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:通过对第三特征信息执行第三处理来获得第四特征信息。
9、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:生成具有比第一图像的第一质量更高质量的第二质量的第二图像,其中,第二图像基于注意力图、第二特征信息和第四特征信息生成。
10、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:获得与第一图像和输出图像对应的残差图。
11、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:获得针对残差图的局部图和全局方差值。
12、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:基于局部图和全局方差值生成注意力图。
13、局部图可包括残差图的局部方差值,局部方差值使用具有第一尺寸的窗口获得。
14、全局方差值可使用具有大于第一尺寸的第二尺寸的图像块获得。
15、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:通过对注意力图执行第四处理来获得第五特征信息。
16、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:基于第二特征信息和第五特征信息获得第六特征信息。
17、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:基于第六特征信息和第四特征信息生成第二图像。
18、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:通过对注意力图执行第五处理来获得第七特征信息。
19、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:基于第二特征信息、第四特征信息和第七特征信息生成第二图像。
20、一个或多个神经网络可包括一个或多个卷积神经网络。
21、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:通过使用一个或多个卷积神经网络获得第一图像的第一特征信息。
22、第一处理可包括对第一特征信息进行上采样,并且其中,第一图像和输出图像都有相同尺寸。
23、第二处理可由包括一个或多个全连接层的多层感知(mlp)模块执行。
24、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:执行反馈到全连接层的输入数据和包括在该全连接层中的权重矩阵之间的乘法运算以及与包括在该全连接层中的偏置的加法运算。
25、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:通过基于第三特征信息和预训练的权重执行卷积操作来获得第四特征信息。
26、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:通过对第二特征信息执行第一操作来获得第八特征信息。
27、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:通过对第八特征信息和第四特征信息执行第二操作来生成第二图像。
28、第一操作可包括自适应实例归一化(adain)操作,第二操作可包括空间特征变换(sft)操作。
29、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:获得第一图像的分类信息。
30、至少一个处理器还可配置为运行存储在存储器中的一个或多个指令以:通过对第一特征信息和分类信息执行第一处理来生成输出图像。
31、当与第一质量的第一图像相比时,第二质量的第二图像可具有更少的伪影或更少的噪声。
32、根据本公开的一方面,提供了一种用于通过使用一个或多个神经网络处理图像的图像处理设备的操作方法,所述操作方法可包括获得第一图像的第一特征信息。
33、用于通过使用至少一个神经网络处理图像的图像处理设备的操作方法可包括通过对第一特征信息执行第一处理来生成输出图像。
34、用于通过使用至少一个神经网络处理图像的图像处理设备的操作方法可包括基于第一图像和输出图像生成注意力图。
35、用于通过使用至少一个神经网络处理图像的图像处理设备的操作方法可包括通过对第一特征信息执行第二处理来获得第二特征信息。
36、用于通过使用至少一个神经网络处理图像的图像处理设备的操作方法可包括获得在第一处理期间的第三特征信息,通过对第三特征信息执行第三处理来获得第四特征信息。
37、用于通过使用至少一个神经网络处理图像的图像处理设备的操作方法可包括通过对第三特征信息执行第三图像处理来获得第四特征信息。
38、用于通过使用至少一个神经网络处理图像的图像处理设备的操作方法可包括生成具有比第一图像的第一质量更高的第二质量的第二图像,其中,第二图像基于注意力图、第二特征信息和第四特征信息生成。
39、根据本公开的一方面,提供了一种计算机可读记录介质,其中存储有用于执行操作方法的程序,所述操作方法包括:获得第一图像的第一特征信息;通过对第一特征信息执行第一处理来生成输出图像;基于第一图像和输出图像生成注意力图;通过对第一特征信息执行第二处理来获得第二特征信息;获得在第一处理期间的第三特征信息,通过对第三特征信息执行第三处理来获得第四特征信息;以及生成具有比第一图像的第一质量更高的第二质量的第二图像,其中,第二图像基于注意力图、第二特征信息和第四特征信息生成。
1.一种用于使用一个或多个神经网络处理图像的图像处理设备,所述图像处理设备包括:
2.如权利要求1所述的图像处理设备,其中,
3.如权利要求2所述的图像处理设备,其中,
4.如权利要求1至权利要求3的任意一个所述的图像处理设备,其中,
5.如权利要求1至权利要求4的任意一个所述的图像处理设备,其中,
6.如权利要求1至权利要求5的任意一个所述的图像处理设备,其中,
7.如权利要求1至权利要求6的任意一个所述的图像处理设备,其中,第一处理包括对第一特征信息进行上采样,并且
8.如权利要求1至权利要求7的任意一个所述的图像处理设备,其中,
9.如权利要求1至权利要求8的任意一个所述的图像处理设备,其中,
10.如权利要求1至权利要求9的任意一个所述的图像处理设备,其中,
11.如权利要求10所述的图像处理设备,其中,
12.如权利要求1至权利要求11的任意一个所述的图像处理设备,其中,
13.如权利要求1至权利要求12的任意一个所述的图像处理设备,其中,当与第一质量的第一图像相比,第二质量的第二图像具有更少的伪影或更少的噪声。
14.一种用于通过使用一个或多个神经网络处理图像的图像处理设备的操作方法,所述操作方法包括:
15.一种计算机可读记录介质,其中存储有用于执行权利要求14的操作方法的程序。