三维风格人脸的生成方法、装置、设备及存储介质与流程

    专利查询2022-08-08  137



    1.本发明涉及三维人脸重建技术领域,尤其涉及一种三维风格人脸的生成方法、装置、设备及存储介质。


    背景技术:

    2.目前,直播应用通过构建虚拟互动空间和用户对应的三维虚拟形象,使得主播和观看用户可以使用三维虚拟形象在三维虚拟空间中进行互动。
    3.三维虚拟形象可分为三维真实人脸和三维风格人脸,三维真实人脸的目标是贴近用户原本的形象,三维风格人脸的目标是将用户原本的形象卡通化一些。现有技术中,根据单张图片生成三维真实人脸的技术相对成熟,但生成三维风格人脸更多是依靠用户“手捏”。由于三维风格人脸可捏的维度太多,用户不好控制,因此很难做到三维风格人脸与用户相像。


    技术实现要素:

    4.本发明提供了一种三维风格人脸的生成方法、装置、设备及存储介质,以解决用户“手捏”的三维风格人脸与用户人脸相似度低的问题。
    5.根据本发明的一方面,提供了一种三维风格人脸的生成方法,包括:
    6.获取标注有人脸关键点的二维人脸图像,并根据人脸关键点构建与二维人脸图像中的真实人脸完全匹配的三维真实人脸;
    7.建立标准三维风格人脸的主成分分析(principal component analysis,pca)模型与三维真实人脸的pca模型之间的映射关系;
    8.根据映射关系对标准三维风格人脸进行调整,得到与二维人脸图像对应的三维风格人脸。
    9.可选的,建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系,包括:
    10.建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的pca基映射关系以及幅度映射关系。
    11.可选的,建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的pca基映射关系以及幅度映射关系,包括:
    12.在标准三维风格人脸的pca模型中,获取与目标人脸形状维度对应的第一pca基以及第一pca基的幅度值;
    13.在三维真实人脸的pca模型中,查询与目标人脸形状维度对应的第二pca基以及第二pca基的幅度值;
    14.建立第一pca基以及第一pca基的幅度值与第二pca基以及第二pca基的幅度值之间的映射关系。
    15.可选的,确定标准三维风格人脸的第一pca基的幅度值,包括:
    16.在标准三维风格人脸不畸形的情况下,获取第一pca基的坐标最小值和坐标最大值;
    17.将坐标最小值和坐标最大值的均值作为第一pca基的幅度值。
    18.可选的,根据映射关系对标准三维风格人脸进行调整,得到与二维人脸图像对应的三维风格人脸,包括:
    19.将标准三维风格人脸中已建立映射关系的每个pca基的人脸形状系数,更新为三维真实人脸中的对应pca基的人脸形状系数;
    20.将标准三维风格人脸中已建立映射关系的每个pca基的幅度值,更新为三维真实人脸中的对应pca基的幅度值;
    21.将更新后的标准三维风格人脸作为与二维人脸图像对应的三维风格人脸。
    22.可选的,在构建标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系之前,还包括:
    23.获取标准三维风格人脸以及三维风格人脸样本集;
    24.根据公式s(α)=μs us*diag(σs)*α,对三维风格人脸样本集进行主成分分析构建不同维度的pca基,组成pca模型;
    25.其中,s(α)为pca基,μs为所有三维风格人脸样本的平均值,σs为每个三维风格人脸样本与平均值的方差,us为对每个三维风格人脸样本与平均值的差值做主成分分析得到的特征向量,diag(σs)为特征向量us对应的权重,α为与特征向量us对应的特征值。
    26.可选的,获取标注有人脸关键点的二维人脸图像,并根据人脸关键点构建与二维人脸图像中的真实人脸完全匹配的三维真实人脸,包括:
    27.获取标注有人脸关键点的二维人脸图像,并基于巴塞尔人脸模型(basel face model,bfm)拓扑构建三维人脸模型;
    28.建立三维人脸模型中的人脸关键点与二维人脸图像中的人脸关键点间的映射关系;
    29.调整三维人脸模型的模型参数,直至三维人脸模型中的人脸关键点的投影点与二维人脸图像中的人脸关键点的欧式距离最小;
    30.将调整后的三维人脸模型作为与二维人脸图像中的真实人脸完全匹配的三维真实人脸。
    31.根据本发明的另一方面,提供了一种三维风格人脸的生成装置,包括:
    32.三维真实人脸构建模块,用于执行获取标注有人脸关键点的二维人脸图像,并根据人脸关键点构建与二维人脸图像中的真实人脸完全匹配的三维真实人脸;
    33.映射关系建立模块,用于执行建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系;
    34.三维风格人脸生成模块,用于执行根据映射关系对标准三维风格人脸进行调整,得到与二维人脸图像对应的三维风格人脸。
    35.根据本发明的另一方面,提供了一种电子设备,电子设备包括:
    36.至少一个处理器;以及
    37.与至少一个处理器通信连接的存储器;其中,
    38.存储器存储有可被至少一个处理器执行的计算机程序,计算机程序被至少一个处
    理器执行,以使至少一个处理器能够执行本发明任一实施例的三维风格人脸的生成方法。
    39.根据本发明的另一方面,提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行时实现本发明任一实施例的三维风格人脸的生成方法。
    40.本发明实施例的技术方案,通过获取标注有人脸关键点的二维人脸图像,并根据人脸关键点构建与二维人脸图像中的真实人脸完全匹配的三维真实人脸;建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系;根据映射关系对标准三维风格人脸进行调整,得到与二维人脸图像对应的三维风格人脸,解决了用户“手捏”的三维风格人脸与用户人脸相似度低的问题,取到了基于单张图片,快速生成保留用户人脸特征信息的三维风格人脸的有益效果。
    41.应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
    附图说明
    42.为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
    43.图1是根据本发明实施例一提供的一种三维风格人脸的生成方法的流程图;
    44.图2是根据本发明实施例一所适用的一种三维风格人脸的生成示意图;
    45.图3是根据本发明实施例一所适用的一种pca模型的示意图;
    46.图4是根据本发明实施例二提供的一种三维风格人脸的生成方法的流程图;
    47.图5是根据本发明实施例三提供的一种三维风格人脸的生成装置的结构示意图;
    48.图6是实现本发明实施例的三维风格人脸的生成方法的电子设备的结构示意图。
    具体实施方式
    49.为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
    50.需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“目标”、“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
    51.实施例一
    52.图1是根据本发明实施例一提供的一种三维风格人脸的生成方法的流程图,本实施例可适用于基于单张图片,快速生成与该图片中的用户人脸的脸型相似的三维风格人脸的情况,该方法可以由三维风格人脸的生成装置来执行,该三维风格人脸的生成装置可以采用硬件和/或软件的形式实现,该三维风格人脸的生成装置可配置于电子设备中。如图1所示,该方法包括:
    53.s110、获取标注有人脸关键点的二维人脸图像,并根据人脸关键点构建与二维人脸图像中的真实人脸完全匹配的三维真实人脸。
    54.其中,二维人脸图像是指包含用户正面人脸的图片,人脸关键点是人脸面部各个部位的重要特征点,通常是轮廓点与角点。如图2所示,在左侧第一列图像中的眉毛、眼睛、鼻子、嘴巴、脸部轮廓等部位标记的特征点即为人脸关键点。本实施例中,获取到用户输入的包括正面人脸的图片之后,如果图片中没有标注人脸关键点,则先采用人脸关键点检测技术,在该图片中定位出人脸关键点。
    55.本实施例中,在获取到二维人脸图像中的人脸关键点后,可以利用参数拟合方法,基于bfm拓扑建立三维人脸关键点与二维人脸关键点间的映射关系,然后通过优化三维人脸的参数,使得最终三维人脸关键点的投影点与二维人脸关键点完全对齐,从而得到与二维人脸图像中的用户真实人脸完全匹配的三维真实人脸,如图2中左侧第二列图像所示。通过生成与用户真实人脸完全对齐的三维真实人脸,使得三维真实人脸中保留有用户真实人脸的脸型信息。
    56.其中,bfm是在pca的基础上进行存储的人脸数据库,bfm拓扑是基于bfm人脸数据库建立的三维人脸模型拓扑。pca的主要目的是用较少的变量去解释原来数据中的大部分变异,选出比原始特征值个数少的变量,构建能解释最终输出的新变量,即为主成分。
    57.s120、建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系。
    58.其中,标准三维风格人脸可以理解为通用的三维风格人脸,通常对标准三维风格人脸进行人脸特征调整后,才能生成与具体的用户真实人脸匹配的三维风格人脸。风格人脸可以是将真实人脸卡通化的虚拟人脸,也可以是其他风格的虚拟人脸。
    59.本实施例中,基于s110构建出的三维真实人脸与三维风格人脸有很大不同,三维风格人脸的面部五官通常会卡通化,整体脸型的长宽比也与真实人脸有较大不同。为了能将三维真实人脸转换为三维风格人脸,且在三维风格人脸中保留三维真实人脸的脸型信息,可以先准备一个标准的三维风格人脸,构建如图3所示三维风格人脸的pca模型,然后基于标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系,将三维真实人脸的人脸形状信息转移到标准的三维风格人脸中。
    60.其中,建立映射关系使用的pca模型主要是指人脸形状模型,不考虑表情模型,这是因为表情模型依赖于表情驱动,不需要重建人脸表情。
    61.可选的,建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系,可以包括:建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的pca基映射关系以及幅度映射关系。
    62.本实施例中,映射关系可以理解为两个高维正交空间的每个坐标轴上的坐标值对应的幅度映射关系,即映射关系包括pca基之间的映射关系和pca基的幅度之间的映射关
    系。这是因为,在找到标准三维风格人脸和三维真实人脸之间的对应维度的pca基后,不同的pca基在同样的维度变化系数下的幅度是不一样的,因此,还需要确定基变化的幅度映射关系,使得后续三维真实人脸转换到三维风格人脸时可以兼顾pca基的方向和幅度。
    63.可选的,建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的pca基映射关系以及幅度映射关系,可以包括:在标准三维风格人脸的pca模型中,获取与目标人脸形状维度对应的第一pca基以及第一pca基的幅度值;在三维真实人脸的pca模型中,查询与目标人脸形状维度对应的第二pca基以及第二pca基的幅度值;建立第一pca基以及第一pca基的幅度值与第二pca基以及第二pca基的幅度值之间的映射关系。
    64.本实施例中,由于三维真实人脸的pca基的维度较大,而三维风格人脸的pca基的维度较小,因此不可能每个pca基的维度都有映射关系,并且要将真实人脸的脸型信息转移到三维风格人脸,只需要针对部分人脸形状维度的pca基建立映射关系即可,例如人脸胖瘦维度,下巴长短维度,眼睛间距维度等。可以在标准三维风格人脸和三维真实人脸中,基于pca基的正交性,分别改变各pca基的幅度值观察人脸各维度的变化,找到待建立映射关系的人脸形状维度,进而为两种三维人脸在该维度下的pca基以及pca基的幅度建立映射关系。
    65.可选的,确定标准三维风格人脸的第一pca基的幅度值,可以包括:在标准三维风格人脸不畸形的情况下,获取第一pca基的坐标最小值和坐标最大值;将坐标最小值和坐标最大值的均值作为第一pca基的幅度值。
    66.本实施例中,在确定第一pca基的幅度值时,可以将以标准三维风格人脸不畸形为标准对pca基的坐标值进行调整,得到第一pca基的坐标最大值和坐标最小值,进而将坐标最大值和坐标最小值的均值作为第一pca基的幅度值。相应的,采用该方式计算三维真实人脸中的第二pca基的幅度值。其中,将pca基的坐标最大值和坐标最小值的均值作为pca基的幅度值只是一种可选方式,也可以根据需求设置其他的幅度值计算方式。
    67.s130、根据映射关系对标准三维风格人脸进行调整,得到与二维人脸图像对应的三维风格人脸。
    68.本实施例中,根据映射关系,按照三维真实人脸中的脸型信息对标准风格人脸中的部分人脸形状维度进行调整,使得最终得到的三维风格人脸可以保留更多的用户真实人脸的脸型信息,保留较少的纹理信息,如图2中右侧第一列图像所示。其中,图2中右侧第一列图像中的眉毛应该与用户真实人脸的眉毛相似,图中未表示出来。
    69.可选的,根据映射关系对标准三维风格人脸进行调整,得到与二维人脸图像对应的三维风格人脸,可以包括:将标准三维风格人脸中已建立映射关系的每个pca基的人脸形状系数,更新为三维真实人脸中的对应pca基的人脸形状系数;将标准三维风格人脸中已建立映射关系的每个pca基的幅度值,更新为三维真实人脸中的对应pca基的幅度值;将更新后的标准三维风格人脸作为与二维人脸图像对应的三维风格人脸。
    70.示例性的,以人脸胖瘦维度为例,获取三维真实人脸中人脸胖瘦维度对应的第一pca基以及形状系数,查询映射关系确定三维真实人脸中该第一pca基的幅度值,以及标准三维风格人脸中的人脸胖瘦维度对应的第二pca基,使用第一pca基的形状系数替换第二pca基的形状系数,并且使用第一pca基的幅度值替换第二pca基的幅度值。
    71.本发明实施例的技术方案,通过获取标注有人脸关键点的二维人脸图像,并根据
    人脸关键点构建与二维人脸图像中的真实人脸完全匹配的三维真实人脸;建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系;根据映射关系对标准三维风格人脸进行调整,得到与二维人脸图像对应的三维风格人脸,解决了用户“手捏”的三维风格人脸与用户人脸相似度低的问题,取到了基于单张图片,快速生成保留用户人脸特征信息的三维风格人脸的有益效果。
    72.实施例二
    73.图4是根据本发明实施例二提供的一种三维风格人脸的生成方法的流程图,本实施例在上述实施例的基础上,进一步提供了获取标注有人脸关键点的二维人脸图像,并根据人脸关键点构建与二维人脸图像中的真实人脸完全匹配的三维真实人脸的具体步骤,以及构建标准三维风格人脸的pca模型的具体步骤。如图4所示,该方法包括:
    74.s210、获取标注有人脸关键点的二维人脸图像,并基于bfm拓扑构建三维人脸模型。
    75.本实施例中,在获取到二维人脸图像中的人脸关键点后,基于bfm拓扑,采用三维人脸重建公式:人脸重建公式:构建三维人脸模型。
    76.其中,三维人脸重建公式其中各参数的含义如下:s为缩放参数,用于将三维人脸模型缩放到与二维人脸图像中的用户人脸的尺度对齐,是一个未知量。p为正交投影矩阵,是一个3*3的单位矩阵。r为旋转矩阵,是一个3*3的单位正交矩阵,是一个未知量。为pca三维人脸模型的平均值,是个已知量。
    77.pca三维建模会构建出形状维度以及表情维度的pca基,形状维度表示为m,取值为199,表情维度表示为n,取值为29。αi为形状维度的pca基,其维度是199*65536*3,65536是指三维人脸模型的点云个数,3是指xyz三个坐标轴,i为维度自变量。si为形状系数,包括199个未知数。βi为表情维度的pca基,它的维度是29*65536*3。ei为表情系数,包括29个未知数。t
    2d
    为偏移矩阵,用于将三维人脸模型与二维人脸图像对齐,是一个未知量。
    78.s220、建立三维人脸模型中的人脸关键点与二维人脸图像中的人脸关键点间的映射关系。
    79.本实施例中,在建立三维人脸模型之后,可以根据二维人脸图像中的各人脸关键点,在三维人脸模型中选择对应位置的人脸关键点,并建立相应的关键点映射关系。
    80.s230、调整三维人脸模型的模型参数,直至三维人脸模型中的人脸关键点的投影点与二维人脸图像中的人脸关键点的欧式距离最小。
    81.本实施例中,确定三维人脸模型中的人脸关键点的投影点,然后通过最小化投影点与二维人脸图像中的人脸关键点的欧式距离,来优化三维人脸模型中的参数s、r、si、ei以及t
    2d
    ,实现最终的人脸重建。
    82.s240、将调整后的三维人脸模型作为与二维人脸图像中的真实人脸完全匹配的三维真实人脸。
    83.s250、构建标准三维风格人脸的pca模型。
    84.本实施例中,为了能将三维真实人脸转换为保留用户人脸的脸型信息的三维风格人脸,可以从网上下载一个标准的三维风格人脸,使用多个基于美术生成的具有不同脸型
    的三维风格人脸,构建如图3所示的标准三维风格人脸的pca模型,便于后续基于标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系,将用户脸型信息转移到三维风格人脸中。
    85.可选的,获取标准三维风格人脸以及三维风格人脸样本集;根据公式s(α)=μs us*diag(σs)*α,对三维风格人脸样本集进行主成分分析构建不同维度的pca基,组成pca模型;其中,s(α)为pca基,μs为所有三维风格人脸样本的平均值,σs为每个三维风格人脸样本与平均值的方差,us为对每个三维风格人脸样本与平均值的差值做主成分分析得到的特征向量,diag(σs)为特征向量us对应的权重,α为与特征向量us对应的特征值。
    86.s260、建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系。
    87.s270、根据映射关系对标准三维风格人脸进行调整,得到与二维人脸图像对应的三维风格人脸。
    88.需要说明的是,本实施例通过单张图片即可构建带有用户人脸特征信息的三维风格人脸,可保留更多的用户脸型信息,纹理可公用美术提供的资源,眉毛、口红、眼睛等都可调。
    89.本发明实施例的技术方案,通过获取标注有人脸关键点的二维人脸图像,并根据人脸关键点构建与二维人脸图像中的真实人脸完全匹配的三维真实人脸;建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系;根据映射关系对标准三维风格人脸进行调整,得到与二维人脸图像对应的三维风格人脸,解决了依靠用户“手捏”的三维风格人脸与用户人脸相似度低的问题,取到了基于单张图片,快速生成保留用户人脸特征信息的三维风格人脸的有益效果。
    90.实施例三
    91.图5是根据本发明实施例三提供的一种三维风格人脸的生成装置的结构示意图。本实施例可适用于基于单张图片,快速生成与该图片中的用户人脸的脸型相似的三维风格人脸的情况,该三维风格人脸的生成装置可以采用硬件和/或软件的形式实现,该三维风格人脸的生成装置可配置于电子设备中。如图5所示,该装置包括:
    92.三维真实人脸构建模块510,用于执行获取标注有人脸关键点的二维人脸图像,并根据人脸关键点构建与二维人脸图像中的真实人脸完全匹配的三维真实人脸;
    93.映射关系建立模块520,用于执行建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系;
    94.三维风格人脸生成模块530,用于执行根据映射关系对标准三维风格人脸进行调整,得到与二维人脸图像对应的三维风格人脸。
    95.本发明实施例的技术方案,通过获取标注有人脸关键点的二维人脸图像,并根据人脸关键点构建与二维人脸图像中的真实人脸完全匹配的三维真实人脸;建立标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系;根据映射关系对标准三维风格人脸进行调整,得到与二维人脸图像对应的三维风格人脸,解决了依靠用户“手捏”的三维风格人脸与用户人脸相似度低的问题,取到了基于单张图片,快速生成保留用户人脸特征信息的三维风格人脸的有益效果。
    96.可选的,映射关系建立模块520,用于执行:建立标准三维风格人脸的pca模型与三
    维真实人脸的pca模型之间的pca基映射关系以及幅度映射关系。
    97.可选的,映射关系建立模块520,包括:
    98.第一获取模块,用于执行在标准三维风格人脸的pca模型中,获取与目标人脸形状维度对应的第一pca基以及第一pca基的幅度值;
    99.第二获取模块,用于执行在三维真实人脸的pca模型中,查询与目标人脸形状维度对应的第二pca基以及第二pca基的幅度值;
    100.建立模块,用于执行建立第一pca基以及第一pca基的幅度值与第二pca基以及第二pca基的幅度值之间的映射关系。
    101.可选的,第一获取模块,用于执行:
    102.在标准三维风格人脸不畸形的情况下,获取第一pca基的坐标最小值和坐标最大值;
    103.将坐标最小值和坐标最大值的均值作为第一pca基的幅度值。
    104.可选的,三维风格人脸生成模块530,用于执行:
    105.将标准三维风格人脸中已建立映射关系的每个pca基的人脸形状系数,更新为三维真实人脸中的对应pca基的人脸形状系数;
    106.将标准三维风格人脸中已建立映射关系的每个pca基的幅度值,更新为三维真实人脸中的对应pca基的幅度值;
    107.将更新后的标准三维风格人脸作为与二维人脸图像对应的三维风格人脸。
    108.可选的,还包括pca模型建立模块,用于执行:
    109.在构建标准三维风格人脸的pca模型与三维真实人脸的pca模型之间的映射关系之前,获取标准三维风格人脸以及三维风格人脸样本集;
    110.根据公式s(α)=μs us*diag(σs)*α,对三维风格人脸样本集进行主成分分析构建不同维度的pca基,组成pca模型;
    111.其中,s(α)为pca基,μs为所有三维风格人脸样本的平均值,σs为每个三维风格人脸样本与平均值的方差,us为对每个三维风格人脸样本与平均值的差值做主成分分析得到的特征向量,diag(σs)为特征向量us对应的权重,α为与特征向量us对应的特征值。
    112.可选的,三维真实人脸构建模块510,用于执行:
    113.获取标注有人脸关键点的二维人脸图像,并基于巴塞尔人脸模型bfm拓扑构建三维人脸模型;
    114.建立三维人脸模型中的人脸关键点与二维人脸图像中的人脸关键点间的映射关系;
    115.调整三维人脸模型的模型参数,直至三维人脸模型中的人脸关键点的投影点与二维人脸图像中的人脸关键点的欧式距离最小;
    116.将调整后的三维人脸模型作为与二维人脸图像中的真实人脸完全匹配的三维真实人脸。
    117.本发明实施例所提供的三维风格人脸的生成装置可执行本发明任意实施例所提供的三维风格人脸的生成方法,具备执行方法相应的功能模块和有益效果。
    118.实施例四
    119.图6示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备
    旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
    120.如图6所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(rom)12、随机访问存储器(ram)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(rom)12中的计算机程序或者从存储单元18加载到随机访问存储器(ram)13中的计算机程序,来执行各种适当的动作和处理。在ram 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、rom 12以及ram 13通过总线14彼此相连。输入/输出(i/o)接口15也连接至总线14。
    121.电子设备10中的多个部件连接至i/o接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
    122.处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如三维风格人脸的生成方法。
    123.在一些实施例中,三维风格人脸的生成方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由rom 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到ram 13并由处理器11执行时,可以执行上文描述的三维风格人脸的生成方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行三维风格人脸的生成方法。
    124.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
    125.用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
    126.在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
    127.为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,crt(阴极射线管)或者lcd(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
    128.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(lan)、广域网(wan)、区块链网络和互联网。
    129.计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与vps服务中,存在的管理难度大,业务扩展性弱的缺陷。
    130.应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
    131.上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

    技术特征:
    1.一种三维风格人脸的生成方法,其特征在于,包括:获取标注有人脸关键点的二维人脸图像,并根据所述人脸关键点构建与所述二维人脸图像中的真实人脸完全匹配的三维真实人脸;建立标准三维风格人脸的主成分分析pca模型与所述三维真实人脸的pca模型之间的映射关系;根据所述映射关系对所述标准三维风格人脸进行调整,得到与所述二维人脸图像对应的三维风格人脸。2.根据权利要求1所述的方法,其特征在于,所述建立标准三维风格人脸的pca模型与所述三维真实人脸的pca模型之间的映射关系,包括:建立所述标准三维风格人脸的pca模型与所述三维真实人脸的pca模型之间的pca基映射关系以及幅度映射关系。3.根据权利要求2所述的方法,其特征在于,所述建立所述标准三维风格人脸的pca模型与所述三维真实人脸的pca模型之间的pca基映射关系以及幅度映射关系,包括:在所述标准三维风格人脸的pca模型中,获取与目标人脸形状维度对应的第一pca基以及所述第一pca基的幅度值;在所述三维真实人脸的pca模型中,查询与所述目标人脸形状维度对应的第二pca基以及所述第二pca基的幅度值;建立所述第一pca基以及所述第一pca基的幅度值与所述第二pca基以及所述第二pca基的幅度值之间的映射关系。4.根据权利要求3所述的方法,其特征在于,确定标准三维风格人脸的第一pca基的幅度值,包括:在所述标准三维风格人脸不畸形的情况下,获取所述第一pca基的坐标最小值和坐标最大值;将所述坐标最小值和所述坐标最大值的均值作为所述第一pca基的幅度值。5.根据权利要求3所述的方法,其特征在于,所述根据所述映射关系对所述标准三维风格人脸进行调整,得到与所述二维人脸图像对应的三维风格人脸,包括:将所述标准三维风格人脸中已建立映射关系的每个pca基的人脸形状系数,更新为所述三维真实人脸中的对应pca基的人脸形状系数;将所述标准三维风格人脸中已建立映射关系的每个pca基的幅度值,更新为所述三维真实人脸中的对应pca基的幅度值;将更新后的所述标准三维风格人脸作为与所述二维人脸图像对应的三维风格人脸。6.根据权利要求1-5中任一项所述的方法,其特征在于,在所述构建标准三维风格人脸的pca模型与所述三维真实人脸的pca模型之间的映射关系之前,还包括:获取标准三维风格人脸以及三维风格人脸样本集;根据公式s(α)=μ
    s
    u
    s
    *diag(σ
    s
    )*α,对所述三维风格人脸样本集进行主成分分析构建不同维度的pca基,组成pca模型;其中,s(α)为pca基,μ
    s
    为所有三维风格人脸样本的平均值,σ
    s
    为每个三维风格人脸样本与平均值的方差,u
    s
    为对每个三维风格人脸样本与平均值的差值做主成分分析得到的特征向量,diag(σ
    s
    )为特征向量u
    s
    对应的权重,α为与特征向量u
    s
    对应的特征值。
    7.根据权利要求1所述的方法,其特征在于,所述获取标注有人脸关键点的二维人脸图像,并根据所述人脸关键点构建与所述二维人脸图像中的真实人脸完全匹配的三维真实人脸,包括:获取标注有人脸关键点的二维人脸图像,并基于巴塞尔人脸模型bfm拓扑构建三维人脸模型;建立所述三维人脸模型中的人脸关键点与所述二维人脸图像中的人脸关键点间的映射关系;调整所述三维人脸模型的模型参数,直至所述三维人脸模型中的人脸关键点的投影点与所述二维人脸图像中的人脸关键点的欧式距离最小;将调整后的三维人脸模型作为与所述二维人脸图像中的真实人脸完全匹配的三维真实人脸。8.一种三维风格人脸的生成装置,其特征在于,包括:三维真实人脸构建模块,用于执行获取标注有人脸关键点的二维人脸图像,并根据所述人脸关键点构建与所述二维人脸图像中的真实人脸完全匹配的三维真实人脸;映射关系建立模块,用于执行建立标准三维风格人脸的pca模型与所述三维真实人脸的pca模型之间的映射关系;三维风格人脸生成模块,用于执行根据所述映射关系对所述标准三维风格人脸进行调整,得到与所述二维人脸图像对应的三维风格人脸。9.一种电子设备,其特征在于,所述电子设备包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的三维风格人脸的生成方法。10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的三维风格人脸的生成方法。

    技术总结
    本发明公开了一种三维风格人脸的生成方法、装置、设备及存储介质。该方法包括:获取标注有人脸关键点的二维人脸图像,并根据人脸关键点构建与二维人脸图像中的真实人脸完全匹配的三维真实人脸;建立标准三维风格人脸的PCA模型与三维真实人脸的PCA模型之间的映射关系;根据映射关系对标准三维风格人脸进行调整,得到与二维人脸图像对应的三维风格人脸。本发明实施例的技术方案,可以基于单张图片,快速生成保留用户人脸特征信息的三维风格人脸。脸。脸。


    技术研发人员:芦爱余 卫华威
    受保护的技术使用者:佛山虎牙虎信科技有限公司
    技术研发日:2022.02.21
    技术公布日:2022/5/25
    转载请注明原文地址:https://tc.8miu.com/read-5308.html

    最新回复(0)