基于一次性自动化网络剪枝的分类方法及系统与流程

    专利查询2025-06-30  12


    本发明涉及人工智能,具体为基于一次性自动化网络剪枝的分类方法及系统。


    背景技术:

    1、图像识别是神经网络在现实世界中应用的一个重要领域,通过对图像进行分类、检测和分割,广泛应用于自动驾驶、医疗诊断、安防监控等领域。然而,现有图像的分辨率越来越高,数据量越来越庞大,因此,对图像数据的分类越来越困难,存在效率低的问题。


    技术实现思路

    1、本发明的目的是:针对现有技术对图像数据进行分类,存在效率低的问题,提出基于一次性自动化网络剪枝的分类方法及系统。

    2、本发明为了解决上述技术问题采取的技术方案是:

    3、基于一次性自动化网络剪枝的分类方法,所述方法包括以下步骤:

    4、获取待分类的多类别图像,并将多类别图像输入训练好的分类网络,得到分类结果,所述训练好的分类网络通过以下步骤得到:

    5、步骤一:利用训练好的剪枝网络对分类网络进行参数重要性预测,设定稀疏度程度,并以设定的稀疏度程度为阈值,剪除预测重要性分数低于该阈值的参数,保留重要性不低于该阈值的参数,进而得到剪枝后的分类网络;

    6、步骤二:获取多类别图像及图像中每个类别对应的标签,以此构建训练集;

    7、步骤三:利用训练集训练剪枝后的分类网络,得到训练好的分类网络;

    8、所述训练好的剪枝网络通过以下步骤得到:

    9、步骤1:对神经网络进行迭代剪枝,进而得到神经网络中每个参数的重要性分数;

    10、步骤2:利用每个参数及其对应的梯度作为输入,将参数重要性分数作为输出,训练剪枝网络,得到训练好的剪枝网络。

    11、进一步的,所述步骤二中多类别图像为标准化处理后的图像,所述标准化处理包括缩放、裁剪、灰度化、归一化以及数据增强。

    12、进一步的,所述分类网络为resnet、vggnet或mobilenet。

    13、进一步的,所述迭代剪枝通过snip方法进行。

    14、进一步的,所述迭代剪枝具体为:

    15、将神经网络中每个参数分配一个二进制掩码,并将每一个二进制掩码初始化为1,设定稀疏度程度∈和剪枝过程的稀疏迭代次数n,之后进行剪枝迭代,并将迭代过程中移除的参数对应的二进制掩码的值更新为0,最终得到每个参数的重要性

    16、进一步的,所述参数的重要性表示为:

    17、

    18、其中,mi表示第i次剪枝后,该参数的掩码值。

    19、基于一次性自动化网络剪枝的分类系统,所述系统包括剪枝网络训练模块、分类网络训练模块以及分类模块;

    20、所述剪枝网络训练模块具体执行如下步骤:

    21、步骤1:对神经网络进行迭代剪枝,进而得到神经网络中每个参数的重要性分数;

    22、步骤2:利用每个参数及其对应的梯度作为输入,将参数重要性分数作为输出,训练剪枝网络,得到训练好的剪枝网络;

    23、所述分类网络训练模块具体执行如下步骤:

    24、步骤一:利用训练好的剪枝网络对分类网络进行参数重要性预测,设定稀疏度程度,并以设定的稀疏度程度为阈值,剪除预测重要性分数低于该阈值的参数,保留重要性不低于该阈值的参数,进而得到剪枝后的分类网络;

    25、步骤二:获取多类别图像及图像中每个类别对应的标签,以此构建训练集;

    26、步骤三:利用训练集训练剪枝后的分类网络,得到训练好的分类网络;

    27、所述分类模块具体执行如下步骤:

    28、获取待分类的多类别图像,并将多类别图像输入训练好的分类网络,得到分类结果。

    29、进一步的,所述多类别图像为标准化处理后的图像,所述标准化处理包括缩放、裁剪、灰度化、归一化以及数据增强;

    30、所述分类网络为resnet、vggnet或mobilenet;

    31、所述迭代剪枝通过snip方法进行。

    32、进一步的,所述迭代剪枝具体为:

    33、将神经网络中每个参数分配一个二进制掩码,并将每一个二进制掩码初始化为1,设定稀疏度程度∈和剪枝过程的稀疏迭代次数n,之后进行剪枝迭代,并将迭代过程中移除的参数对应的二进制掩码的值更新为0,最终得到每个参数的重要性

    34、进一步的,所述参数的重要性表示为:

    35、

    36、其中,mi表示第i次剪枝后,该参数的掩码值。

    37、本发明的有益效果是:

    38、本申请通过引入数据驱动的初始化剪枝方法,可以在图像分类任务中有效减少神经网络的参数和计算需求,提升网络在资源受限环境中的应用性能。本申请能够在保持高识别准确性的同时,提升图像分类处理的效率。



    技术特征:

    1.基于一次性自动化网络剪枝的分类方法,其特征在于所述方法包括以下步骤:

    2.根据权利要求1所述的面向图像识别网络的一次性自动化网络剪枝方法,其特征在于所述步骤二中多类别图像为标准化处理后的图像,所述标准化处理包括缩放、裁剪、灰度化、归一化以及数据增强。

    3.根据权利要求1所述的面向图像识别网络的一次性自动化网络剪枝方法,其特征在于所述分类网络为resnet、vggnet或mobilenet。

    4.根据权利要求1所述的面向图像识别网络的一次性自动化网络剪枝方法,其特征在于所述迭代剪枝通过snip方法进行。

    5.根据权利要求4所述的面向图像识别网络的一次性自动化网络剪枝方法,其特征在于所述迭代剪枝具体为:

    6.根据权利要求5所述的面向图像识别网络的一次性自动化网络剪枝方法,其特征在于所述参数的重要性表示为:

    7.基于一次性自动化网络剪枝的分类系统,其特征在于所述系统包括剪枝网络训练模块、分类网络训练模块以及分类模块;

    8.根据权利要求7所述的面向图像识别网络的一次性自动化网络剪枝系统,其特征在于所述多类别图像为标准化处理后的图像,所述标准化处理包括缩放、裁剪、灰度化、归一化以及数据增强;

    9.根据权利要求8所述的面向图像识别网络的一次性自动化网络剪枝系统,其特征在于所述迭代剪枝具体为:

    10.根据权利要求9所述的面向图像识别网络的一次性自动化网络剪枝系统,其特征在于所述参数的重要性表示为:


    技术总结
    基于一次性自动化网络剪枝的分类方法及系统,涉及人工智能技术领域,针对现有技术对图像数据进行分类,存在效率低的问题,本申请通过引入数据驱动的初始化剪枝方法,可以在图像分类任务中有效减少神经网络的参数和计算需求,提升网络在资源受限环境中的应用性能。本申请能够在保持高识别准确性的同时,提升图像分类处理的效率。

    技术研发人员:查富生,刘晟凯,程耀锋,张森,郭伟,孙立宁,王鹏飞
    受保护的技术使用者:哈工大苏州研究院
    技术研发日:
    技术公布日:2024/11/26
    转载请注明原文地址:https://tc.8miu.com/read-29879.html

    最新回复(0)