一种多任务处理方法、装置、电子设备、芯片及介质与流程

    专利查询2025-11-11  18


    本公开涉及智能计算领域,尤其涉及一种多任务处理方法、装置、电子设备、芯片及介质。


    背景技术:

    1、随着技术的进步,电子消费品市场对于高性能并行计算的需求正在爆发性增长,对异构计算系统有着非常大的需求。目前大量的计算网络中同时交错存在着各类不同的算子,在实际运行过程中也可以在时间上让不同的硬件单元并行运算,从而提高计算的效率。然而,随着算法的演进,为了迎合手机等消费类电子产品对低功耗、高能效比的需求,计算网络有往小型化方向发展的趋势,出现了同类算子在计算网络中集中出现的情况。在实际计算过程中,会出现某一个时间段计算任务集中分配给其中一个硬件单元,而其他计算单元闲置的情况,硬件资源未得到充分利用,计算效率较低。


    技术实现思路

    1、本公开提供一种多任务处理方法、装置、电子设备、芯片及介质,以解决相关技术中的问题,利用闲置时的硬件资源,将同类型算子通过部分转换,分配到不同硬件模块中计算,以达到提高整体效率的目的。

    2、本公开的第一方面实施例提出了一种多任务处理方法,该方法包括:获取第一算子上的第二计算任务在第一算子和第二算子上的运算效率参数;当满足预设条件、且第二计算任务在第二算子上的运算效率高于在第一算子上的运算效率时,在第二算子上执行第二计算任务,其中,预设条件包括以下至少一项:第一算子上正在执行第一计算任务、第二计算任务在第一算子上的执行顺序在第一计算任务之后、第二算子处于空闲状态。

    3、在本公开的一些实施例中,第二计算任务为多个,获取第一算子上的第二计算任务在第一算子和第二算子上的运算效率参数包括:获取第二计算任务在第一算子和第二算子上的整体运算效率参数。

    4、在本公开的一些实施例中,预设条件还包括:第二计算任务的输出为第二算子上执行第三计算任务的输入,该方法还包括:基于第二计算任务的输出,在第二算子上执行第三计算任务。

    5、在本公开的一些实施例中,第二计算任务为多个,第二计算任务包括第一子任务和第二子任务,其中,当第二计算任务在第二算子上的运算效率低于或等于在第一算子上的运算效率时,该方法还包括:确定第一子任务在第二算子上的运算效率是否高于在第一算子上的运算效率;若是,在第二算子上执行第一子任务,并在第一计算任务在第一算子上执行完毕后,基于从共用存储器获取的第一子任务的运算结果,在第一算子上执行第二子任务。

    6、在本公开的一些实施例中,该方法还包括:若第一子任务在第二算子上的运算效率低于或等于在第一算子上的运算效率,等待第一计算任务在第一算子上执行完毕后,在第一算子上执行第二计算任务。

    7、在本公开的一些实施例中,第一算子用于执行卷积运算,第二算子用于执行矢量运算,在第二算子上执行第二计算任务包括:获取第二计算任务的输入数据和卷积参数;将卷积参数转换为预设格式;基于输入数据和预设格式的卷积参数,在第二算子上执行第二计算任务,其中,在第二算子上执行第二计算任务的输出数据与在第一算子上执行第二计算任务的输出数据相同。

    8、在本公开的一些实施例中,当不满足预设条件,或第二计算任务在第二算子上的运算效率低于或等于在第一算子上的运算效率时,该方法还包括:等待第一计算任务在第一算子上执行完毕后,在第一算子上执行第二计算任务。

    9、本公开的第二方面实施例提出了一种多任务处理装置,该装置包括:获取模块,用于获取第一算子上的第二计算任务在第一算子和第二算子上的运算效率参数;处理模块,用于当满足预设条件、且第二计算任务在第二算子上的运算效率高于在第一算子上的运算效率时,在第二算子上执行第二计算任务,其中,预设条件包括以下至少一项:第一算子上正在执行第一计算任务、第二计算任务在第一算子上的执行顺序在第一计算任务之后、第二算子处于空闲状态。

    10、本公开的第三方面实施例提出了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开第一方面实施例中描述的方法。

    11、本公开的第四方面实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开第一方面实施例中描述的方法。

    12、本公开的第五方面实施例提出了一种芯片,该芯片包括一个或多个接口电路和一个或多个处理器;接口电路用于接收代码指令,并向处理器发送代码指令,处理器用于运行代码指令以执行本公开第一方面实施例中描述的方法。

    13、综上,根据本公开提出的多任务处理方法,该方法包括:获取第一算子上的第二计算任务在第一算子和第二算子上的运算效率参数;当满足预设条件、且第二计算任务在第二算子上的运算效率高于在第一算子上的运算效率时,在第二算子上执行第二计算任务,其中,预设条件包括以下至少一项:第一算子上正在执行第一计算任务、第二计算任务在第一算子上的执行顺序在第一计算任务之后、第二算子处于空闲状态。本方案利用闲置时的硬件资源,将同类型算子通过部分转换,分配到不同硬件模块中计算,以达到提高整体效率的目的。

    14、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。



    技术特征:

    1.一种多任务处理方法,其特征在于,所述方法包括:

    2.根据权利要求1所述的方法,其特征在于,所述预设条件还包括:所述第二计算任务的输出为所述第二算子上执行第三计算任务的输入,所述方法还包括:基于所述第二计算任务的输出,在所述第二算子上执行第三计算任务。

    3.根据权利要求1所述的方法,其特征在于,所述第二计算任务为多个,所述第二计算任务包括第一子任务和第二子任务,其中,当所述第二计算任务在所述第二算子上的运算效率低于或等于在所述第一算子上的运算效率时,所述方法还包括:

    4.根据权利要求3所述的方法,其特征在于,所述方法还包括:

    5.根据权利要求1所述的方法,其特征在于,所述第一算子用于执行卷积运算,所述第二算子用于执行矢量运算,所述在所述第二算子上执行所述第二计算任务包括:

    6.根据权利要求1所述的方法,其特征在于,当不满足预设条件,或所述第二计算任务在所述第二算子上的运算效率低于或等于在所述第一算子上的运算效率时,所述方法还包括:

    7.一种多任务处理装置,其特征在于,所述装置包括:

    8.一种电子设备,其特征在于,包括:

    9.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。

    10.一种芯片,其特征在于,包括一个或多个接口电路和一个或多个处理器;所述接口电路用于接收代码指令,并向所述处理器发送所述代码指令,所述处理器用于运行所述代码指令以执行如权利要求1-6中任一项所述的方法。


    技术总结
    本公开提供一种多任务处理方法、装置、电子设备、芯片及介质,该方法包括:该方法包括:获取第一算子上的第二计算任务在第一算子和第二算子上的运算效率参数;当满足预设条件、且第二计算任务在第二算子上的运算效率高于在第一算子上的运算效率时,在第二算子上执行第二计算任务,其中,预设条件包括以下至少一项:第一算子上正在执行第一计算任务、第二计算任务在第一算子上的执行顺序在第一计算任务之后、第二算子处于空闲状态。本方案充分利用闲置时的硬件资源,将同类型算子通过部分转换,分配到不同硬件模块中计算,以达到提高整体效率的目的。

    技术研发人员:唐思巍
    受保护的技术使用者:上海玄戒技术有限公司
    技术研发日:
    技术公布日:2024/11/26
    转载请注明原文地址:https://tc.8miu.com/read-31882.html

    最新回复(0)