任务处理方法及电子设备与流程

    专利查询2025-12-14  4


    本公开涉及计算机软件,尤其涉及一种任务处理方法及电子设备。


    背景技术:

    1、随着人工智能模型的应用发展,部署一种模型已经很难满足应用需求。尤其是在复杂的应用场景中,往往需要部署多种模型来支持日益复杂的应用需求。因此,确保模型资源的高效利用成为亟待解决的问题。


    技术实现思路

    1、有鉴于此,本公开提供了一种任务处理方法及电子设备。

    2、根据本公开的第一个方面,提供了一种任务处理方法,包括:响应于获得第一处理任务,确定第一处理模型的运行状态,第一处理模型是能够执行第一处理任务的模型;基于运行状态配置目标对象的对象参数,以使得电子设备能够利用目标处理模型输出针对第一处理任务的处理结果;其中,目标对象包括或不包括第一处理模型,目标处理模型包括或不包括第一处理模型。

    3、根据本公开的实施例,基于运行状态配置目标对象的对象参数,以使得电子设备能够利用目标处理模型输出针对第一处理任务的处理结果,包括:基于第一处理模型的运行状态获取对应的目标参考数据;基于运行状态及其对应的目标参考数据配置目标对象的对象参数,以使得电子设备能够利用第一处理模型和/或其他处理模型处理第一处理任务;其中,不同运行状态对应的参考数据不同,目标对象包括能够使电子设备提供目标功能服务的对象。

    4、根据本公开的实施例,其中,响应于获得第一处理任务,确定第一处理模型的运行状态,包括以下至少之一:响应于获得第一处理任务,利用电子设备的模型管理服务确定能够执行第一处理任务的第一处理模型的运行状态;响应于目标触发操作,生成第一处理任务,基于第一处理任务的任务信息从电子设备的模型管理服务中确定第一处理模型及其运行状态;响应于生成第一处理任务的目标触发操作,基于目标触发操作的类型和/或来源从电子设备的模型管理服务中确定第一处理模型及其运行状态;其中,模型管理服务用于管理电子设备中各处理模型及其模型状态。

    5、根据本公开的实施例,其中,基于第一处理任务的任务信息从电子设备的模型管理服务中确定第一处理模型及其运行状态,包括以下至少之一:通过模型管理服务调用与第一处理任务的任务类型匹配的处理模型作为第一处理模型,并从模型管理服务中获取第一处理模型的运行状态;通过模型管理服务调用与第一处理任务的任务内容匹配的处理模型作为第一处理模型,并从模型管理服务中获取第一处理模型的运行状态;通过模型管理服务调用与第一处理任务的任务配置信息匹配的处理模型作为第一处理模型,并从模型管理服务中获取第一处理模型的运行状态;通过与模型管理服务调用与第一处理任务中携带的处理模型的标识信息匹配的处理模型作为第一处理模型,并从模型管理服务中获取第一处理模型的运行状态。

    6、根据本公开的实施例,基于第一处理模型的运行状态获取对应的目标参考数据,包括以下至少之一:在第一处理模型处于空闲状态的情况下,获取目标用户的用户画像信息作为目标参考数据;在第一处理模型处于忙碌状态的情况下,获取第一处理模型当前处理的第二处理任务的任务信息作为目标参考数据;在第一处理模型处于未加载状态的情况下,获取电子设备的处理资源信息作为目标参考数据;在第一处理模型处于初始化状态的情况下,获得目标使用场景信息作为目标参考数据,目标使用场景包括处理结果的用途场景。

    7、根据本公开的实施例,基于运行状态及其对应的目标参考数据配置目标对象的对象参数,包括:基于运行状态及其对应的目标参考数据配置目标处理模型的模型参数或目标处理任务的任务参数;其中,目标处理模型包括第一处理模型和/或不同于第一处理模型的其他处理模型,目标处理任务包括第一处理任务及目标处理模型执行的其他处理任务。

    8、根据本公开的实施例,基于运行状态及其对应的目标参考数据配置目标对象的对象参数,包括以下至少之一:在第一处理模型处于空闲状态的情况下,基于目标用户的用户画像信息和/或目标使用环境参数配置第一处理模型具有第一模型参数,以使得第一处理模型切换至执行第一处理任务的状态;在第一处理模型处于忙碌状态的情况下,基于第二处理任务的任务信息配置第一处理模型具有第二模型参数、第二处理模型具有第三模型参数、第二处理任务具有第一任务参数中的至少之一,以利用第一处理模型和/或第二处理模型输出针对第一处理任务的处理结果,第二处理模型是能够处理第二处理任务和/或第一处理任务的模型;在第一处理模型处于未加载状态的情况下,基于电子设备的处理资源信息配置第一处理模型和/或至少一第三处理模型的模型参数,以利用第一处理模型和/或至少一第三处理模型输出针对第一处理任务的处理结果。

    9、根据本公开的实施例,基于电子设备的处理资源信息配置第一处理模型和/或至少一第三处理模型的模型参数,包括以下至少之一:在第一处理模型处于未加载状态、且处理资源信息表征电子设备具有第一处理模型所需的处理资源的情况下,配置第一处理模型具有第四模型参数,以使得第一处理模型切换至执行第一处理任务的状态;在第一处理模型处于未加载状态、且处理资源信息表征电子设备无法满足第一处理模型所需的处理资源的情况下,基于电子设备的资源占用信息及占用处理资源的各处理模型的优先级信息配置至少一个第三处理模型具有第五模型参数,以加载第一处理模型执行第一处理任务,和/或,配置至少一个第三处理模型执行第一处理任务。

    10、根据本公开的实施例,还包括以下至少之一:响应于第一处理模型执行第一处理任务,控制第一处理模型申请的第一内存区域进入锁定状态,其中,第一内存区域属于电子设备的物理内存,在锁定状态下,第一内存区域的内存数据不会被置换到电子设备的虚拟内存中;基于电子设备中各处理模型的优先级及运行状态将处理模型申请的对应内存区域从锁定状态切换至释放状态。

    11、本公开的第二方面提供了一种任务处理装置,包括:确定单元,用于响应于获得第一处理任务,确定第一处理模型的运行状态,第一处理模型是能够执行第一处理任务的模型;配置单元,用于基于运行状态配置目标对象的对象参数,以使得电子设备能够利用目标处理模型输出针对第一处理任务的处理结果;其中,目标对象包括或不包括第一处理模型,目标处理模型包括或不包括第一处理模型。

    12、本公开的第三方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个处理模型,模型管理服务,设置在处理器和存储装置所在的硬件层和电子设备的应用层之间,用于执行以下操作:响应于获得来自应用层的第一处理任务,确定第一处理模型的运行状态,第一处理模型是能够执行所述第一处理任务的模型;基于运行状态配置目标对象的对象参数,以使得电子设备能够利用目标处理模型输出针对第一处理任务的处理结果;其中,目标对象包括或不包括第一处理模型,目标处理模型包括或不包括第一处理模型。

    13、本公开的第四方面提供了一种计算机程序产品,包括一个或多个程序,其中,当一个或多个程序被一个或多个处理器执行时,使得一个或多个处理器执行上述任务处理方法。

    14、应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。


    技术特征:

    1.一种任务处理方法,包括:

    2.根据权利要求1所述的方法,其中,基于所述运行状态配置目标对象的对象参数,以使得电子设备能够利用目标处理模型输出针对所述第一处理任务的处理结果,包括:

    3.根据权利要求1或2所述的方法,其中,响应于获得第一处理任务,确定第一处理模型的运行状态,包括以下至少之一:

    4.根据权利要求3所述的方法,其中,基于所述第一处理任务的任务信息从电子设备的模型管理服务中确定所述第一处理模型及其运行状态,包括以下至少之一:

    5.根据权利要求2所述的方法,其中,基于所述第一处理模型的运行状态获取对应的目标参考数据,包括以下至少之一:

    6.根据权利要求2或5所述的方法,其中,基于所述运行状态及其对应的目标参考数据配置所述目标对象的对象参数,包括:

    7.根据权利要求2或5所述的方法,其中,基于所述运行状态及其对应的目标参考数据配置所述目标对象的对象参数,包括以下至少之一:

    8.根据权利要求7所述的方法,其中,基于电子设备的处理资源信息配置所述第一处理模型和/或至少一第三处理模型的模型参数,包括以下至少之一:

    9.根据权利要求1所述的方法,还包括以下至少之一:

    10.一种电子设备,包括:


    技术总结
    本公开提供了一种任务处理方法及电子设备,应用于计算机软件技术领域。该任务处理方法,包括:响应于获得第一处理任务,确定第一处理模型的运行状态,第一处理模型是能够执行第一处理任务的模型;基于运行状态配置目标对象的对象参数,以使得电子设备能够利用目标处理模型输出针对第一处理任务的处理结果;其中,目标对象包括或不包括第一处理模型,目标处理模型包括或不包括第一处理模型。

    技术研发人员:冯策
    受保护的技术使用者:联想(北京)有限公司
    技术研发日:
    技术公布日:2024/11/26
    转载请注明原文地址:https://tc.8miu.com/read-32743.html

    最新回复(0)