推理系统的推理方法、推理方法及推理系统与流程

    专利查询2025-12-14  2


    本公开涉及人工智能,尤其涉及大模型、生成模型等领域,更具体地,本公开提供了一种推理系统的推理方法、推理方法及推理系统。


    背景技术:

    1、在实际应用中,可以使用推理系统来执行推理任务,例如用户输入提问信息,由推理系统来解答用户的问题。


    技术实现思路

    1、本公开提供了一种推理系统的推理方法、推理方法及推理系统。

    2、根据本公开的一方面,提供了一种推理系统的推理方法,包括:获得提问信息;推理系统包括推理模块、评估模块和处理模块;基于推理模块,执行与提问信息相对应的推理任务中的当前推理子任务,得到当前推理子任务的推理子结果;基于评估模块,对推理子结果进行评估,得到推理子结果的评估结果;在确定评估结果满足处理条件的情况下,基于处理模块,对推理子结果进行处理,得到当前推理子任务的处理结果;基于推理模块,通过提问信息和当前推理子任务的处理结果,执行当前推理任务的下一推理子任务,以至少基于最后一个推理子任务的推理子结果确定与提问信息相对应的推理结果。

    3、根据本公开另一实施例,评估结果包括以下至少一个置信度:表征推理子结果正确性的置信度、表征推理子结果与提问信息之间相关性的置信度以及表征推理子结果敏感性的置信度;处理条件包括以下中的至少一个:基于至少一个置信度确定的总置信度小于等于总置信度阈值,至少一个置信度中的任一个置信度小于等于对应的置信度阈值。

    4、根据本公开另一实施例,评估结果还包括:参考信息,参考信息表征推理子结果对应至少一个置信度的原因。

    5、根据本公开另一实施例,基于评估结果对推理子结果进行处理,得到当前推理子任务的处理结果,包括:将评估结果添加至推理子结果中,得到当前推理子任务的处理结果。

    6、根据本公开另一实施例,推理系统还包括交互模块和修正模块,方法还包括:基于交互模块,获取针对多个历史推理子任务中的目标推理子任务的修正信息;基于修正模块,通过修正信息对目标推理子任务的推理子结果进行修正,得到目标推理子任务的修正结果;基于推理模块,通过目标推理子任务的修正结果,执行目标推理子任务之后的推理子任务。

    7、根据本公开另一实施例,方法还包括:在确定多个历史推理子任务中,连续目标数量个历史推理子任务的推理子结果均已被处理的情况下,基于交互模块输出提醒信息,以便通过交互模块获取修正信息。

    8、根据本公开另一实施例,基于推理模块,执行与提问信息相对应的推理任务中的当前推理子任务,得到当前推理子任务的推理子结果包括:基于推理模块,执行以下操作:基于提问信息确定执行过程; 利用基于执行过程确定的参数调用相对应的工具;根据工具的输出信息确定当前推理子任务的推理子结果。

    9、根据本公开另一实施例,推理系统还包括分析模块,方法还包括:至少基于分析模块存储的评估结果和修正信息,调整推理模块的提示信息;其中,基于推理模块,通过提问信息、提问信息对应的提示信息和当前推理子任务的处理结果,执行当前推理任务的下一推理子任务;和/或,至少基于分析模块存储的提问信息和推理结果,调整推理模块的参数。

    10、根据本公开的另一方面,提供了一种推理方法,包括:获得提问信息;执行与提问信息相对应的推理任务中的当前推理子任务,得到当前推理子任务的推理子结果;对推理子结果进行评估,得到推理子结果的评估结果;在确定评估结果满足处理条件的情况下,对推理子结果进行处理,得到当前推理子任务的处理结果;基于提问信息和当前推理子任务的处理结果,执行当前推理任务的下一推理子任务,以至少基于最后一个推理子任务的推理子结果确定与提问信息相对应的推理结果。

    11、根据本公开的另一方面,提供了一种推理系统,包括:交互模块、推理模块、评估模块和处理模块。交互模块用于获得提问信息;推理模块用于执行与提问信息相对应的推理任务中的当前推理子任务,得到当前推理子任务的推理子结果;评估模块用于对推理子结果进行评估,得到推理子结果的评估结果;处理模块在确定评估结果满足处理条件的情况下,用于对推理子结果进行处理,得到当前推理子任务的处理结果;推理模块还用于基于提问信息和当前推理子任务的处理结果,执行当前推理任务的下一推理子任务,以至少基于最后一个推理子任务的推理子结果确定与提问信息相对应的推理结果。

    12、应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。



    技术特征:

    1.一种推理系统的推理方法,包括:

    2.根据权利要求1所述的方法,其中,所述评估结果包括以下至少一个置信度:表征所述推理子结果正确性的置信度、表征所述推理子结果与所述提问信息之间相关性的置信度以及表征所述推理子结果敏感性的置信度;

    3.根据权利要求2所述的方法,其中,所述评估结果还包括:参考信息,所述参考信息表征所述推理子结果对应所述至少一个置信度的原因。

    4.根据权利要求1所述的方法,其中,基于所述评估结果对所述推理子结果进行处理,得到当前推理子任务的处理结果,包括:

    5.根据权利要求1至4中任意一项所述的方法,所述推理系统还包括交互模块和修正模块,所述方法还包括:

    6.根据权利要求5所述的方法,还包括:

    7.根据权利要求1所述的方法,其中,所述基于所述推理模块,执行与所述提问信息相对应的推理任务中的当前推理子任务,得到所述当前推理子任务的推理子结果包括:

    8.根据权利要求1所述的方法,其中,所述推理系统还包括分析模块,所述方法还包括:

    9.一种推理方法,包括:

    10.一种推理系统,包括:


    技术总结
    本公开提供了一种推理系统的推理方法、推理方法及推理系统,涉及人工智能技术领域,尤其涉及大模型、生成模型领域。具体实现方案为:获得提问信息;推理系统包括推理模块、评估模块和处理模块;基于推理模块,执行与提问信息相对应的推理任务中的当前推理子任务,得到当前推理子任务的推理子结果;基于评估模块,对推理子结果进行评估,得到推理子结果的评估结果;在确定评估结果满足处理条件的情况下,基于处理模块,对推理子结果进行处理,得到当前推理子任务的处理结果;基于推理模块,通过提问信息和当前推理子任务的处理结果,执行当前推理任务的下一推理子任务,以至少基于最后一个推理子任务的推理子结果确定与提问信息相对应的推理结果。

    技术研发人员:马鑫,王鹏,徐东东
    受保护的技术使用者:联想(北京)有限公司
    技术研发日:
    技术公布日:2024/11/26
    转载请注明原文地址:https://tc.8miu.com/read-32734.html

    最新回复(0)