本发明涉及人工智能,尤其是涉及一种基于推理模板的大模型意图推理方法、装置、设备及介质。
背景技术:
1、基于llm大语言模型构建应用系统的技术是指利用预训练的大型语言模型llm(large language model,大型语言模型)作为人工智能系统的核心组件,实现对自然语言的理解和生成,从而完成各种应用任务,如问答、对话、摘要、翻译、写作等。
2、基于llm大语言模型构建应用系统的技术在业内已经有了广泛的应用。但在相关技术中,推理过程中出现的幻觉问题并未得到有效的解决,无法输出准确的推理结论。
技术实现思路
1、有鉴于此,本发明的目的在于提供一种基于推理模板的大模型意图推理方法、装置、设备及介质,以解决推理过程中出现的幻觉问题,提高推理结论的准确性。
2、第一方面,本发明实施例提供了一种基于推理模板的大模型意图推理方法,应用于大型语言模型,大型语言模型部署有预先构建的智能体自主系统,智能体自主系统包括主控智能体、意图编排智能体和专业智能体;方法包括:获取待处理自然语言;将待处理自然语言输入至预先训练的大型语言模型中,主控智能体基于大型语言模型中的历史案例、预先设置的推理模板和预先生成的提示词集对待处理自然语言进行意图识别和流程推理,得到推理结果;意图编排智能体基于推理结果进行流程编排,得到处理流程;专业智能体基于处理流程进行流程处理得到处理结果;主控智能体基于处理结果进行意图推理,得到推理结论;大型语言模型输出推理结论。
3、在本发明较佳的实施例中,主控智能体基于大型语言模型中的历史案例、预先设置的推理模板和预先生成的提示词集对待处理自然语言进行意图识别和流程推理,得到推理结果,包括:执行预先设置的推理模板限定的基本纲要,得到推理结果;预先设置的推理模板限定的基本纲要包括:对待处理自然语言进行任务描述的意图识别,得到任务意图;基于任务意图、历史案例及预先生成的提示词集进行流程推理,得到推理结果;推理结果包括:任务意图对应的关联动作,任务意图关联的处理工具,任务意图对应的处理要点提示说明、任务意图对应的注意事项提示说明;预先生成的提示词集用于为主控智能体提供提示词,以引导主控智能体得到推理结果。
4、在本发明较佳的实施例中,预先设置的推理模板限定的基本纲要还包括:确定推理结果是否错误;若推理结果错误,则调整意图识别和流程推理的具体流程,并按调整后的意图识别和流程推理的具体流程更新推理结果。
5、在本发明较佳的实施例中,主控智能体基于大型语言模型中的历史案例、预先设置的推理模板和预先生成的提示词集对待处理自然语言进行意图识别和流程推理,得到推理结果之后,还包括:若主控智能体接收到外部输入的提示信息,则主控智能体基于提示信息对推理结果进行更新。
6、在本发明较佳的实施例中,上述预先训练的大型语言模型的训练方式为:获取历史案例和历史案例对应的标注规则;基于历史案例和标注规则生成训练数据集;基于训练数据集对大型语言模型进行训练。
7、在本发明较佳的实施例中,上述预先生成的提示词集的生成方式为:获取新增历史案例、大型语言模型的提示规则和提示模板;其中,新增历史案例未参与大型语言模型的训练;基于历史案例、提示规则和提示模板生成提示词集。
8、在本发明较佳的实施例中,历史案例中包括历史专家案例、历史工具应用案例中的至少一个;历史专家案例包括:专家案例应用场景、专家案例推理规则和专家案例实践示例;工具应用案例包括:工具使用场景、工具使用规则和工具使用案例。
9、第二方面,本发明实施例还提供一种基于推理模板的大模型意图推理装置,应用于大型语言模型,大型语言模型部署有预先构建的智能体自主系统,智能体自主系统包括主控智能体、意图编排智能体和专业智能体;装置包括:待处理自然语言获取模块,用于获取待处理自然语言;待处理自然语言输入模块,用于将待处理自然语言输入至预先训练的大型语言模型中,主控智能体基于大型语言模型中的历史案例、预先设置的推理模板和预先生成的提示词集对待处理自然语言进行意图识别和流程推理,得到推理结果;流程编排模块,用于意图编排智能体基于推理结果进行流程编排,得到处理流程;流程处理模块,用于专业智能体基于处理流程进行流程处理得到处理结果;意图推理模块,用于主控智能体基于处理结果进行意图推理,得到推理结论;推理结论输出模块,用于大型语言模型输出推理结论。
10、第三方面,本发明实施例还提供一种电子设备,包括处理器和存储器,存储器存储有能够被处理器执行的计算机可执行指令,处理器执行计算机可执行指令以实现上述第一方面的基于推理模板的大模型意图推理方法。
11、第四方面,本发明实施例还提供一种计算机可读存储介质,计算机可读存储介质存储有计算机可执行指令,计算机可执行指令在被处理器调用和执行时,计算机可执行指令促使处理器实现上述第一方面的基于推理模板的大模型意图推理方法。
12、本发明实施例带来了以下有益效果:
13、本发明实施例提供了一种基于推理模板的大模型意图推理方法、装置、设备及介质,应用于大型语言模型,大型语言模型部署有预先构建的智能体自主系统,智能体自主系统包括主控智能体、意图编排智能体和专业智能体。通过获取待处理自然语言,将待处理自然语言输入至预先训练的大型语言模型中,主控智能体基于大型语言模型中的历史案例、预先设置的推理模板和预先生成的提示词集对待处理自然语言进行意图识别和流程推理,得到推理结果,意图编排智能体基于推理结果进行流程编排,得到处理流程,专业智能体基于处理流程进行流程处理得到处理结果,主控智能体基于处理结果进行意图推理,得到推理结论;大型语言模型输出推理结论。该方式中,通过智能体自主系统中的主控智能体、意图编排智能体和专业智能体的协同合作,实现了对待处理自然语言进行意图识别、流程推理、流程编排和流程处理,解决了推理过程中出现的幻觉问题,提高了推理结论的准确性。
14、本公开的其他特征和优点将在随后的说明书中阐述,或者,部分特征和优点可以从说明书推知或毫无疑义地确定,或者通过实施本公开的上述技术即可得知。
15、为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
1.一种基于推理模板的大模型意图推理方法,其特征在于,应用于大型语言模型,所述大型语言模型部署有预先构建的智能体自主系统,所述智能体自主系统包括主控智能体、意图编排智能体和专业智能体;所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述主控智能体基于所述大型语言模型中的历史案例、预先设置的推理模板和预先生成的提示词集对所述待处理自然语言进行意图识别和流程推理,得到推理结果,包括:
3.根据权利要求2所述的方法,其特征在于,所述预先设置的推理模板限定的基本纲要还包括:
4.根据权利要求1所述的方法,其特征在于,所述主控智能体基于所述大型语言模型中的历史案例、预先设置的推理模板和预先生成的提示词集对所述待处理自然语言进行意图识别和流程推理,得到推理结果之后,还包括:
5.根据权利要求1所述的方法,其特征在于,所述预先训练的大型语言模型的训练方式为:
6.根据权利要求1所述的方法,其特征在于,所述预先生成的提示词集的生成方式为:
7.根据权利要求5或6所述的方法,其特征在于,所述历史案例中包括历史专家案例、历史工具应用案例中的至少一个;所述历史专家案例包括:专家案例应用场景、专家案例推理规则和专家案例实践示例;所述工具应用案例包括:工具使用场景、工具使用规则和工具使用案例。
8.一种基于推理模板的大模型意图推理装置,其特征在于,应用于大型语言模型,所述大型语言模型部署有预先构建的智能体自主系统,所述智能体自主系统包括主控智能体、意图编排智能体和专业智能体;所述装置包括:
9.一种电子设备,其特征在于,包括处理器和存储器,所述存储器存储有能够被所述处理器执行的计算机可执行指令,所述处理器执行所述计算机可执行指令以实现权利要求1至7任一项所述的基于推理模板的大模型意图推理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令在被处理器调用和执行时,所述计算机可执行指令促使处理器实现权利要求1至7任一项所述的基于推理模板的大模型意图推理方法。