本发明涉及核电厂事故智能处理,尤其涉及一种多工况事故处理方法、装置、计算机设备及存储介质。
背景技术:
1、在核电站运行过程中有可能会出现紧急事故,且由于核电站设备多、工况复杂,有可能会产生多个不同的紧急事故。
2、然而,在紧急事故的情况下传统的方法(例如基于pid的控制或者操作员的手动控制)会造成操作员压力大、存在控制不及时或者控制失误的情况,造成一定的核电站安全隐患;并且使用人工智能方法同时对不同的事故工况进行处理时只能调用不同的模型,处理紧急事故的效率大大降低。
技术实现思路
1、本发明的目的是提供一种多工况事故处理方法、装置、计算机设备及存储介质,旨在解决现有技术中的人工智能方法局限于对不同工况只能调用不同的模型的问题。
2、第一方面,本发明实施例提供一种基于智能体算法的多工况事故处理方法,包括:
3、针对不同的工况,收集操作员的操作轨迹数据以及在仿真机中进行仿真控制时的操作轨迹数据,并进行组合得到离线专家数据集;
4、将针对不同的工况的决策问题建模为包含行为克隆过程的强化学习智能体,利用所述离线专家数据集训练所述强化学习智能体,并对所述强化学习智能体的状态价值函数网络和动作价值函数网络进行更新;
5、利用所述状态价值函数网络和所述动作价值函数网络的差值确定优势函数,并利用所述优势函数对所述行为克隆过程进行加权,得到多个策略模型;
6、对所述多个策略模型进行筛选,将筛选出的策略模型作为通用智能体模型;
7、对所述通用智能体模型进行部署并利用所述通用智能体模型对当前工况进行处理。
8、第二方面,本发明实施例还提供一种基于智能体算法的多工况事故处理的装置,其包括:
9、收集单元,用于针对不同的工况,收集操作员的操作轨迹数据以及在仿真机中进行仿真控制时的操作轨迹数据,并进行组合得到离线专家数据集;
10、更新单元,用于将针对不同的工况的决策问题建模为包含行为克隆过程的强化学习智能体,利用所述离线专家数据集训练所述强化学习智能体,并对所述强化学习智能体的状态价值函数网络和动作价值函数网络进行更新;
11、训练单元,用于利用所述状态价值函数网络和所述动作价值函数网络的差值确定优势函数,并利用所述优势函数对所述行为克隆过程进行加权,得到多个策略模型;
12、筛选单元,用于对所述多个策略模型进行筛选,将筛选出的策略模型作为通用智能体模型;
13、部署单元,用于对所述通用智能体模型进行部署并利用所述通用智能体模型对当前工况进行处理。
14、第三方面,本发明实施例又提供了一种计算机设备,其包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述第一方面所述的基于智能体算法的多工况事故处理方法。
15、第四方面,本发明实施例还提供了一种计算机可读存储介质,其中所述计算机可读存储介质存储有计算机程序,所述计算机程序当被处理器执行时使所述处理器执行上述第一方面所述的基于智能体算法的多工况事故处理方法。
16、本发明实施例提供一种多工况事故处理方法、装置、计算机设备及存储介质,该方法将操作员的操作轨迹数据以及在仿真机中进行仿真控制时的操作轨迹数据,并进行组合得到离线专家数据集,利用离线专家数据集训练强化学习智能体,并对强化学习智能体的状态价值函数网络和动作价值函数网络进行更新,并利用优势函数对行为克隆过程进行加权,得到多个策略模型;对多个策略模型进行筛选,将筛选出的策略模型作为通用智能体模型;对通用智能体模型进行部署并利用通用智能体模型对当前工况进行处理。本发明能够同时处理多个事故工况,可以有效地以离线学习的方式学习最优策略,有效增加了核电站的智能化水平及操作员的操作效率。
1.一种基于智能体算法的多工况事故处理方法,其特征在于,包括:
2.根据权利要求1所述的基于智能体算法的多工况事故处理方法,其特征在于,所述利用所述离线专家数据集训练所述强化学习智能体,包括:
3.根据权利要求1所述的基于智能体算法的多工况事故处理方法,其特征在于,所述对所述强化学习智能体的状态价值函数网络和动作价值函数网络进行更新,包括:
4.根据权利要求1所述的基于智能体算法的多工况事故处理方法,其特征在于,所述优势函数为,a(s,a)=q(s,a)-v(s)。
5.根据权利要求1所述的基于智能体算法的多工况事故处理方法,其特征在于,所述利用所述优势函数对所述行为克隆过程进行加权,得到多个策略模型,包括:
6.根据权利要求1所述的基于智能体算法的多工况事故处理方法,其特征在于,所述利用所述优势函数对所述行为克隆过程进行加权,得到多个策略模型之后,还包括:
7.根据权利要求1所述的基于智能体算法的多工况事故处理方法,其特征在于,所述对所述多个策略模型进行筛选,将筛选出的策略模型作为通用智能体模型,包括:
8.一种基于智能体算法的多工况事故处理装置,其特征在于,包括:
9.一种计算机设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述的基于智能体算法的多工况事故处理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序当被处理器执行时使所述处理器执行如权利要求1至7任一项所述的基于智能体算法的多工况事故处理方法。