本发明属于机电设备预测性维护领域,具体涉及融合时序知识图谱与神经常微分方程的机电设备预测性维护方法。
背景技术:
1、目标系统的监控和诊断以及时和资源有效的方式执行维护任务,大量的异构数据使得对机电设备进行预测性维护得以实现。预测性维护可以通过统计或机器学习模型预测趋势、行为模式和相关性,以提前预测未发生的故障,从而改善维护活动的决策过程,避免停机的发生。知识图谱的概念最早由谷歌公司于2012年提出,知识图谱的核心思想在于将信息以实体和它们之间的关系来表示,从而形成一个结构化的数据网络。
2、知识图谱应用在机电设备上可以探索异构数据间的潜在关系,但是对于预测性维护而言最重要的是时间信息,常规的知识图谱无法储存包含时间信息的三元组,由此引出了由四元组组成的时序知识图谱,通过对时序知识图谱进行推理实现预测性维护。目前针对时序知识图谱推理的研究十分广泛,如xu等人结合对比学习的方法实现时序知识图谱的预测。bai等人基于时态逻辑规则实现时序知识图谱的补全。但是针对机电设备领域的相关研究暂时缺失,所以本发明针对机电设备特点构建时序知识图谱并对现有的推理方法进行改进,使其更加适合机电设备领域的研究。
3、神经常微分方程是一种使用神经网络结构来参数化常微分方程解的方法,这种方法在动态系统建模领域受到了广泛关注。霍克斯过程是一种自激点过程模型,用于描述事件发生的时间序列,其特点是一个事件的发生会增加未来事件发生的概率。自1971年由hawkes提出以来,这种方法在地震预测、社交网络分析和金融市场建模等领域受到了广泛关注。zhou等人将霍克斯过程应用于社交网络中的信息传播和用户行为建模。mei等人将知识图谱的节点嵌入到霍克斯过程模型中,并构建了一个神经网络,实现了霍克斯过程在知识图谱嵌入中的应用。
4、虽然上述方法针对具体问题来调整图嵌入结构或者应用深度学习进行预测性维护,使得他们的研究在预测性维护领域做出了一定的贡献。但是现有的研究存在的挑战包括:(1)现有模型大多在离散的时间域中进行建模,但机电设备的运维数据大多是不规则采样的动态数据,而且变化主要出现在故障与维护等边缘数据,对应的主体设备并不变化。(2)经过动态图卷积后的输入序列长度过长,常规的深度学习模型无法完整的学习其中的图结构。(3)预测性维护的最终目的是预防停机故障的产生,对于机电设备,停机故障是由不停机的故障积累产生的,现有模型没有利用这个特点。
技术实现思路
1、为了克服已有技术的不足,本发明提供了一种融合时序知识图谱的机电设备预测性维护方法,模型专门针对机电设备运维时序知识图谱进行推理,实现预测性维护;首先获取机电设备的并行结构信息学习用于节点分类的信息节点表示,并为每个相关的节点生成特征向量;然后从向量序列中捕获机电设备运行的时间演化信息,最后输出隐藏状态向量参与条件强度函数的构建,并基于强度函数实现时序知识图谱的预测,以完成对机电设备预测性维护任务。
2、为了解决上述技术问题本发明提出一种融合时序知识图谱的机电设备预测性维护方法,所述方法包括以下步骤:
3、第一步、构建机电设备时序知识图谱,过程如下:
4、步骤(1.1)本体结构构建,定义机电设备时序知识图谱(etkg,electromechanicalequipment temporal knowledge graph)本体;
5、步骤(1.2)数据采集;
6、步骤(1.3)数据预处理,使用 etl技术对采集的数据进行数据预处理,去除无效数据,将所有原始数据转换数据库表结构关系,统一存入关系数据库中,其中,etl技术用于将数据从一个或多个来源提取出来,经过转换后加载到目标数据库;
7、步骤(1.4)实体与关系抽取,从大量结构化与非结构化数据中自动提取出实体与关系;
8、第二步、使用动态图卷积嵌入模型实现机电设备时序知识图谱的动态嵌入,过程如下:
9、步骤(2.1)使用动态图卷积模型获取在任意时间的知识图谱的尾实体嵌入向量;
10、步骤(2.2)使用步骤(2.1)中的动态图卷积模型获得在查询时间的知识图谱的头实体嵌入向量;
11、第三步、使用动态霍克斯transformer模型实现维护实体的预测,过程如下:
12、步骤(3.1)使用动态位置编码模块对第二步中获得的实体嵌入向量编码;
13、步骤(3.2)神经霍克斯解码器模块实现维护实体预测;
14、第四步、将实体预测任务视为多类分类任务,将时间预测任务视为回归任务进行模型训练,过程如下:
15、步骤(4.1)采用交叉熵损失和均方误差损失作为实体预测任务和时间预测任务的损失;
16、步骤(4.2)对于使用了神经常微分方程的部分本发明采用伴随灵敏度法进行反向传播。
17、进一步,所述步骤(1.1)中,机电设备时序知识图谱etkg本体定义如下,
18、;
19、其中,e代表实体的集合;r 表示这些实体之间的关系集合;t表示实体与关系所对应的时间戳的集合,其中e包括三个大类:c代表设备的系统与部件;f表示设备的故障;m代表设备的维保。
20、进一步,所述步骤(1.2)的过程为:
21、步骤(1.2.1)采集机电设备控制柜中的结构化运行数据,包括振动信号、故障代码、运行状态数据、操作数据、电气参数、温度和湿度;利用tcp/ip通信协议,远程获取传感器中机电设备的实时运行数据;其中,所有传感器与设备、网关之间均采用串口方式进行连接,并通过modbus和rs485协议进行数据通讯;
22、步骤(1.2.2)采集机电设备物联网系统中的非结构化运维数据,包括维修记录、保养记录、故障原因和故障现象;利用爬虫技术从机电设备物联网系统中获取面向机电设备领域故障信息的非结构化数据。
23、再进一步,所述步骤(1.4)的过程为:
24、步骤(1.4.1)对于结构化的振动数据采用连续小波变换实现实体与关系的提取;
25、步骤(1.4.2)对于非结构化的文本数据采用word2vec、bi-lstm、crf技术实现实体与关系的提取;
26、步骤(1.4.3)使用图数据库语言进行数据导入,在图数据库中绘制机电设备时序知识图谱。
27、优选的,所述步骤(1.4.1)的过程如下:
28、步骤(1.4.1.1)振动数据经过连续小波变换,
29、;
30、;
31、其中,是具有两个参数a,b的小波基函数,表示小波变换的系数,该系数通过利用小波基函数对振动数据进行积分变换;表示小波基函数的共轭复根,为尺度参数,为平移参数;∫为积分运算,用于数学和统计学中;
32、步骤(1.4.1.2)计算能量谱如下,
33、;
34、其中,能量谱描述了不同尺度上的能量分布,用于识别主要频率成分;步骤(1.4.1.3)极值点检测实现故障实体提取;
35、通过检测的局部极值点,确定信号中的突发事件或异常振动;
36、步骤(1.4.1.4)计算共现矩阵实现关系提取,
37、;
38、构建小波系数在不同尺度上的共现矩阵,分析不同频率成分之间的关联。
39、再优选的,所述步骤(1.4.2)的过程如下:
40、步骤(1.4.2.1)文本数据嵌入;
41、文本数据需要进行向量化表示,将对应的字符序列映射为词向量序列,本发明通过词嵌入方法word2vec,通过不断训练、学习更新 word embedding 查找表,最终将输入文本通过查找表进行匹配,将其转换为对应的词向量序列;
42、步骤(1.4.2.2)文本嵌入向量经过bi-lstm层处理;
43、首先对bi-lstm层使用的多个初始参数进行随机初始化,将嵌入层输出的文本嵌入向量序列输入到正向lstm层与反向lstm层模型,学习序列向量的上下文信息,最后将两个方向的输出向量进行拼接作为 bi-lstm 层的输出序列,并且引入dropout技术防止出现过拟合的情况;
44、步骤(1.4.2.3)bi-lstm层输出向量经过crf层处理;
45、crf层考虑相邻标签的关系获得全局最优序列,根据 bi-lstm层的输出对实体之间的依赖性建模,从标签空间中选出概率最大的序列;
46、步骤(1.4.2.4)计算模型输出的损失函数得到最优结果;
47、将 crf层的输出作为模型最终输出的标记序列,与实际标注的序列进行对比计算loss函数,
48、;
49、其中,表示在给定输入序列x时,输出序列y的概率,表示给定输入序列和标签序列时的得分函数,log为对数运算,exp为自然指数运算;
50、通过不断调整各层的参数使得loss值最小,得到最优识别模型。
51、更优选的,所述步骤(1.4.3)的过程如下:
52、步骤(1.4.3.1)结构化数据格式转换;
53、将步骤(1.4.1)处理后的结构化数据从关系型数据库中将结构化数据导出为csv格式,为表达过程状态数据时序性的特点,将传统的三元组形式扩展为具有时序信息的四元组,其中t表示三元组成立时的时间信息。然而目前图数据库只支持三元组存储形式,故本发明将时序信息进行转换嵌入实体间的关系中,以实现基于图数据库的机电设备时序知识图谱的建立;
54、三元组在数据结构和数据库中指的是一个包含三个元素的集合,常用于表示关系数据库中的实体关系;
55、步骤(1.4.3.2)非结构化数据格式转换;
56、将步骤(1.4.2)非结构化数据中提取的实体以及实体关系转换为csv文件格式 由于提取的数据均为文本,故本发明将csv文件编码格式统一转换为utf-8编码;
57、步骤(1.4.3.3)数据导入;将csv文件数据导入到图数据库。
58、更进一步,所述步骤(2.1)中,使用动态图卷积模型获取在任意时间t的知识图谱的尾实体嵌入向量,过程为:
59、步骤(2.1.1)尾实体基于传统图卷积模型的嵌入,
60、;
61、其中,为邻接矩阵,为t时刻尾实体在k+1层的隐状态,是t时刻子图中与尾实体通过关系r相连的头实体的集合,即;为归一化常数,表示在k层的头实体的隐状态,为k层时的对角关系权重矩阵,代表初始状态嵌入的隐状态,激活函数采用relu, 为可训练的参数矩阵;
62、步骤(2.1.2)基于神经常微分方程对传统图卷积模型进行改进;
63、所述步骤(2.2)中,使用步骤(2.1)中的动态图卷积模型获得在查询时间的知识图谱的头实体嵌入向量。
64、优选的,所述步骤(2.1.2)的过程为:
65、步骤(2.1.2.1)将传统图卷积的传播深度k分解为积分时间和步长的组合,即,通过增加可变的积分步长dt实现图卷积的神经常微分方程表示,
66、;
67、其中,为尾实体的初始状态嵌入的隐状态,为对角关系权重矩阵;
68、步骤(2.1.2.2)使用泰勒展开将常微分方程表示改为微分方程形式,
69、;
70、其中,泰勒展开将函数在某点附近用多项式逼近,用于近似复杂函数在微分方程中的解,为单位矩阵;
71、步骤(2.1.2.3)通过令,用一组参数θ来表征整个连续时间聚合过程,并通过求和获得完整的尾实体嵌入向量,
72、;
73、其中,为黑盒ode求解器,用于求解神经常微分方程。
74、所述步骤(3.1)的过程为:
75、步骤(3.1.1)通过训练一个ode模块,来学习位置与位置之间的变化,使位置编码不再是一组预设的静态向量,而是由神经常微分方程网络决定的动态向量,训练的odetransition module公式如下,
76、;
77、其中,为位置编码,为位置编码向量的编号,根据积分时间将位置编码等分为块;
78、步骤(3.1.2)针对处理时序知识图谱的过程,实体之间的绝对时刻和它们的相对间隔都非常重要,所以通过将原本的绝对位置编码方法与ode进行了融合,时间位置编码函数为,
79、;
80、其中,和分别代表了连续时间位置编码的两个相邻点,是与每个维度j相关的频率参数,为关系嵌入r的线性投影,s为正弦函数,c为余弦函数;
81、步骤(3.1.3)使用黑盒ode求解器进行求解,对于任何时间点t计算出一个连续的时间编码向量,这个新的时间编码方式需要通过训练数据进行优化,从而使得模型能够自适应地学习到动态时间编码,
82、;
83、其中,是动态位置编码。
84、所述步骤(3.2)的过程为:
85、步骤(3.2.1)通过多头注意力机制来增强自适应识别机电设备运维领域知识图谱中实体与关系的时间信息的能力;
86、步骤(3.2.2)通过构造强度函数实现实体预测与时间预测。
87、所述步骤(3.2.1)的过程如下:
88、步骤(3.2.1.1)将动态位置编码通过自适应线性映射,转换为i个长度为的向量,并用于生成查询向量q、键向量k和值向量v,q、k、v的生成公式如下,
89、;
90、其中,、、为可学习权矩阵,增加模型的表达性,从而使计算出的权值矩阵具有更高的泛化能力;
91、步骤(3.2.1.2)单个注意力头所产生的隐藏状态的计算公式如下,
92、;
93、其中,为注意力机制中的时间信息偏差项,代表转置,是查询关系的嵌入矩阵,函数是一种在多类分类问题中常用的归一化指数函数;
94、步骤(3.2.1.3)将每个注意力头输出的做拼接操作,再经过残差连接和隐藏层正则化得到查询时间输出的隐状态,
95、;
96、其中,隐藏层正则化是将网络中的隐藏层归一化为标准正态分布。前馈神经网络是最简单的一种神经网络结构,广泛应用于各种分类和回归任务。
97、所述步骤(3.2.2)的过程如下:
98、步骤(3.2.2.1)为所有候选实体构建的时间条件强度函数为,
99、;
100、其中,是一个投影矩阵,是在查询时间的隐状态,是带有参数的softplus函数,目的是确保强度函数的正值性。
101、步骤(3.2.2.2)通过最大化条件强度函数来预测查询时间发生的尾实体,
102、;
103、其中,arg max函数表示找到使最大的,为最终预测的维护实体;步骤(3.2.2.3)通过条件时间密度函数来预测维护实体发生的时间
104、;
105、;
106、其中,为查询实体,为时间参数用于积分运算。
107、所述步骤(4.1)的过程为:
108、步骤(4.1.1)计算交叉熵损失,
109、;
110、其中,为训练集中样本四元组数量,是一个指示器即当第i个样本实体类别为m(维保)时为1,否则为0,是模型预测第i个样本实体类别为m的概率;
111、步骤(4.1.2)计算均方误差损失,
112、;
113、其中,是维保实体实际产生的时间,是预测维保实体产生的时间;
114、步骤(4.1.3)将两个任务的损失整合并通过最小化损失函数提高预测精度,
115、;
116、其中,为调整两个损失函数之间相对重要性的超参数,取值为0.2;
117、所述步骤(4.2)中,对于使用了神经常微分方程的部分采用伴随灵敏度法进行反向传播,
118、;
119、其中,为神经常微分方程过程中的损失,为伴随量,由求得,为在任意时间t的知识图谱的尾实体嵌入向量,为伴随量的转置,伴随灵敏度法通过在时间上向后求解增广常微分方程,直接计算出损失函数关于网络参数的梯度,从而无需通过ode求解器进行反向传播,以此减少反向传播中的内存成本,使模型更加高效。
120、本发明的有益效果主要表现在:
121、1、针对机电设备的海量异构数据,构建知识图谱本体结构,并根据不同格式的运维数据,采用相应的方法抽取四元组构建图谱,实现机电设备运维时序知识图谱(etkg)构建。
122、2、将神经常微分方程结合关系图卷积神经网络构建动态图卷积嵌入模型(dge,dynamic graph embedding),将时序知识图谱的拓扑结构在时间上进行连续化处理并嵌入为隐状态,实现对机电设备数据的深度理解和特征提取。
123、3、构建动态霍克斯transformer模型(dht,dynamic hawkes transformer),基于神经常微分方程对位置编码进行改进使其处理时序知识图谱中大规模并且连续的嵌入向量,并在多头注意力机制中增加时间信息偏差项以捕获时间依赖关系,最后根据连续时间隐状态构建强度函数实现任意时间点上的实体预测或预期实体的时间预测。
1.一种融合时序知识图谱的机电设备预测性维护方法,其特征在于,所述方法包括以下步骤:
2.如权利要求1所述的融合时序知识图谱的机电设备预测性维护方法,其特征在于,所述步骤(1.1)中,机电设备时序知识图谱etkg本体定义如下,
3.如权利要求2所述的融合时序知识图谱的机电设备预测性维护方法,其特征在于,所述步骤(1.4)的过程为:
4.如权利要求3所述的融合时序知识图谱的机电设备预测性维护方法,其特征在于,所述步骤(1.4.1)的过程如下:
5.如权利要求3所述的融合时序知识图谱的机电设备预测性维护方法,其特征在于,所述步骤(1.4.2)的过程如下:
6.如权利要求3所述的融合时序知识图谱的机电设备预测性维护方法,其特征在于,所述步骤(1.4.3)的过程如下:
7.如权利要求1~6任一项所述的融合时序知识图谱的机电设备预测性维护方法,其特征在于,所述步骤(2.1)中,使用动态图卷积模型获取在任意时间t的知识图谱的尾实体嵌入向量,过程为:
8.如权利要求1~6任一项所述的融合时序知识图谱的机电设备预测性维护方法,其特征在于,所述步骤(3.1)的过程为:
9.如权利要求1~6任一项所述的融合时序知识图谱的机电设备预测性维护方法,其特征在于,所述步骤(3.2)的过程为:
10.如权利要求1~6任一项所述的融合时序知识图谱的机电设备预测性维护方法,其特征在于,所述步骤(4.1)的过程为:
