申请/专利权人：浙江大学

申请日：2023-12-22

公开（公告）日：2024-04-16

公开（公告）号：CN117435933B

主分类号：G06F18/22

分类号：G06F18/22;G06F18/214;G06F18/25;G06F16/36;G06N3/0442;G06N3/084

优先权：

专利状态码：有效-授权

法律状态：2024.04.16#授权;2024.02.09#实质审查的生效;2024.01.23#公开

摘要：本发明公开了一种融合预训练语言模型和图谱的变压器设备健康度评价方法，包括：对实时及历史运行评价数据分别对应处理得到实时和历史告警文本；构建动态状态评价模型；基于历史告警文本根据识图谱构建框架构建知识图谱；基于历史告警文本和动态状态评价模型训练得到电力短文本匹配模型；基于知识图谱构建框架提取实时告警文本的实体和属性信息；基于实时告警文本匹配动态状态评价模型和电力短文本匹配模型进行语义相似度匹配从而得到应扣分值；查询知识图谱确定应扣分值，并根据应扣分值和扣分系数计算更新健康度分数；采用改进mT5进行知识图谱构建，且采用了改进BERT+CoSENT进行文本匹配，通过告警触发的量化扣分机制来动态评价健康度。

主权项：1.一种融合预训练语言模型和图谱的变压器设备健康度评价方法，其特征在于，包括：获取变压器设备实时运行评价数据及历史运行评价数据，并分别对应处理得到实时告警文本和历史告警文本；构建变压器设备动态状态评价模型；基于历史告警文本根据融合mT5大语言模型的知识图谱构建框架构建系统中运行变压器设备的知识图谱，具体包括知识图谱的节点生成和知识图谱的关系生成，其中知识图谱的节点生成具体包括：构建固定格式的生成式指令prompt文本，将其作为前缀与输入历史告警文本进行拼接得到输入文本，送入改进的mT5编码器；基于改进的mT5解码器对输入文本进行解码，生成输入文本的节点特征矩阵，其中所述改进的mT5解码器，将mT5解码器中的1组注意力掩码层改为1组多头注意力层；将节点特征矩阵送入至单层GRU解码器，形成预设格式的文本序列，从而提取输入的历史告警文本对应的若干节点信息；基于历史告警文本和变压器设备动态状态评价模型训练得到电力短文本匹配模型，具体包括：将历史告警文本的描述内容与变压器设备动态状态评价模型的扣分内容，成对作为训练集的一个样本，并对每个样本赋予表示描述内容和扣分内容匹配程度的标签，所述标签取值为0或1；将一个训练样本的描述内容和扣分内容输入至chinese-bert-wwm-ext预训练语言模型中得到一次处理的句向量；将一次处理的句向量分别经过平均池化模型，得到二次处理句向量并基于标签取值计算余弦相似度；基于最小化的余弦相似度的损失函数为目标函数，更新chinese-bert-wwm-ext预训练语言模型和平均池化模型的参数，从而得到训练后的电力短文本匹配模型；基于mT5大语言模型的知识图谱构建框架提取实时告警文本的实体和属性信息；基于实时告警文本的实体和属性信息匹配变压器设备动态状态评价模型，并判断是否基于电力短文本匹配模型将实体和属性信息与变压器设备动态状态评价模型中的扣分内容进行语义相似度匹配，从而得到应扣分值；基于实时告警文本的实体和属性信息查询知识图谱，从而确定实时告警文本对应的部件和部件分数，并根据应扣分值和变压器设备动态状态评价模型中的扣分系数计算并更新变压器设备的健康度分数。

全文数据：

权利要求：

百度查询： 浙江大学 融合预训练语言模型和图谱的变压器设备健康度评价方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD