申请/专利权人：中国人民解放军空军工程大学

申请日：2022-03-10

公开（公告）日：2024-04-12

公开（公告）号：CN114818853B

主分类号：G06F18/2431

分类号：G06F18/2431;G06N3/0442;G06N3/047;G06N3/045;G06N3/09

优先权：

专利状态码：有效-授权

法律状态：2024.04.12#授权;2022.08.16#实质审查的生效;2022.07.29#公开

摘要：提供一种基于双向门控循环单元和条件随机场的意图识别方法，包括下列步骤：目标意图空间编码；目标意图识别输入特征输入；双向门控循环单元BiGRU设计；注意力机制设计；条件随机场CRF设计。针对传统的空中目标意图识别方法仅仅考虑单一时刻的目标状态信息，且最终得到意图识别结果不具有前后依赖性的问题，相较于其他先进的意图识别方法，本发明的方法在空中意图识别领域具有整体上的优势。

主权项：1.基于双向门控循环单元和条件随机场的意图识别方法，其特征在于，具体包括下列步骤：Step1.目标意图空间编码建立目标战术意图空间集合为{攻击、侦察、监视、掩护、干扰、撤退}；假定每个目标在某一时刻只有一个主要战术意图，采用目标的主要战术意图对样本数据进行标注和识别；针对上述6种战术意图进行标签化处理，每一种意图用一个数字编码；对样本数据的标注采用仿真推演系统事后分析得到，系统采用上帝视角，对每一组样本数据进行复推，根据环境属性、实体状态、执行任务等信息归纳出目标的作战意图，并赋予意图标签，之后再由专家对加注的标签进行校验和修订；Step2.目标意图识别输入特征输入选取的目标意图识别输入特征共有W维，包括数值型特征和非数值型特征两种；定义矩阵Ut和矩阵Vt，分别描述t时刻目标意图识别输入特征中的数值型和非数值型特征；对目标意图识别输入特征进行归一化处理能够消除数据量纲影响，同时能够提高网络收敛效率；对于高度、速度、加速度等数值型特征，采用最大-最小标准化方法进行归一化处理，将其映射到区间[0，1]，计算过程如下： 其中，u′为初始输入数值，u为归一化后的结果，min为该维度下的最小值，max为该维度下的最大值，c为极小的常数；每一时刻的目标状态输入采用矩阵形式；目标意图识别输入特征中的数值型特征表示为 其中，元素表示在t时刻的输入中，目标在第j帧的第i种数值型特征状态值；m为目标的数值型特征总维度；M为每个时刻的采样帧数，采样帧数是可变的，在训练过程中通过测试得到最佳采样帧数；非数值型特征均为分类数据，神经网络无法直接处理分类数据，因此需要对其进行数值化处理，将其转化为在区间[0，1]的结果，过程如下： 其中，K为该维度下的总分类数目，则原始输入v′对应的该维度下第k类映射到区间[0，1]的结果为v；目标意图特征输入中的非数值型特征表示为 其中，元素表示在t时刻的输入中，目标在第j帧的第i种非数值型特征状态值，数值及非数值特征均用i表示；n为目标的非数值型特征总维度；M为每个时刻的采样帧数；根据以上归一化及数值化处理方式，得到t时刻目标意图识别输入特征初始输入总特征It＝{Ut，Vt}；在此基础上，对其进行整合及统一编码，得到标准特征输入矩阵Xt，表示为 其中，元素表示在t时刻的输入中，目标在第j帧的第i种特征值；N为目标意图识别输入特征总维度；M为每个时刻的采样帧数；Step3.双向门控循环单元BiGRU设计给定t时刻的输入Xt和上一时刻隐藏状态Ht-1，Ht-1在上一时刻求解得到，经过激活函数sigmoid函数的全连接层的计算，得到重置门Rt、更新门Zt的输出：Rt＝σXtWxr+Ht-1Whr+br6Zt＝σXtWxz+Ht-1Whz+bz7其中，Wxr、Whr和Wxz、Whz分别为第一、第二、第三、第四权重参数，br、bz分别为第一、第二偏差参数；重置门和更新门中每个元素的值域都是[0，1]；σ为归一化系数；t时刻的候选隐藏状态和隐藏状态Ht的计算如下： 其中，Wxh和Whh分别为第五、第六权重参数，bh是第三偏差参数，·是按元素乘法；重置门Rt的功能是决定前一时刻隐藏状态需要重置的信息有多少，当Rt元素值接近0时，代表重置对应隐藏状态元素为0，即前一时刻的隐藏状态全部重置为当前时刻的输入；更新门Zt的功能是决定前一时刻的信息是否被丢弃，其值越小，代表前一时刻隐藏节点所包含的信息被丢弃得越多；GRU网络模型复杂度较低的原因是忽略了某些没用的信息，而其中的重置门能够捕捉时间序列里短期的依赖关系，更新门则能够捕捉时间序列里长期的依赖关系；在对意图识别模型进行训练过程中，会发现当前时刻不仅仅由之前的时刻序列决定，有时候也可能由后面时刻的序列决定；BiGRU由前向的GRU网络与后向的GRU网络组成，在GRU的基础上增加从后往前传递信息的隐藏层，从而解决上述问题；BiGRU在时刻t的隐藏状态Ht由正向隐藏状态和反向隐藏状态两部分共同求得，正向隐藏状态由当前时刻的输入Xt和前一时刻的正向隐藏状态决定，反向隐藏状态由当前时刻的输入Xt和后一时刻的反向隐藏状态决定，同样由前一及后一时刻确定，循环迭代，H0初始化值设置为0；计算公式为 其中，W1、W2、W3、W4分别为单元之间的第一、第二、第三、第四权重，f为GRU单元隐藏层状态计算方法，如公式6至9所示；BiGRU中通过连结正向隐藏状态和反向隐藏状态得到最终的隐藏状态Ht，计算公式为 其中，W5和W6分别为正向隐藏状态和反向隐藏状态的权重，bt为t时刻隐藏层状态对应的偏置；Step4.注意力机制设计注意力机制输入为经过BiGRU神经网络层输出的隐藏状态Ht，通过注意力机制可以对隐藏状态加权表征，以挖掘连续时刻特征输入间的关联关系，最终得到新的状态序列作为输出；对于t时刻，注意力机制的计算公式为：et＝vttanhWtHt+bt13 其中，vt和Wt分别为t时刻的第一和第二权重系数矩阵，bt为t时刻相应的偏移量，et为隐藏层状态Ht在t时刻得到的能量值；at为每一时刻的影响权重，St为最终得到的各个时刻输出的加权和，即下一步全连接层的输入，T为总时间；Step5.条件随机场CRF设计空中目标的战术意图之间是具有前后依赖性质的，即各个时刻的意图并非完全独立，而是依赖于前一个时刻的意图；若给定目标输入标准特征集序列X＝X1，X2，...，Xt，X1，X2，…，Xt分别为1到t时刻输入的特征向量，意图输出标签序列Y＝Y1，Y2，...，Yt，Y1，Y2，...，Yt分别为1到t时刻输出的意图标签，Y＝Y1，Y2，...，Yt由条件随机场CRF输出，将每对X和Y的评估分数定义为F＝X，Y；F＝X，Y包含两部分：第一部分是每个时刻t，经过BiGRU层、注意力层、全连接层输出的意图得分之和；将全连接层的输出序列O＝O1，O2，...，Ot看作分数矩阵，矩阵大小为t×l，其中l为战术意图数量，Oi为i时刻6种意图分别的得分，i∈[1，t]，其反映的是第i个时刻属于各种战术意图的可能性，Oi，j表示第i个时刻第j个战术意图对应的得分，j∈[1，l]，Oi，j∈Oi，Oi∈O；第二部分是t时刻意图转移的得分之和；F＝X，Y的计算公式为 通过归一化所有标注序列，得到关于意图输出标签序列Y的概率分布，公式为 式中，YX表示目标输入标准特征集序列X对应的所有可能的状态序列，Y′为Y中的每一项，即Y′包含Y1...Yt；在模型训练过程中，将有关正确状态序列的对数概率最大化，公式为 在进行意图识别时，在新的输入标准特征集序列X＝X1，X2，...，Xt上找到总得分F＝X，Y最高的状态序列，即 其中Y＝{Y1，Y2，...，Yt}，则时刻t的目标意图识别结果为Yt。

全文数据：

权利要求：

百度查询： 中国人民解放军空军工程大学 基于双向门控循环单元和条件随机场的意图识别方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD