买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种基于交叉注意力机制的跨层特征融合方法_东莞理工学院_202311738289.2 

申请/专利权人:东莞理工学院

申请日:2023-12-18

公开(公告)日:2024-04-09

公开(公告)号:CN117853853A

主分类号:G06V10/80

分类号:G06V10/80;G06V10/82;G06N3/045

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.04.26#实质审查的生效;2024.04.09#公开

摘要:本发明公开了一种基于交叉注意力机制的跨层特征融合方法,具体包括以下步骤:步骤一、矩阵获取;步骤二、矩阵变换;步骤三、交叉注意力计算;步骤四、交叉注意力特征图计算;步骤五、特征图融合拼接;本发明涉及人工智能技术领域。该基于交叉注意力机制的跨层特征融合方法,通过利用交叉注意力机制建立不同阶段特征图之间的关联信息,通过自动学习不同阶段特征之间的关联,可以充分挖掘特征之间的复杂关系,可以缓解现有的特征融合方法缺少特征图之间的交互或者联系的问题,以此实现更加有效的特征融合。

主权项:1.一种基于交叉注意力机制的跨层特征融合方法,其特征在于:具体包括以下步骤:步骤一、矩阵获取:获取不同阶段的特征图F1和特征图F2,以及与特征图F1对应的矩阵X1和与特征图F2对应的矩阵X2;步骤二、矩阵变换:对矩阵X1使用线性变换矩阵计算得到矩阵Q1、K1、V1,对矩阵X2使用线性变换矩阵计算得到矩阵Q2、K2、V2;步骤三、交叉注意力计算:使用多头注意力机制MultiheadAttention计算交叉注意力:分别计算Q1与K2、V2的注意力矩阵X'1和Q2与K1、V1的注意力矩阵X'2;步骤四、交叉注意力特征图计算:分别计算矩阵X'1和矩阵X'2通过残差连接与线性变换所得到特征图F1的交叉注意力特征图F1'和特征图F2的交叉注意力特征图F'2;步骤五、特征图融合拼接:对交叉注意力特征图F1'和F'2进行融合:采用Concat串联方法对特征图F1'和特征图F'2进行通道连接获得特征图F=ConcatF1',F'2。

全文数据:

权利要求:

百度查询: 东莞理工学院 一种基于交叉注意力机制的跨层特征融合方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。