申请/专利权人：中山大学

申请日：2024-01-10

公开（公告）日：2024-04-02

公开（公告）号：CN117541833B

主分类号：G06V10/75

分类号：G06V10/75;G06N3/0464;G06N3/0895;G06V10/26;G06V10/82

优先权：

专利状态码：有效-授权

法律状态：2024.04.02#授权;2024.03.01#实质审查的生效;2024.02.09#公开

摘要：本发明公开了一种多模态图像匹配方法、系统、终端设备及存储介质，该方法包括：对光学图像和SAR图像进行自监督特征提取，得到光学图像和SAR图像之间的可重复特征点；根据可重复特征点将光学图像和SAR图像分割成第一图像块序列，并通过双分支网络对第一图像块序列进行特征提取，分别得到光学图像和SAR图像的特征描述向量；双分支网络包括用于提取全局特征的第一分支网络和用于提取局部特征的第二分支网络；根据特征描述向量对光学图像和SAR图像进行特征匹配，以得到光学图像和SAR图像之间的匹配点对。本发明采用两段式的训练方法首先训练得到稳健的SAR‑光学图像特征描述向量，再结合特征描述向量学习到高匹配性能的特征点。

主权项：1.一种多模态图像匹配方法，其特征在于，包括：对光学图像和SAR图像进行自监督特征提取，得到所述光学图像和所述SAR图像之间的可重复特征点；根据所述可重复特征点将所述光学图像和所述SAR图像分割成第一图像块序列，并通过双分支网络对所述第一图像块序列进行特征提取，分别得到所述光学图像和所述SAR图像的特征描述向量；所述双分支网络包括用于提取全局特征的第一分支网络和用于提取局部特征的第二分支网络；根据所述特征描述向量对所述光学图像和所述SAR图像进行特征匹配，以得到所述光学图像和所述SAR图像之间的匹配点对；所述对光学图像和SAR图像进行自监督特征提取，得到所述光学图像和所述SAR图像之间的可重复特征点，包括：将光学图像和SAR图像组成SAR-光学图像对；对所述SAR-光学图像对进行自监督学习，获得关键点得分图；根据所述关键点得分图构建损失函数，并利用所述损失函数优化所述自监督学习，以学习到所述光学图像和所述SAR图像之间的可重复特征点；所述根据所述关键点得分图构建损失函数，包括：将所述关键点得分图划分为第二图像块序列；所述第二图像块序列包括SAR图像块序列和光学图像块序列；基于所述第二图像块序列构建损失函数；所述损失函数包括第一损失函数、第二损失函数和第三损失函数；所述第一损失函数采用如下公式表示： 其中，Is表示SAR图像，Io表示光学图像，U表示仿射变换，Scoreoi表示光学图像块序列的第i个图像块，ScoresUi表示SAR图像块序列的第i个图像块，m表示第二图像块序列的图像块数量；所述第二损失函数采用如下公式表示： 其中，I表示SAR-光学图像对，Scorei表示第二图像块序列的第i个图像块；所述第三损失函数采用如下公式表示：L3＝1-[APijScoreij+γ1-Scoreij]其中，APij表示SAR-光学图像对i,j位置像素对应的平均精度，Scoreij表示SAR-光学图像对i,j位置像素对应的得分，γ表示超参数；所述平均精度表示SAR-光学图像对对应位置像素的特征描述向量之间的相似程度；将所述第一损失函数、所述第二损失函数和所述第三损失函数进行加权求和，得到所述损失函数。

全文数据：

权利要求：

百度查询： 中山大学 一种多模态图像匹配方法、系统、终端设备及存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD