首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】基于深度流形蒸馏网络的高光谱遥感图像场景分类方法_重庆大学_202410341723.1 

申请/专利权人:重庆大学

申请日:2024-03-25

公开(公告)日:2024-05-17

公开(公告)号:CN118053041A

主分类号:G06V10/764

分类号:G06V10/764;G06V10/75;G06V10/82;G06V20/10;G06N3/045;G06N3/0464;G06N3/084;G06N3/096

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.06.04#实质审查的生效;2024.05.17#公开

摘要:本发明公开一种基于深度流形蒸馏网络的高光谱遥感图像场景分类方法,包括:1)对相同波段的高光谱遥感图像进行处理,得到多个基础数据;基础数据中的一部分记作训练数据,另一部分记作测试数据;2)采用SwinTransformer网络架构构建教师模型;用训练数据对教师模型进行训练,直至教师模型收敛;3)采用ResNet‑18网络架构构建学生模型;用教师模型和学生模型构建参数优化模型;对参数优化模型进行参数优化操作,得到收敛后的学生模型;本发明的有益技术效果是:提出了一种基于深度流形蒸馏网络的高光谱遥感图像场景分类方法,该方案可以在计算复杂度较低的情况下具有优异的分类性能。

主权项:1.一种基于深度流形蒸馏网络的高光谱遥感图像场景分类方法,其特征在于:所述高光谱遥感图像场景分类方法包括:1对相同波段的高光谱遥感图像进行人工分类处理,获得多个场景分类数据,场景分类数据中包含有代表各种场景标签的真实值;对多个场景分类数据进行随机旋转、随机翻转和归一化处理,得到多个基础数据;将多个基础数据中的一部分记作训练数据,另一部分记作测试数据;2采用SwinTransformer网络架构构建教师模型;用训练数据对教师模型进行训练操作;每完成一次训练操作,就用测试数据对教师模型的分类精度进行验证,如分类精度不满足要求,则继续用训练数据对教师模型进行训练,直至教师模型收敛,得到收敛后的教师模型;3采用ResNet-18网络架构构建学生模型;用收敛后的教师模型和所述学生模型构建参数优化模型;按方法一的方式对参数优化模型进行参数优化操作,得到收敛后的学生模型;收敛后的学生模型即能用于对相应波段的高光谱遥感图像进行分类处理;所述方法一包括:按方法二的方式得到对应单个训练数据的Lstu、Ltea、LKD和LMF,然后根据Lstu、Ltea、LKD和LMF得到对应单个训练数据的模型损失L,L=Lstu+Ltea+αLKD+βLMF;多个训练数据对应多个L;然后计算出多个L的算术平均值L1;α为衡量LKD重要性的系数,β为衡量LMF重要性的系数;然后,根据L1,采用反向传播算法对教师模型和学生模型进行参数优化操作,参数优化操作达到设定的次数后,就用测试数据验证学生模型的分类精度,如分类精度不满足要求,则继续根据更新后的L1,采用反向传播算法对教师模型和学生模型进行参数优化操作,直至学生模型收敛,即得到收敛后的学生模型;所述方法二包括:将多个训练数据按批次输入参数优化模型中;单个批次至少包含1个训练数据;对于单个训练数据,按如下步骤进行处理:a将单个训练数据同步输入教师模型和学生模型中,教师模型对相应训练数据进行处理后得到第一逻辑输出,学生模型对相应训练数据进行处理后得到第二逻辑输出;b用温度系数为T的Softmax函数对第一逻辑输出进行归一化处理,得到第一概率分布输出;用温度系数为T的Softmax函数对第二逻辑输出进行归一化处理,得到第二概率分布输出;然后用KLdiv函数衡量第一概率分布输出和第二概率分布输出之间的差距,得到基于响应的蒸馏损失LKD;c根据相应的场景分类数据,确定第一逻辑输出和相应真实值之间的交叉熵损失Ltea;根据相应的场景分类数据,确定第二逻辑输出和相应真实值之间的交叉熵损失Lstu;d所述教师模型包含多个SwinTransformer块,单个SwinTransformer块的输出特征尺寸为B×N×Ctea;B为单个批次所包含的训练数据数量,N为单张特征图的单个通道包含的单位点个数,Ctea为教师模型输出特征的通道数;所述学生模型包含多个残差块,单个残差块的输出特征尺寸为B×H×W×Cstu;H为单张特征图的高,W为单张特征图的宽,Cstu为学生模型输出特征的通道数;满足N=H×W条件的一个SwinTransformer块和一个残差块构成一个匹配组,单个SwinTransformer块或单个残差块仅对应一个匹配组;所述参数优化模型至少包含一个匹配组;教师模型和学生模型对相应训练数据进行处理的过程中,将单个匹配组所辖的SwinTransformer块和残差块的输出特征尺寸作流形匹配处理,然后根据流形匹配处理结果计算出流形匹配损失Lmf;然后根据多个Lmf计算出Lmf的算术平均值LMF。

全文数据:

权利要求:

百度查询: 重庆大学 基于深度流形蒸馏网络的高光谱遥感图像场景分类方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。