申请/专利权人：西北工业大学深圳研究院;西北工业大学

申请日：2022-04-16

公开（公告）日：2024-03-19

公开（公告）号：CN114926702B

主分类号：G06V10/774

分类号：G06V10/774;G06V10/764;G06V10/82;G06N3/0455;G06N3/047;G06N3/0475;G06N3/0985;G06N3/084

优先权：

专利状态码：有效-授权

法律状态：2024.03.19#授权;2022.09.06#实质审查的生效;2022.08.19#公开

摘要：本发明公开了一种基于深度注意力度量的小样本图像分类方法，首先，根据小样本任务中的少量标注样本构建跨类样本对；然后，使用变分自编码器建立以跨类样本对为条件的多模态权重分布；接着，根据多模态权重分布采样生成深度度量网络；最后，使用生成的深度度量网络进行小样本图像分类。本发明方法根据任务描述信息生任务自适应的深度度量，解决了非参数化距离度量导致判别能力不足以及参数化的线性分类器容易过拟合的问题。采用端到端的元学习方式，避免了训练任务特定的分类器带来的时间开销，在小样本图像分类中取得了较好的分类效果。

主权项：1.一种基基于深度注意力度量的小样本图像分类方法，其特征在于，包括如下步骤：步骤1：对于标准的N-wayK-shot小样本图像分类任务包含一个支持样本集和一个查询样本集其中，支持样本集包含N个类别，每个类别有K个标记样本，用于提供监督信息；查询样本集由来自支持样本集中相同的N个类别的未标记样本组成，用于进行性能测试；步骤2：根据任务的支持样本集构建跨类样本对： 其中，表示由ResNet-12构成的基本嵌入模块得到的第n类的第k个支持样本的深度特征，表示由基本嵌入模块得到的第d类的第l个支持样本的深度特征，表示样本的标注信息，表示第n个类别的第j个跨类样本对，Concat·表示沿着通道维度进行拼接，j＝1,...,K2N-1；步骤3：将每个跨类样本对输入差异性编码器中推理潜在高斯分布的参数；将第n个类别的所有跨类样本对作为第n个类别的描述信息，然后计算编码结果的均值和标准差 其中表示差异性编码器；通过为N个类别计算和获得N个潜在的高斯分布，即对于N个潜在高斯分布中的每一个进行随机采样并将采样向量拼接起来作为多模态权重分布di： 其中表示由产生的随机采样，是标准正态分布，⊙表示点乘；所述差异性编码器由三个串行的分别包括512、256及64个滤波器堆叠的3×3卷积块构成，每个卷积块均使用BN进行归一化、ReLU进行非线性激活及2×2池化核进行最大值池化；步骤4：根据多模态权重分布，使用权重生成器生成深度度量网络的参数；步骤4-1：构建深度度量网络，由一个注意力层、一个卷积层和一个全连接层组成；为每个任务生成一个深度度量网络；步骤4-2：用多个层级感知权重生成器分别为深度度量网络中的每一层生成权重参数；对于深度度量网络中的注意力层，根据每个类别的潜在高斯分布产生的随机采样使用感知权重生成器生成注意力权重参数，即： 其中表示任务的第n个类别对应的注意力参数；对于卷积层，根据多模态权重分布di使用感知权重生成器生成权重参数，即： 其中，wi表示任务对应的卷积层参数；对于全连接层，根据多模态权重分布di使用感知权重生成器生成权重参数，即： 其中为任务的全连接层权重项，bi为偏置项；对每个卷积层参数wi的内核都通过l2范数进行归一化；对于全连接层中生成的权重项沿超平面进行归一化；所述3个感知权重生成器均依次由三个单层全连接网络连接构成，并分别使用LeakRelu进行激活；步骤5：根据生成的深度度量网络进行小样本图像分类；步骤5-1：首先根据类别原型和查询样本进行拼接，得到其中类别原型由该类别所有支持样本取平均得到，表示查询样本通过基本嵌入模块获得的深度特征；步骤5-2：使用注意力层对施加类别感知的注意力，即： 其中表示注意力特征；步骤5-3：使用卷积层和全连接层将注意力特征映射成一个相似度得分： 其中表示卷积操作，ReLu·表示激活函数；是查询图像和类别原型之间的相似度得分；给定查询样本与所有类别原型之间的相似度分数，将具有最大相似度得分的类别作为该查询样本的预测标签步骤5-4：使用预测标签与样本对应的真实标签之间的交叉熵损失H·作为目标函数，即： 根据目标函数使用随机梯度下降法通过迭代多个小样本任务进行训练。

全文数据：

权利要求：

百度查询： 西北工业大学深圳研究院;西北工业大学 一种基于深度注意力度量的小样本图像分类方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD