买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种CNN分类模型的压缩方法、装置及介质_声瞳科技(广州)有限公司_202410063351.0 

申请/专利权人:声瞳科技(广州)有限公司

申请日:2024-01-16

公开(公告)日:2024-04-12

公开(公告)号:CN117875372A

主分类号:G06N3/0464

分类号:G06N3/0464;G06N3/096;G06N3/0495;G06N3/082

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.04.30#实质审查的生效;2024.04.12#公开

摘要:本发明公开了一种CNN分类模型的压缩方法、装置及介质,所述方法包括:获取目标模型参数;使用初始模型加载目标模型参数,并冻结初始模型的原始参数,得到教师模型;其中,初始模型为CNN模型;通过稀疏训练的方式对教师模型进行剪枝,得到学生模型;对教师模型和学生模型的类激活图进行对齐处理和调参处理;通过对进行对齐处理和调参处理后教师模型和学生模型的参数进行迭代更新,使预设的损失函数收敛,得到压缩后的最终模型。本发明提出一种CNN分类模型的压缩方法、装置及介质,通过剪枝处理、对齐处理以及使损失函数收敛的方式,即可得到压缩后的最终模型,能够解决在小样本情况下,难以在保证模型性能的同时,有效降低模型的复杂度和大小的问题。

主权项:1.一种CNN分类模型的压缩方法,其特征在于,包括:获取目标模型参数;使用预设的初始模型加载所述目标模型参数,并冻结所述初始模型的原始参数,得到教师模型;其中,所述初始模型为CNN模型;通过稀疏训练的方式对所述教师模型进行剪枝,得到学生模型;对所述教师模型和所述学生模型的类激活图进行对齐处理和调参处理;通过对进行对齐处理和调参处理后所述教师模型和学生模型的参数进行迭代更新,使预设的损失函数收敛,得到压缩后的最终模型;其中,所述损失函数由逻辑推理部分的损失函数和类激活图监督部分的损失函数构成。

全文数据:

权利要求:

百度查询: 声瞳科技(广州)有限公司 一种CNN分类模型的压缩方法、装置及介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。