Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 国网江苏省电力有限公司信息通信分公司;南瑞集团有限公司张明明获国家专利权

国网江苏省电力有限公司信息通信分公司;南瑞集团有限公司张明明获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉国网江苏省电力有限公司信息通信分公司;南瑞集团有限公司申请的专利一种基于联合动态剪枝的深度神经网络压缩方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN112613610B

龙图腾网通过国家知识产权局官网在2024-07-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202011561741.9,技术领域涉及:G06N3/082;该发明授权一种基于联合动态剪枝的深度神经网络压缩方法是由张明明;宋浒;卢庆宁;俞俊;温磊;刘文盼;范江;查易艺设计研发完成,并于2020-12-25向国家知识产权局提交的专利申请。

一种基于联合动态剪枝的深度神经网络压缩方法在说明书摘要公布了:本发明公开一种基于联合动态剪枝的深度神经网络压缩方法,包括以下步骤:步骤1:获得卷积核动态剪枝率β和通道动态压缩率α两个超参数;步骤2:利用卷积核动态剪枝方法,剪除卷积层中Mi1‑β个卷积核;步骤3:利用通道动态压缩方法,选择Niα个通道参与训练;步骤4:训练过程中,更新模型参数,使得卷积核动态剪枝收敛为通道动态压缩的子集。本发明加速了训练和推理,保持模型的容量同时有效地减少了模型的浮点运算次数以及参数规模。

本发明授权一种基于联合动态剪枝的深度神经网络压缩方法在权利要求书中公布了:1.一种基于联合动态剪枝的深度神经网络压缩方法,用于图像分类,其特征在于:包括以下步骤:步骤1:对于输入图像,获得卷积核动态剪枝率β和通道动态压缩率α两个超参数;步骤2:利用卷积核动态剪枝方法,剪除卷积层中Mi1-β个卷积核,其中Mi为第i层卷积核个数;步骤2包括以下步骤:步骤21:获得同一卷积层中每一个卷积核的L1范数;步骤22:将该卷积层中L1范数最小的Mi1-β个卷积核进行置零;步骤23:反向传播中更新模型参数,然后返回步骤21,进行模型下一轮迭代;步骤24:迭代完成时剪除为零的卷积核;步骤3:利用通道动态压缩方法,选择Niα个通道参与训练,其中Ni为第i层输入通道数;步骤3包括以下步骤:步骤31:利用全局平均池化方法,采样输入特征图;步骤32:将输入特征图的采样作为预测网络的输入,计算其通道重要性函数;步骤33:基于胜者通吃原则,将通道重要性函数权值最小的Ni1-α个通道置零;步骤34:将该卷积层对应BN层的缩放因子γ替换为通道重要性函数权值;步骤35:在反向传播中更新模型参数;步骤4:训练过程中更新模型参数,使得卷积核动态剪枝收敛为通道动态压缩的子集。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人国网江苏省电力有限公司信息通信分公司;南瑞集团有限公司,其通讯地址为:210008 江苏省南京市北京西路20号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。