买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】深度神经网络压缩的方法_宏碁股份有限公司_202110274636.5 

申请/专利权人:宏碁股份有限公司

申请日:2021-03-15

公开(公告)日:2021-11-19

公开(公告)号:CN113673693A

主分类号:G06N3/08(20060101)

分类号:G06N3/08(20060101);G06N3/04(20060101)

优先权:["20200515 TW 109116293"]

专利状态码:在审-实质审查的生效

法律状态:2021.12.07#实质审查的生效;2021.11.19#公开

摘要:本发明是一种深度神经网络压缩的方法,其步骤包括使用一深度神经网络的至少一权重,设定P参数的值,以每P个该权重为一组的状态,将该权重分组,经由执行分枝修剪再训练,使所有每一分组仅存一个该权重为非0,其余该权重为0的状态下均匀分组分枝,借此调整深度神经网络的压缩率,以及调整深度神经网络的减少率。

主权项:1.一种深度神经网络压缩的方法,其步骤,包含:使用一处理器取得一深度神经网络的至少一权重,该权重是置于深度神经网络相邻连结的一输入层至一输出层所对应两层网络层之间,该输入层的节点的输入值乘以对应的一个该权重值,等于该输出层的节点的输出值,设定P参数的值,以每P个该权重为一组的状态,将该权重分组;使用该处理器设定环路参数L,使每P个为一组的该权重由第1环路至第L环路执行分枝修剪再训练,每一环路对应设定一阈值参数T,该阈值参数T是由T1至TL逐步提高阈值参数T的值,由第1阈值参数T1使用于第1环路开始,连续环路至第T阈值参数TL使用于第L环路;使用该处理器,以该阈值T判断在同一环路中的同一分组的该权重后,使小于该阈值T的该权重设定为0,大于该阈值T的该权重被保留,其中同一环路中同一分组的该权重,若至少一该权重均小于该阈值T,则仅保留最大的该权重,其余权重为0,到最后一环路的第L环路中,同一分组的该权重若至少一该权重大于该阈值T,则仅保留最大的该权重,其余权重为0;以及使用该处理器执行分枝修剪再训练到最后一环路的第L环路中,使所有每一分组仅存一个该权重为非0,其余该权重为0的状态下均匀分组分枝,借此调整深度神经网络的压缩率,以及调整深度神经网络的减少率为1p。

全文数据:

权利要求:

百度查询: 宏碁股份有限公司 深度神经网络压缩的方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。