申请/专利权人:苏州浪潮智能科技有限公司
申请日:2020-06-19
公开(公告)日:2022-11-25
公开(公告)号:CN111860771B
主分类号:G06N3/04
分类号:G06N3/04;G06N3/063
优先权:
专利状态码:有效-授权
法律状态:2022.11.25#授权;2020.11.17#实质审查的生效;2020.10.30#公开
摘要:本发明提供一种应用于边缘计算的卷积神经网络计算方法,包括如下步骤:S1.获取边缘计算设备的硬件缓存总大小以及当前卷积层参数占用空间;S2.根据硬件缓存总大小与当前卷积层参数占用空间的关系,选择卷积计算方式进行计算;其中,当前卷积层参数达到设定阈值时,将当前卷积层拆分后分别进行计算,再将各自计算结果进行拼接;S3.输出卷积推理结果。本发明通过对当前卷积层所需缓存空间进行分析,并根据权重参数与特征图所需缓存空间大小,设置卷积在硬件上存储采用不同工作模式,并进一步给出卷积拆分方法,解决计算量较大的卷积层成为网络推理速度的瓶颈的问题,避免对数据进行低比特压缩处理,因此不会损失网络精度。
主权项:1.一种应用于边缘计算的卷积神经网络计算方法,其特征在于,包括如下步骤:S1.获取边缘计算设备的硬件缓存总大小以及当前卷积层参数占用空间;当前卷积层参数占用空间包括当前卷积层的权重参数占用空间总大小、当前卷积层的权重参数运算所需空间以及特征图空间;设定边缘计算设备的硬件缓存总大小为Totalcbuf,设定当前卷积层的权重参数占用空间总大小为Totalweight,设定当前卷积层的权重参数运算所需空间为Minweight,设定特征图空间为Totalfeature;S2.根据硬件缓存总大小与当前卷积层参数占用空间的关系,选择卷积计算方式进行计算;其中,当前卷积层参数达到设定阈值时,将当前卷积层拆分后分别进行计算,再将各自计算结果进行拼接;步骤S2具体步骤如下:S21.比较判断是否满足Totalweight+Totalfeature≦Totalcbuf;若是,进入步骤S22;S22.判定边缘计算设备直接进行卷积计算,在硬件缓存读取当前卷积层的所有权重参数与特征图,依次进行卷积计算,进入步骤S3;S3.输出卷积推理结果。
全文数据:
权利要求:
百度查询: 苏州浪潮智能科技有限公司 一种应用于边缘计算的卷积神经网络计算方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。