买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明授权】一种减小神经网络加速器计算带宽的方法和设备_云知声智能科技股份有限公司;厦门云知芯智能科技有限公司_202010753645.8 

申请/专利权人:云知声智能科技股份有限公司;厦门云知芯智能科技有限公司

申请日:2020-07-30

公开(公告)日:2024-04-19

公开(公告)号:CN111914999B

主分类号:G06N3/0464

分类号:G06N3/0464

优先权:

专利状态码:有效-授权

法律状态:2024.04.19#授权;2020.11.27#实质审查的生效;2020.11.10#公开

摘要:本发明提出了一种减小神经网络加速器计算带宽的方法和设备,该方法包括:针对每一列中的输出点,将计算第一个输出点所需的特征数据,按照一维扁平化,从外存搬运到神经网络加速器的快速内存中进行计算,得到对应所述第一个输出点的输出数据;将复用特征数据搬运到所述快速内存的头部,并将剩余特征数据,按照一维扁平化,从所述外存搬运到所述快速内存中的后部进行计算,得到对应当前输出点的输出数据,直至得到所述列中最后一个输出点的输出数据。

主权项:1.一种减小神经网络加速器计算带宽的方法,其特征在于,应用于包括多个输出点与多个特征数据的特征图中,所述输出点分布在特征图中不同的列中,每一列中输出点的位置按照Height方向从上至下依次排列;各所述输出点均对应有所述特征数据,且所述特征数据的位置分布于对应的输出点的位置分布一致;该方法包括:针对每一列中的输出点,将计算第一个输出点所需的特征数据,按照一维扁平化,从外存搬运到神经网络加速器的快速内存中进行计算,得到对应所述第一个输出点的输出数据;在计算完第一个输出点的输出数据之后,计算第二个输出点,具体的第二个输出点与第一输出点在Height上相邻,且存在有复用的部分;将复用特征数据搬运到所述快速内存的头部,并将剩余特征数据,按照一维扁平化,从所述外存搬运到所述快速内存中的后部进行计算,得到对应当前输出点的输出数据,直至得到所述列中最后一个输出点的输出数据;其中,所述复用特征数据为计算完成的最后一个输出点与当前输出点两者对应的特征数据中的相同部分,且两者互为相邻的输出点;所述复用特征数据与所述剩余特征数据组成计算当前输出点所需的特征数据。

全文数据:

权利要求:

百度查询: 云知声智能科技股份有限公司;厦门云知芯智能科技有限公司 一种减小神经网络加速器计算带宽的方法和设备

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。