买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明授权】一种适用于神经网络加速器的自适应双频乘加阵列_南京美辰微电子有限公司_202311576340.4 

申请/专利权人:南京美辰微电子有限公司

申请日:2023-11-24

公开(公告)日:2024-04-02

公开(公告)号:CN117289897B

主分类号:G06F7/544

分类号:G06F7/544;G06N3/063;G06T1/20;G06T1/60

优先权:

专利状态码:有效-授权

法律状态:2024.04.02#授权;2024.01.12#实质审查的生效;2023.12.26#公开

摘要:本发明公开了一种适用于神经网络加速器的自适应双频乘加阵列,引入双固定数据流调度策略,实现输出固定以及权重部分固定,使得权重数据可以进行进一步的复用,缓解了权重静态存储器的带宽压力,阵列频率可以高于系统频率,实现更高的计算能效。本发明采用的自适应双频阵列,极大的减少了重复读写存储器的操作,通过输入图像和权重缓冲器以及频率调节模块动态调节计算阵列的频率,通过状态机控制整个阵列的计算,极大的增加了阵列的吞吐量,逻辑清晰,简单有效。本发明模块化程度高,模块之间依赖清晰,结构简单,可行性好,实现了较好的存储器与计算阵列的压力平衡,提升了阵列的能效。

主权项:1.一种适用于神经网络加速器的自适应双频乘加阵列,其特征在于,包括状态机控制模块、地址生成模块、数据复用计算模块、输入图像和权重缓冲器、频率调节模块、计算模块、输出数据缓冲器以及输出数据整形模块;所述地址生成模块、数据复用计算模块、输入图像和权重缓冲器以及频率调节模块分别与状态机控制模块连接,数据复用计算模块、频率调节模块、计算模块、输出数据缓冲器和输出数据整形模块依次连接,数据复用计算模块还连接输入图像和权重缓冲器,输入图像和权重缓冲器连接计算模块,地址生成模块连接数据复用计算模块;所述状态机控制模块用于接收外部指令,读取当前神经网络参数,将当前神经网络参数解码后发送至地址生成模块和数据复用计算模块;所述地址生成模块用于接收状态机控制模块发送的神经网络参数,生成神经网络原始输入图像的存放地址,接收预先训练好的权重并写入到对应位置,计算当前参与计算的输入图像地址以及权重地址,并产生对应的读写信号,将输入图像地址以及权重地址读入数据复用计算模块中;所述数据复用计算模块用于接收状态机控制模块发送的神经网络参数,结合神经网络的硬件参数进行数据复用次数的计算,数据复用次数包括当前参与计算的输入图像以及权重需要的复用次数,并将输入图像和权重复用次数发送至频率调节模块,数据复用计算模块还将当前参与计算的输入图像和权重写入输入图像和权重缓冲器中;所述频率调节模块用于接收数据复用计算模块发送的输入图像和权重复用次数,并在接收到状态机控制模块发送的频率配置指令后,动态调节计算模块的频率,在频率调节完成后向状态机控制模块发送调节完成标志,状态机控制模块接收到调节完成标志后,控制输入图像和权重缓冲器将当前参与计算的输入图像和权重发送至计算模块;其中,频率调节模块动态调节计算模块的频率,具体如下:若计算模块的单次并行度不能够覆盖全部输入图像且卷积核的尺寸和步长满足卷积区域中有交叠,即当前参与计算的输入图像和权重需要的复用次数均不为0时,调节计算模块的频率为输入图像和权重缓冲器频率的两倍;若计算模块的单次并行度能够覆盖全部输入图像或卷积核的尺寸和步长满足相邻的卷积区域中没有交叠,即当前参与计算的输入图像或权重需要的复用次数为0时,保持计算模块的频率与输入图像和权重缓冲器的频率一致;所述计算模块用于接收当前参与计算的输入图像和权重,并完成二维卷积计算或全连接计算,将计算结果输出到输出数据缓冲器,由输出数据整形模块对计算结果进行整形后输出。

全文数据:

权利要求:

百度查询: 南京美辰微电子有限公司 一种适用于神经网络加速器的自适应双频乘加阵列

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。