申请/专利权人：东南大学

申请日：2021-06-17

公开（公告）日：2024-04-09

公开（公告）号：CN113313244B

主分类号：G06N3/063

分类号：G06N3/063;G06N3/082;G06F1/3234

优先权：

专利状态码：有效-授权

法律状态：2024.04.09#授权;2021.09.14#实质审查的生效;2021.08.27#公开

摘要：本发明公开了一种面向加法网络的近存储神经网络加速器及其加速方法。神经网络加速器包括指令发生单元，计算单元组和后处理模块。加速器将在指令发生单元中利用低比特的权重和激活进行比较生成指令，指令传入计算单元组中特定的计算单元，指导其中存有的全精度权重或激活的计算，并根据指令将输出传送至后处理单元进行处理，生成最终的结果。本发明分离了符号的提取和全精度数据的计算，设计了一种可重构，可扩展的近存储计算单元，便于适应不同的神经网络推理任务，同时对加法网络模型进行了数据压缩和分组，仅保留非稀疏全精度数据，降低了模型大小和计算次数。

主权项：1.一种面向加法网络的近存储计算神经网络加速器，其特征在于，包括指令发生单元，计算单元组和后处理单元；所述指令发生单元包括存储单元、比较器阵列和指令池；所述存储单元用于缓存经过量化后的数据；所述比较器阵列用于比较经过量化后的数据生成符号并组成指令；所述指令池用于暂存已生成的指令，并依次发送至对应的计算单元；所述计算单元组由多个计算单元组成，各计算单元结构相同并通过总线与指令发生单元相连，每个计算单元包括若干加法器及其附属的存储模块；所述存储模块存储全精度的权重和激活数据以及部分和；所述计算单元接收来自指令发生单元的指令，读取内部存储模块的权重或激活并送入加法器进行运算，运算结果根据指令存入内部存储模块或送出计算单元；所述后处理单元与所有计算单元相连，将计算单元生成的运算结果累加并执行池化、非线性和归一化操作以生成完整的输出结果；每个计算单元具有相同的结构并在系统中具有相同的地位，单个所述计算单元被配置为仅存储权重或激活中的一种并负责对应数据的计算，并在不同的计算过程中动态配置和分配数据；所述单个计算单元同时包含存储模块和运算模块，且所述运算模块只负责所述存储模块中数据的运算，在整个计算过程中存储模块中的数据无需与其他计算单元交流；分离绝对差之和计算中的符号生成过程与求和过程，利用所述指令发生单元计算每组绝对值之差的正负号并组合为指令，指令被发送至所述计算单元组中对应计算单元，并利用所述计算单元根据收到的指令执行求和运算。

全文数据：

权利要求：

百度查询： 东南大学 面向加法网络的近存储神经网络加速器及其加速方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD