申请/专利权人：中国科学院计算技术研究所

申请日：2023-12-27

公开（公告）日：2024-04-09

公开（公告）号：CN117852589A

主分类号：G06N3/0464

分类号：G06N3/0464;G06N3/063;G06N3/126;G06N5/04

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.26#实质审查的生效;2024.04.09#公开

摘要：本发明提供了一种用于加速卷积神经网络推理的存内加速器，所述存内加速器包括全局内存、片上路由以及与全局内存相连的多个核心，每个核心包括：控制单元，用于获取指令流，基于指令流控制各个单元执行对应的操作，其中，指令流包括：计算操作和访存操作；本地内存单元，用于执行访存操作，根据滑窗的大小按顺序访问全局内存中卷积神经网络的输入数据，以得到计算操作对应的输入数据，并将对应的输入数据发送至存内计算矩阵单元；存内计算矩阵单元，其包括多个存内计算阵列，每个存内计算阵列用于执行所述计算操作，根据计算操作对应的输入数据进行矩阵‑向量乘法计算；向量功能单元，用于执行计算操作，根据矩阵‑向量乘法计算的结果进行后处理。

主权项：1.一种用于加速卷积神经网络推理的存内加速器，其特征在于，所述存内加速器包括全局内存、片上路由以及与所述全局内存相连的多个核心，所述全局内存用于存储所述卷积神经网络的数据，所述片上路由用于将一个核心的数据发送至其他核心或者接收其他核心发送的数据，每个核心包括：控制单元、向量功能单元、存内计算矩阵单元和本地内存单元，其中：所述控制单元，用于获取指令流，基于指令流控制各个单元执行对应的操作，其中，所述指令流包括：计算操作和访存操作；所述本地内存单元，用于执行所述访存操作，根据滑窗的大小按顺序访问所述全局内存中卷积神经网络的输入数据，以得到所述计算操作对应的输入数据，并将对应的输入数据发送至所述存内计算矩阵单元，其中，在按滑窗访问卷积神经网络的输入数据时，以像素为单位，从全局内存中获取待访问滑窗新增的数据与本地内存中已有滑窗的数据进行重组，得到待访问的滑窗数据；所述存内计算矩阵单元，其包括多个存内计算阵列，每个存内计算阵列用于执行所述计算操作，根据所述计算操作对应的输入数据进行矩阵-向量乘法计算；所述向量功能单元，用于执行所述计算操作，根据所述矩阵-向量乘法计算的结果进行后处理；其中，根据所述存内计算矩阵单元与所述向量功能单元的配合，最终得到卷积神经网络的推理结果。

全文数据：

权利要求：

百度查询： 中国科学院计算技术研究所 一种用于加速卷积神经网络推理的存内加速器

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD