申请/专利权人：中科寒武纪科技股份有限公司

申请日：2019-11-01

公开（公告）日：2024-04-19

公开（公告）号：CN112784951B

主分类号：G06N3/0464

分类号：G06N3/0464;G06N3/08;G06F18/214

优先权：

专利状态码：有效-授权

法律状态：2024.04.19#授权;2021.11.05#实质审查的生效;2021.05.11#公开

摘要：本申请提供的Winograd卷积运算方法及相关产品，包括：处理器和存储器；其中，所述存储器，用于存储程序代码；所述处理器，用于调用所述存储器中所存储的程度代码，执行Winograd卷积运算方法。本申请提供的运算方法及相关产品能够提高神经网络训练的运算效率，降低训练过程所占用的运算资源。

主权项：1.一种Winograd卷积运算方法，其特征在于，所述方法包括：在基于预配置的Winograd卷积算法对神经网络进行训练的过程中，分别将所述神经网络中第j层的反向输入梯度以及第j层的正向输入特征数据的正变换运算拆解为求和运算，以基于求和运算获取所述第j层的反向输入梯度正变换运算的变换结果，以及第j层的正向输入特征数据正变换运算的变换结果；其中，所述神经网络为人脸识别模型；对第j层的反向输入梯度正变换运算的变换结果和第j层的正向输入特征数据正变换运算的变换结果执行对位乘法运算，获得第一乘法运算结果；将第一乘法运算结果的逆变换运算拆解为求和运算，并将求和运算所得结果作为第j层的权值差；根据所述第j层的权值差对n层神经网络中的每一层的权值数据的更新,以完成对所述神经网络的训练；所述方法还包括：在基于预配置的Winograd卷积算法对神经网络进行训练的过程中，分别将第j层的反向输入梯度以及第j层的权值数据的正变换运算拆解为求和运算，以基于求和运算获取所述第j层的反向输入梯度正变换运算的变换结果，以及所述第j层的权值数据正变换运算的变换结果；对所述第j层的反向输入梯度正变换运算的变换结果和所述第j层的权值数据正变换运算的变换结果执行对位乘法运算，获得第二乘法运算结果；将第二乘法运算结果的逆变换运算拆解为求和运算，并将求和运算所得结果作为第j层的反向输出梯度；将正变换运算或逆变换运算拆解为求和运算的处理方式为：将目标数据拆解为与所述目标数据对应的多个子张量，并确定目标数据的各子张量对应的元子张量，其中，所述元子张量是将所述子张量的非0元素置为1的张量；所述目标数据对应的多个子张量之和为所述目标数据；所述目标数据包括如下一种：反向输入梯度、正向输入特征数据、权值数据、第一乘法运算结果、第二乘法运算结果和第三乘法运算结果；对于每一个所述子张量，将所述子张量对应的元子张量左边乘以左乘矩阵、右边乘以右乘矩阵，得到所述元子张量的变换结果，其中，所述左乘矩阵和所述右乘矩阵都是由所述子张量的规模以及变换类型确定的，其中所述变换类型包括正变换运算的变换类型和逆变换运算的变换类型；将所述子张量中非0的元素值作为系数乘以对应的元子张量的变换结果，得到所述子张量的变换结果；将多个子张量的变换结果相加得到求和运算的结果，根据所述求和运算的结果得到对所述目标数据进行变换运算的变换结果。

全文数据：

权利要求：

百度查询： 中科寒武纪科技股份有限公司 Winograd卷积运算方法及相关产品

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD