买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜华南理工大学申请的专利Transformer模型不规则稀疏矩阵乘法运算方法与硬件架构获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115357850B 。

龙图腾网通过国家知识产权局官网在2025-05-09发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210818335.9，技术领域涉及：G06F17/16；该发明授权Transformer模型不规则稀疏矩阵乘法运算方法与硬件架构是由姜小波;莫志杰设计研发完成，并于2022-07-13向国家知识产权局提交的专利申请。

本Transformer模型不规则稀疏矩阵乘法运算方法与硬件架构在说明书摘要公布了：本发明提供了一种Transformer模型不规则稀疏矩阵乘法运算方法与硬件架构；其中方法为：设定运算阵列：运算阵列包括N个运算组；每个运算组均包括乘法单元、分配器和合并单元；对稀疏权重矩阵的行列顺序进行重新排列，生成负载平衡的权重矩阵RCBA排列格式；输入到运算阵列中：每个运算组中，乘法单元分别将对应行模块的非零值与行模块的行索引对应的输入矩阵元素逐个相乘得到的乘法结果；分配器根据各个列模块的列索引，将乘法结果分配到各个合并单元中进行合并。该方法可满足不规则稀疏权重矩阵与稠密输入矩阵的乘法加速，具有中间结果移动缓存开销低、索引机制简单以及复用率高的特点。

本发明授权Transformer模型不规则稀疏矩阵乘法运算方法与硬件架构在权利要求书中公布了：1.一种Transformer模型不规则稀疏矩阵乘法运算方法，其特征在于：包括如下步骤：S1、设定运算阵列：运算阵列包括N个运算组；N为向量矩阵乘法并行度；每个运算组均包括G1个乘法单元、一个分配器和G2个合并单元；S2、对Transformer模型的稀疏权重矩阵的行列顺序进行重新排列，生成负载平衡的权重矩阵RCBA排列格式；其中，权重矩阵RCBA排列格式的生成方法是：对权重矩阵的各行和各列分别进行非零元素的数量统计；将权重矩阵的行分成G1个行模块，使各个行模块内非零元素的数量大致相等，记录各个行模块的行索引；将权重矩阵的列分成G2个列模块，使各个列模块内非零元素的数量大致相等，记录各个列模块的列索引；S3、将输入矩阵和权重矩阵RCBA排列格式输入到运算阵列中：每个运算组中，将G1个行模块对应G1个乘法单元，G1个乘法单元分别将对应行模块的非零值与行模块的行索引对应的输入矩阵元素逐个相乘得到的乘法结果；分配器根据各个列模块的列索引，将G1个乘法单元输出的乘法结果分配到G2个合并单元中，G2个合并单元分别对输入的乘法结果进行合并；G2个合并单元得到的结果分别输出到存储单元；所述S2中，行模块生成方法是：按照各行的非零元素数量大小进行重新排列，将各行非零元素依次循环分配到各个行模块中，使各个行模块内非零元素的数量大致相等；列模块生成方法是：按照各列的非零元素数量大小进行重新排列，将各列非零元素依次循环分配到各个列模块中，使各个列模块内非零元素的数量大致相等。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人华南理工大学，其通讯地址为：510640 广东省广州市天河区五山路381号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。