申请/专利权人：想象技术有限公司

申请日：2023-10-31

公开（公告）日：2024-04-30

公开（公告）号：CN117952154A

主分类号：G06N3/0464

分类号：G06N3/0464;G06N3/063;G06F17/15

优先权：["20221031 GB 2216139.2","20221031 GB 2216141.8","20221031 GB 2216142.6"]

专利状态码：在审-公开

法律状态：2024.04.30#公开

摘要：本申请涉及在神经网络加速器上实现分散函数。公开了一种在神经网络加速器的固定功能硬件中实现分散运算的方法。将三个或多个索引向量转换为呈独热稀疏格式的稀疏索引张量。通过将更新值应用于该稀疏索引张量中的一个稀疏索引张量或从该稀疏索引张量中导出的张量来生成更新张量。在一些示例中，基于该更新张量来更新输入数据张量。在其他示例中，输出该更新张量本身。

主权项：1.一种在神经网络加速器的固定功能硬件中实现分散运算的方法，所述方法包括：接收包含更新值的输入更新张量B；接收与第一维度相关的包含N个第一索引的第一索引向量；接收与第二维度相关的包含N个第二索引的第二索引向量；接收与第三维度相关的包含N个第三索引的第三索引向量，其中所述第一索引、所述第二索引和所述第三索引标识待利用来自所述输入更新张量B的所述更新值进行更新的输出数据张量的元素；将所述第一索引向量转换611为第一稀疏索引张量TH，所述第一稀疏索引张量在由所述索引定义的位置处具有一，并且在其他位置处具有零；以及将所述第二索引向量转换612为第二稀疏索引张量TW，所述第二稀疏索引张量在由所述第二索引定义的位置处具有一，并且在其他位置处具有零；将所述第三索引向量转换为第三稀疏索引张量TC，所述第三稀疏索引张量在由所述第二索引定义的位置处具有一，并且在其他位置处具有零；生成710第一2-D稀疏索引张量包括在所述第一稀疏索引张量TH与所述第二稀疏索引张量TW之间的第一乘法614；生成720并入有所述更新值的2-D更新张量包括：第二乘法621，所述第二乘法用于将所述更新值应用于所述第二稀疏索引张量TW和所述第三稀疏索引张量TC中的一者，从而产生中间张量R’，以及第三乘法622，所述第三乘法在所述中间张量R’与所述第二稀疏索引张量TW和所述第三稀疏索引张量TC中的另一者之间，从而产生所述2-D更新张量生成715第二2-D稀疏索引张量包括在所述第一稀疏索引张量TH与所述第三稀疏索引张量TC之间的第四乘法614；以及生成718,719,721,728更新张量R，包括在所述第一2-D稀疏索引张量、所述第二2-D稀疏索引张量和所述2-D更新张量之间的至少一个逐元素乘法721，其中所述更新张量R包含由所述第一索引、所述第二索引和所述第三索引定义的所述位置处的所述更新值。

全文数据：

权利要求：

百度查询： 想象技术有限公司 在神经网络加速器上实现分散函数

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD