买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】面向向量加速器的算子设计优化方法、装置、设备及介质_中国人民解放军国防科技大学_202410070438.0 

申请/专利权人:中国人民解放军国防科技大学

申请日:2024-01-17

公开(公告)日:2024-04-16

公开(公告)号:CN117891774A

主分类号:G06F15/163

分类号:G06F15/163;G06F17/16

优先权:

专利状态码:在审-公开

法律状态:2024.04.16#公开

摘要:本申请公开了一种面向向量加速器的算子设计优化方法,涉及人工智能领域,包括:获取向量加速器的阵列存储器中稀疏矩阵的非零元的值,获取向量加速器的标量存储器中非零元的值对应的行索引与列索引;基于行索引获取第一稠密矩阵的第一矩阵值,基于列索引获取第二稠密矩阵的第二矩阵值;将第一矩阵值与第二矩阵值进行预设向量内积操作,得到标量值并存储至结果数组;将非零元的值对应的非零元数组与结果数组进行哈达玛积操作,得到计算结果。本申请根据行列索引将稠密矩阵的行列传输到阵列存储器计算向量点积和哈达玛积,将计算结果传输到内存,在向量加速器上实现算子设计与优化,推动向量加速器在多领域应用,达到极高内存带宽利用率。

主权项:1.一种面向向量加速器的算子设计优化方法,其特征在于,包括:获取所述向量加速器的阵列存储器中稀疏矩阵的非零元的值,并获取所述向量加速器的标量存储器中所述非零元的值对应的行索引与列索引;基于所述行索引获取第一稠密矩阵对应的第一矩阵值,基于所述列索引获取第二稠密矩阵对应的第二矩阵值;将所述第一矩阵值与所述第二矩阵值进行预设向量内积操作,以得到标量值,并将标量值存储至结果数组;将所述非零元的值对应的非零元数组与所述结果数组进行哈达玛积操作,以得到计算结果。

全文数据:

权利要求:

百度查询: 中国人民解放军国防科技大学 面向向量加速器的算子设计优化方法、装置、设备及介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。