申请/专利权人：中国科学院计算技术研究所

申请日：2023-12-14

公开（公告）日：2024-03-22

公开（公告）号：CN117742718A

主分类号：G06F8/41

分类号：G06F8/41;G06N3/063;G06N3/08;G06N5/046

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.09#实质审查的生效;2024.03.22#公开

摘要：本发明提出一种用于神经网络推理的跨算子边界优化的编译方法和编译器，包括：以神经网络模型计算程序中每个算子的张量表达式作为节点，算子间的张量依赖关系为边，构建计算图；提取图中张量信息，并提取张量表达式的输入输出张量间元素的依赖信息；确定划分张量表达式的算子为割点，将有向无环计算图划分为多个子图，每个子图对应生成一个计算核；为计算核kernel中每一个张量表达式生成一个调度，把计算核kernel中所有调度合并得到统一调度，通过插入重排和同步指令，合并每个计算核kernel的统一调度，得到神经网络模型计算程序的调度程序，以生成可执行的二进制文件，CPU和或GPU执行二进制文件，得到神经网络模型计算结果。

主权项：1.一种用于神经网络推理的跨算子边界优化的编译方法，其特征在于，包括：步骤1、获取待编译的神经网络模型计算程序，以该神经网络模型计算程序中每个算子的张量表达式作为节点，算子间的张量依赖关系为边，构建有向无环计算图；步骤2、提取该有向无环计算图中张量信息，并提取该有向无环计算图中张量表达式的输入输出张量间元素的依赖信息；步骤3、根据该张量信息和该依赖信息，确定划分张量表达式的算子为割点，将该有向无环计算图划分为多个子图，每个子图对应生成一个计算核kernel；步骤4、为该计算核kernel中每一个张量表达式生成一个调度，把该计算核kernel中所有调度合并得到统一调度，通过插入重排和同步指令，合并每个该计算核kernel的该统一调度，得到该神经网络模型计算程序的调度程序，以生成CUDAkernel和可执行的二进制文件，CPU和或GPU执行该二进制文件，得到神经网络模型计算结果。

全文数据：

权利要求：

百度查询： 中国科学院计算技术研究所 用于神经网络推理的跨算子边界优化的编译方法及编译器

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD