申请/专利权人:平头哥(上海)半导体技术有限公司
申请日:2020-05-19
公开(公告)日:2021-11-23
公开(公告)号:CN113688982A
主分类号:G06N3/063(20060101)
分类号:G06N3/063(20060101)
优先权:
专利状态码:在审-实质审查的生效
法律状态:2022.03.15#实质审查的生效;2021.11.23#公开
摘要:本公开提供了一种处理单元、相关装置和方法。该处理单元,包括:取指令单元;指令译码单元;指令执行单元,用于:在深度学习模型的静态图中提取常量子图,其中,所述常量子图是在假定所述深度学习模型的输入张量具有固定形状的前提下输出值为常量的节点组成的连通子图;将满足所述固定形状的任一张量,作为输入张量输入所述静态图,获取所述常量子图的出口节点输出的常量;以获取的常量构造常量节点,用所述常量节点取代所述深度学习模型中的所述常量子图,形成第二深度学习模型。本公开实施例进一步减少了深度学习模型运行时在处理单元和加速单元之间传输的数据量,提高了深度学习模型的执行效率。
主权项:1.一种处理单元,包括:取指令单元,用于从所述处理单元外部的存储器取回计算机指令;指令译码单元,用于对取回的计算机指令进行译码;指令执行单元,用于执行译码后的所述计算机指令,以实现:在深度学习模型的静态图中提取常量子图,其中,所述常量子图是在假定所述深度学习模型的输入张量具有固定形状的前提下输出值为常量的节点组成的连通子图;将满足所述固定形状的任一张量,作为输入张量输入所述静态图,获取所述常量子图的出口节点输出的常量,所述出口节点是指所述常量子图中的、输出端指向所述常量子图的外部节点且输入端为所述常量子图的内部节点的节点;以获取的常量构造常量节点,用所述常量节点取代所述深度学习模型中的所述常量子图,形成第二深度学习模型。
全文数据:
权利要求:
百度查询: 平头哥(上海)半导体技术有限公司 处理单元、相关装置和方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。