申请/专利权人：南京大学

申请日：2020-09-27

公开（公告）日：2020-12-29

公开（公告）号：CN112148451A

主分类号：G06F9/48(20060101)

分类号：G06F9/48(20060101);G06F9/50(20060101);G06N3/04(20060101);H04L29/08(20060101)

优先权：

专利状态码：有效-授权

法律状态：2023.12.29#授权;2021.01.15#实质审查的生效;2020.12.29#公开

摘要：本发明公开了一种低时延的协同自适应CNN推断系统及方法，应用于边缘计算网络。所述系统包括一个主节点和多个从节点，主节点用于实时监控各从节点的运行状态，并周期性地更新从节点的推断任务，从节点用于推断任务的具体执行。本发明在系统中实现了CNN跨层数据范围演绎机制，使得主节点和从节点可以演绎出在CNN诸多层中任意两块数据之间的依赖关系，借此实现高效的自定义动态调度；同时设计了均衡同步调度器作为系统内置调度器，以动态感知的方式调整从节点负载并实现内存的高效回收。

主权项：1.一种低时延的协同自适应CNN推断系统，应用于边缘计算网络，其特征在于，所述系统包括一个主节点和多个从节点，所述主节点用于实时监控各从节点的运行状态，并周期性地更新从节点的推断任务，所述从节点用于推断任务的具体执行，其中，所述主节点包括：运行信息存储模块，用于以有向无环图DAG结构存储CNN的输出，DAG的每个顶点对应于CNN中某一层的输出范围并包含多个任务的状态；状态更新模块，用于根据从节点任务完成情况对运行信息存储模块进行更新；依赖关系计算模块，用于计算任意两个特征图像之间的依赖关系，即对于某个输出层的给定输出范围，给出特定输入层的所需输入范围，和或对于某个输入层的给定输入范围，给出特定输出层的预期输出范围；作业调度模块，用于根据DAG形状将CNN切割成多个块，每个块包括多个层，在每个块中，利用依赖关系计算模块计算层之间的依赖关系，根据从节点的计算能力将特定输出层的预期输出范围进行切割，切割后的对应层输出范围形成作业分配给从节点；所述从节点包括：数据存储模块，用于以DAG结构存储CNN的输出，DAG的每个顶点对应于CNN中某一层的输出数据；任务执行模块，用于根据接收的作业，从数据存储模块中获取所需数据并执行作业中的所有任务，并将任务的输出保存在数据存储模块中；调度请求模块，用于在当前作业完成时向作业调度模块请求新的作业。

全文数据：

权利要求：

百度查询： 南京大学 一种低时延的协同自适应CNN推断系统及方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD