龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：格兰菲智能科技有限公司
申请日：2022-11-07
公开（公告）日：2024-05-14
公开（公告）号：CN118034898A
主分类号：G06F9/50
分类号：G06F9/50;G06N3/042
优先权：
专利状态码：在审-实质审查的生效
法律状态：2024.05.31#实质审查的生效;2024.05.14#公开
摘要：本发明公开了一种单机多GPU设备上部署DNN模型的方法及系统，方法包括：通过预处理算子对多个待部署的DNN模型进行预处理，并合并生成编辑后模型；在n个计算设备上分别运行编辑后模型，得到编辑后模型的模型总运行时间tDNN、各个任务算子在计算设备上的算子配置以及算子运行时间top；根据模型总运行时间tDNN和计算设备的数量n，得到在各个计算设备上运行编辑后模型对应的有向无环图中待分配的各个子图时所需的平均运行时间tavg；根据平均运行时间tavg、算子配置及算子运行时间top，将有向无环图切分为n个子图并分配至对应的计算设备上运行。本发明的技术方案充分利用了计算设备的计算资源，避免出现计算设备空转的情况，提高了效率，减少模型推理的时间。
主权项：1.一种单机多GPU设备上部署DNN模型的方法，其特征在于，所述方法包括：S100：通过设置在DNN模型的前方或后方的预处理算子对多个待部署的DNN模型进行预处理，并合并生成编辑后模型；S200：在n个计算设备上分别运行所述编辑后模型，得到所述编辑后模型的模型总运行时间tDNN、所述编辑后模型中各个任务算子在计算设备上的算子配置以及算子运行时间top；S300：根据所述模型总运行时间tDNN和所述计算设备的数量n，得到在各个计算设备上运行所述编辑后模型对应的有向无环图中待分配的各个子图时所需的平均运行时间tavg；S400：根据所述平均运行时间tavg、各个计算设备所对应各个任务算子的算子配置及算子运行时间top，将所述有向无环图切分为n个子图并分配至对应的计算设备上运行。
全文数据：
权利要求：
百度查询： 格兰菲智能科技有限公司 单机多GPU设备上部署DNN模型的方法及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号