申请/专利权人:浪潮电子信息产业股份有限公司
申请日:2024-02-29
公开(公告)日:2024-04-05
公开(公告)号:CN117827619A
主分类号:G06F11/34
分类号:G06F11/34;G06N3/098
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.04.23#实质审查的生效;2024.04.05#公开
摘要:本发明公开了计算机技术领域内的一种异构算力的耗时预测仿真方法、装置、设备、介质及系统。本发明能够构建包括通信图节点和计算图节点的有向图,从而根据多个异构算力设备的网络拓扑信息仿真得到的仿真网络预测多个通信图节点的通信耗时,根据有向图预测多个计算图节点的计算耗时,累计通信耗时和计算耗时得到模型训练任务的训练耗时。由于无需部署实际的算力设备,因此没有部署难度,实现成本低,可根据预测的训练耗时优化算力设备的部署策略,预测准确度更高,适用于多元异构计算系统。
主权项:1.一种异构算力的耗时预测仿真方法,其特征在于,包括:确定模型训练任务、运行所述模型训练任务中的各算子的多个异构算力设备以及所述多个异构算力设备的网络拓扑信息;按照预设的训练并行模式确定多个通信图节点,基于所述多个异构算力设备及其运行的相应算子确定多个计算图节点;其中,所述通信图节点表示数据传输逻辑;按照所述训练并行模式和所述模型训练任务中的各算子间的关系建立所述多个通信图节点之间、所述多个计算图节点之间、任意通信图节点和任意计算图节点之间的有向边,得到有向图;根据所述网络拓扑信息仿真得到的仿真网络预测所述多个通信图节点的通信耗时,根据所述有向图预测所述多个计算图节点的计算耗时,累计所述通信耗时和所述计算耗时得到所述模型训练任务的训练耗时。
全文数据:
权利要求:
百度查询: 浪潮电子信息产业股份有限公司 异构算力的耗时预测仿真方法、装置、设备、介质及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。