申请/专利权人：招商新智科技有限公司

申请日：2021-01-23

公开（公告）日：2024-04-26

公开（公告）号：CN112905333B

主分类号：G06F9/50

分类号：G06F9/50

优先权：

专利状态码：有效-授权

法律状态：2024.04.26#授权;2021.06.22#实质审查的生效;2021.06.04#公开

摘要：本说明书一个或多个实施例提供一种用于分布式视频智能分析平台的算力负载调度方法及装置，由于采用了实时算力资源的采集方法，使得负载调度计算结果能更实时、更准确；由于在算力负载调度计算过程中采用算法资源消耗估算与算法服务实时资源空闲率相结合的方法，使得负载调度算法的结果具有算法服务算力预估能力，保证了调度结果的可靠性；由于在算力负载调度计算过程中采用负载优先权值的计算与对比，实现了系统最优负载算法服务的选拔，使得用户算法调用计算响应速度更快，提高了用户体验。

主权项：1.一种用于分布式视频智能分析平台的算力负载调度方法，其特征在于，包括：配置不同类型算法、不同类型厂商对GPU显存消耗容量、内存消耗容量、CPU占用的估算数值，得出算法资源消耗信息；采集算力资源数据，解析算力资源数据中的算法服务信息与资源状态数值，得到各算法服务对应的算力资源消耗信息；获取用户的请求数据，基于所述算法资源消耗信息和解析算力资源数据中的算法服务信息与资源状态数值得到的所述算力资源消耗信息，判断各算法服务是否满足用户调用的负载能力，并得出当前的最优算法服务，返回算法服务标识；所述采集算力资源数据，解析算力资源数据中的算法服务信息与资源状态数值，得到各算法服务对应的算力资源消耗信息包括：创建用于接收算力资源数据的HTTP服务；系统中各算法服务定时通过算力资源数据接收RESTful接口推送算力资源数据；接收算力资源数据后，解析算力资源数据中的算法服务信息与资源状态数值；将算法服务信息与资源状态数值储存到生成的算力资源信息表中；所述算法服务信息包括但不限于算法服务支持算法厂商类型列表和算法服务访问地址，所述资源状态数值包括但不限于GPU显存空闲容量、内存空闲容量和CPU占用率；所述算法资源消耗信息包括各厂商的各算法类型对应的GPU显存消耗估值GM、内存容量消耗估值M和CPU占用率估值C0，所述算力资源消耗信息包括各算法服务对应的算法类型支持列表TList、厂商支持类型、CPU占用率C1、GPU显存空闲容量GMF和内存空闲容量MF，所述用户的请求数据中包含用户请求算法类型T0；判断用户请求算法类型T0是否在所述算法类型支持列表Tlist中，若不包含则返回FALSE；若包含则计算算法类型支持列表Tlist中支持用户请求算法类型T0的算法服务的估算CPU空闲利用率C_DIF=CT-C0-C1、估算GPU空闲显存容量GM_DIF=GMF-GM和估算空闲内存容量M_DIF=MF-M，若C_DIF小于0或者GM_DIF小于0或者M_DIF小于0，则返回FALSE，否则判断为该算法服务满足用户调用的负载能力，其中CT为CPU占用率阈值。

全文数据：

权利要求：

百度查询： 招商新智科技有限公司 用于分布式视频智能分析平台的算力负载调度方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD