申请/专利权人：武汉智启特人工智能科技有限公司

申请日：2024-01-22

公开（公告）日：2024-03-29

公开（公告）号：CN117785478A

主分类号：G06F9/50

分类号：G06F9/50

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.16#实质审查的生效;2024.03.29#公开

摘要：本申请涉及资源分配技术领域，尤其涉及一种GPU调度方法及相关设备。AIGC绘图平台分配有N个图形处理器GPU处理绘图请求，方法包括：按照预置时间间隔获取服务请求队列中当前的未处理绘图请求的数量；根据N，确定实时扩容阈值和实时缩容阈值；实时扩容阈值大于实时缩容阈值；分别判断未处理绘图请求的数量与实时扩容阈值以及与实时缩容阈值之间的大小；若未处理绘图请求的数量大于实时扩容阈值，为AIGC绘图平台服务请求队列增加第一数量的GPU；若未处理绘图请求的数量小于实时缩容阈值，为AIGC绘图平台服务请求队列减少第二数量的GPU。本申请能够解决AIGC绘图平台现有的GPU调度方法严重滞后的问题。

主权项：1.一种GPU调度方法，其特征在于，所述方法应用于生成式人工智能AIGC绘图平台，所述AIGC绘图平台分配有N个图形处理器GPU处理绘图请求，所述方法包括：按照预置时间间隔获取服务请求队列中当前的未处理绘图请求的数量；根据所述N，确定实时扩容阈值和实时缩容阈值；所述实时扩容阈值大于所述实时缩容阈值；分别判断所述未处理绘图请求的数量与所述实时扩容阈值以及与所述实时缩容阈值之间的大小；若所述未处理绘图请求的数量大于所述实时扩容阈值，为所述AIGC绘图平台服务请求队列增加第一数量的所述GPU；若所述未处理绘图请求的数量小于所述实时缩容阈值，为所述AIGC绘图平台服务请求队列减少第二数量的所述GPU。

全文数据：

权利要求：

百度查询： 武汉智启特人工智能科技有限公司 一种GPU调度方法及相关设备

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD