申请/专利权人:国网智能科技股份有限公司
申请日:2023-10-20
公开(公告)日:2024-03-08
公开(公告)号:CN117675938A
主分类号:H04L67/63
分类号:H04L67/63
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.03.26#实质审查的生效;2024.03.08#公开
摘要:本发明属于通信技术领域,具体涉及电力人工智能模型线上调用方法及系统,模型服务器存储所述系统的交易合同数据,并对各个模型服务的对外接口和每个模型服务的实例接口信息进行管理,所述方法包括:客户端获取模型调用请求,并将所述模型调用请求发送至模型服务器;模型服务器响应于所述模型调用请求,根据所述用户信息获取合同数据,确定所述目标模型的版本;根据该版本目标模型服务的实例状态和实例的接口状态,确定针对所述模型调用请求的最优实例接口;基于该接口对应的模型实例进行目标识别,并将识别结果反馈至客户端。本发明基于标准化对外接口和实例接口实现了请求的有序分配,减轻了模型部署难度,缓解了服务器的压力。
主权项:1.电力人工智能模型线上调用方法,其特征在于,模型服务器存储交易合同数据,并对各个模型服务的对外接口和每个模型服务的实例接口信息进行管理,所述方法包括以下步骤:客户端获取模型调用请求,并将所述模型调用请求发送至模型服务器,其中,所述模型调用请求中包括用户信息、待调用的目标模型的配置信息和待识别的输入数据;模型服务器响应于所述模型调用请求,根据所述用户信息获取交易合同数据,根据所述合同数据确定所述用户是否购买该目标模型,若是,进一步确定所述目标模型的版本;根据该版本目标模型服务的实例状态和实例的接口状态,确定针对所述模型调用请求的最优实例接口,将所述模型调用请求分配至最优实例接口;基于该接口对应的模型实例,针对所述输入数据进行目标识别,并将识别结果反馈至客户端。
全文数据:
权利要求:
百度查询: 国网智能科技股份有限公司 电力人工智能模型线上调用方法及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。