申请/专利权人:北京辛诺创新科技有限公司
申请日:2023-08-15
公开(公告)日:2024-04-09
公开(公告)号:CN117851151A
主分类号:G06F11/30
分类号:G06F11/30;G06F11/32
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.04.26#实质审查的生效;2024.04.09#公开
摘要:本发明涉及人工智能分析平台领域,具体的公开了大型人工智能语言模型接口调用用量监控分析平台,包括部署监控代理模块、监控指标收集模块、数据分析模块与可视化处理模块:所述部署监控代理模块用于将预设的监控软件部署到所需的主机上,并可在主机上的网络上运行;所述监控指标收集模块用于收集监控指标,利用部署的监控软件获取主机中性能指标、成本估算、错误跟踪的指标信息;本发明提供了一种全新的大型人工智能语言模型接口调用监控和优化方法,有效弥补了大型人工智能语言模型接口不提供指标监控的自身缺陷,将极大地推动大型人工智能语言模型接口调用在各类应用程序中的应用与发展。
主权项:1.大型人工智能语言模型接口调用用量监控分析平台,其特征在于,包括部署监控代理模块、监控指标收集模块、数据分析模块与可视化处理模块:所述部署监控代理模块用于将预设的监控软件部署到所需的主机上,并可在主机上的网络上运行;所述监控指标收集模块用于收集监控指标,利用部署的监控软件获取主机中性能指标、成本估算、错误跟踪的指标信息;所述数据分析模块用于将原始数据储存到本地进行分析和计算;将获取到的性能指标、成本估算、错误跟踪的指标信息后形成原始数据,并将原始数据储存在预设的储存模块中,储存模块中储存的原始数据经过分析和计算后储存到预设的数据库中;所述可视化处理用于进行数据可视化分析,将数据库中的数据最终在前端Web页面上进行数据可视化分析。
全文数据:
权利要求:
百度查询: 北京辛诺创新科技有限公司 大型人工智能语言模型接口调用用量监控分析平台
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。