广东跃昉科技有限公司江朝晖获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉广东跃昉科技有限公司申请的专利一种面向应用程序调用的大模型资源分配和交易结算方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117909078B 。
龙图腾网通过国家知识产权局官网在2025-05-30发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202410092969.X,技术领域涉及:G06F9/50;该发明授权一种面向应用程序调用的大模型资源分配和交易结算方法是由江朝晖;袁博浒;袁穗聪设计研发完成,并于2024-01-22向国家知识产权局提交的专利申请。
本一种面向应用程序调用的大模型资源分配和交易结算方法在说明书摘要公布了:本申请适用于人工智能技术领域,提供了一种面向应用程序调用的大模型资源分配和交易结算方法。包括:当目标模型被应用程序调用时,对目标模型中的参与计算数据进行引用计数,得到引用计数值,并记录进行调用的应用程序,得到记录结果;根据引用计数值和记录结果分别统计得到每个应用程序对应的参与计算数据的总引用次数;根据应用程序对应的参与计算数据的总引用次数,对目标模型的所有模型数据进行分类,分别存储到不同的存储资源;根据每个应用程序的总调用计数,对应用程序分类,分别提供不同的计算资源。该方法通过对应用程序调用大模型过程进行记录,并根据记录结果对模型的存储资源、应用程序的计算资源进行分配,实现了对于资源合理分配。
本发明授权一种面向应用程序调用的大模型资源分配和交易结算方法在权利要求书中公布了:1.一种面向应用程序调用的大模型资源分配方法,其特征在于,包括:当目标模型被应用程序调用时,对所述目标模型中的参与计算数据进行引用计数,得到引用计数值,并记录进行调用的应用程序,得到记录结果;其中,所述参与计算数据为参与所述目标模型中前馈神经网络计算的数据,当目标模型结束其中一个应用程序的调用,被另一个应用程序调用时,对所述目标模型中的参与计算数据重新开始引用计数;根据所述引用计数值和所述记录结果,分别统计得到每个应用程序对应的参与计算数据的总引用次数,在一段时间内,若目标模型被同一个应用程序多次调用时,根据所述应用程序多次调用时对应的参与计算数据的引用计数值的总和得到所述应用程序的总引用次数;根据每个应用程序对应的参与计算数据的总引用次数,对所述应用程序进行分类,并将所述目标模型的所有模型数据进行分类,将不同类型的所述应用程序对应的参与计算数据分别存储到不同的存储资源;根据每个应用程序调用大模型的总调用计数,对应用程序进行分类,分别提供不同的计算资源;其中,所述根据每个应用程序调用大模型的总调用计数,对应用程序进行分类,分别提供不同的计算资源,包括:当目标模型被应用程序调用时,对应用程序进行调用计数,得到所述应用程序的总调用计数;根据所述应用程序的调用计数对所述应用程序进行分类,得到分类结果;所述分类结果包括第一类应用程序和第二类应用程序,所述第一类应用程序中任一应用程序的总调用计数大于所述第二类应用程序中任一应用程序的总调用计数;根据所述分类结果对所述计算资源进行分配,使分配至所述第一类应用程序的计算资源所提供的算力大于分配至所述第二类应用程序的计算资源所提供的算力。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人广东跃昉科技有限公司,其通讯地址为:519000 广东省珠海市横琴新区环岛东路1889号18栋218室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。