恭喜时趣互动(北京)科技有限公司唐亮获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜时趣互动(北京)科技有限公司申请的专利大数据量和高并发场景下提升GPU显卡计算效率的系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114237922B 。
龙图腾网通过国家知识产权局官网在2025-05-13发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202111096450.1,技术领域涉及:G06F9/54;该发明授权大数据量和高并发场景下提升GPU显卡计算效率的系统是由唐亮;曹特磊;赵伟设计研发完成,并于2021-09-17向国家知识产权局提交的专利申请。
本大数据量和高并发场景下提升GPU显卡计算效率的系统在说明书摘要公布了:本发明公开了大数据量和高并发场景下提升GPU显卡计算效率的系统,包括:客户端、CPU服务器、3台用于RPC服务的服务器和GPU显卡,客户端用于发送并发数据请求,CPU服务器用来接收数据处理请求和将请求轮询转发给后续的处理端,GPU显卡具有模型计算服务。本申请通过不增加额外的高性能硬件资源,利用相对廉价的CPU服务器,并且客户端每次只需发送相对少量的请求数据,就可以使GPU显卡达到满负载的运算状态,从而提升数据处理效率,且不容易发生溢出和超时等风险。
本发明授权大数据量和高并发场景下提升GPU显卡计算效率的系统在权利要求书中公布了:1.大数据量和高并发场景下提升GPU显卡计算效率的系统,包括:客户端、CPU服务器、3台用于RPC服务的服务器和GPU显卡,其特征在于,所述客户端用于发送并发数据请求,所述CPU服务器用来接收数据处理请求和将请求轮询转发给后续的处理端,所述GPU显卡具有模型计算服务,所述CPU服务器部署开源的haproxy请求转发服务,用来接收客户端发来的请求,并通过轮询的方式转发给RPC服务,3台用于RPC服务的所述服务器均采用开源的thrift服务充当RPC服务,进一步放大对GPU显卡的并发请求度,所述CPU服务器接收用thrift启动的RPC服务发来的计算请求,通过轮询的方式转发给GPU显卡上启动的模型计算服务。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人时趣互动(北京)科技有限公司,其通讯地址为:100020 北京市朝阳区建国路118号4层401内C11;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。