申请/专利权人：北京麟卓信息科技有限公司

申请日：2023-12-18

公开（公告）日：2024-03-19

公开（公告）号：CN117453421B

主分类号：G06F9/50

分类号：G06F9/50;G06F11/22;G06F11/34;G06T1/20;G06T1/60

优先权：

专利状态码：有效-授权

法律状态：2024.03.19#授权;2024.02.13#实质审查的生效;2024.01.26#公开

摘要：本发明公开了一种基于数据分段的GPU全片存储带宽度量方法，分别构建了用于在全局存储与寄存器间、局部存储与寄存器间以及全局存储与局部存储间传输数据的核函数，设定这些核函数执行限定次数及读取数据的数据量等信息后记录核函数的执行时间，在此基础上采用本发明提出的带宽计算公式完成GPU全片存储间的带宽计算，有效提高了GPU全片各级带宽实测值的计算效率和精度，达到了为开发者提供GPU性能优化方向的目的。

主权项：1.一种基于数据分段的GPU全片存储带宽度量方法，其特征在于，包括以下步骤：建立用于测试GPU全片存储带宽的测试数据集，测试数据集包含一定数据量的测试数据，测试数据的数量即为测试数据集中数据的总数量size；将测试数据集存储到全局存储中执行N次第一GPU核函数，建立P个线程由这P个线程分别循环分段从全局存储中读取数据到寄存器中，P个线程传输的数据总量与第一GPU核函数的执行时间的比值即为全局存储与寄存器间的带宽，计算公式为K1*num1*N*P*4time1，其中K1为P个线程循环执行次数的最大值，num1为P个线程每次读取数据的数量，time1为第一GPU核函数的测试时间；将测试数据集存储到局部存储中执行M次第二GPU核函数，建立Q个线程由这Q个线程分别循环分段从局部存储中读取数据到寄存器中，Q个线程传输的数据总量与第二GPU核函数的执行时间的比值即为局部存储与寄存器间的带宽，计算公式为K2*num2*M*Q*4time2，其中K2为Q个线程循环执行次数的最大值，num2为Q个线程每次读取数据的数量，time2为第二GPU核函数的测试时间；将测试数据集存储到全局存储中执行T次第三GPU核函数，建立R个线程由这R个线程分别从全局存储中读取数据到局部存储中，R个线程传输的数据总量与第三GPU核函数的执行时间的比值即为全局存储与局部存储间的带宽；所述将测试数据集存储到全局存储中执行T次第三GPU核函数，建立R个线程由这R个线程分别从全局存储中读取数据到局部存储中，R个线程传输的数据总量与第三GPU核函数的执行时间的比值即为全局存储与局部存储间的带宽，具体包括：步骤5.1、将测试数据集由主机端传输到GPU设备端，将测试数据集存储在全局存储中；令time3的取值为0，time3为测试时间，启动计时器记录测试时间；令t的取值为1，t为第三GPU核函数的执行次数，且t不大于T；步骤5.2、启动第三GPU核函数，建立R个线程，这R个线程分别从全局存储中读取数据并传输至局部存储中；步骤5.3、令t自加1，若t不大于T则执行步骤5.2；否则关闭计时器记录测试时间time3的取值，并采用公式GL-bd＝T*R*4time3计算GPU内全局存储与局部存储间的带宽GL-bd。

全文数据：

权利要求：

百度查询： 北京麟卓信息科技有限公司 一种基于数据分段的GPU全片存储带宽度量方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD