买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明授权】一种基于SIMT编程模型的张量化并行计算方法_上海交通大学_202010534263.6 

申请/专利权人:上海交通大学

申请日:2020-06-11

公开(公告)日:2024-04-02

公开(公告)号:CN111831429B

主分类号:G06F9/50

分类号:G06F9/50;G06F17/16

优先权:

专利状态码:有效-授权

法律状态:2024.04.02#授权;2020.11.13#实质审查的生效;2020.10.27#公开

摘要:本发明提供一种基于SIMT编程模型的张量化并行计算方法,基于主机端、转换单元和设备端之间的交互,将设备端的数据处理单元由标量转换为张量元,实现对数据的张量化运算处理,拓展了SIMT编程模型所适用的异构平台的范围,提高了编程模型的通用性,灵活性和便捷性;以及在执行任务指令时,对检测到的为对张量元运算处理的任务指令,通过调用预先封装的小核函数进行运算处理,既提高了底层计算的效率,又方便了计算调度的实现。

主权项:1.一种基于SIMT编程模型的张量化并行计算方法,其特征在于,基于主机端、转换单元和设备端之间的交互实现对数据的张量化运算处理,所述方法包括:所述主机端获取任务信息和设备端信息,所述任务信息包括任务指令、第一数据信息和预设结果信息,所述设备端信息包括张量元信息;所述主机端根据所述第一数据信息获取第一数据;根据所述预设结果信息配置主机端存储空间,并获取与所述主机端存储空间对应的主机端存储地址信息;所述主机端发送第一转换指令和第一转换信息至所述转换单元,使所述转换单元根据所述第一转换信息,将以标量为数据单元的所述第一数据转换为以张量元为数据单元的第二数据,并存储至所述设备端中;所述主机端发送所述任务指令至所述设备端,使所述设备端以张量元为计算单元运算处理所述第二数据以获得第一结果,并返回第一结果信息至所述主机端中;所述主机端接收所述第一结果信息后,发送第二转换指令和第二转换信息至所述转换单元,使所述转换单元根据所述第二转换信息,将所述第一结果转换为以标量为数据单元的第二结果,并将所述第二结果存储至所述主机端存储空间。

全文数据:

权利要求:

百度查询: 上海交通大学 一种基于SIMT编程模型的张量化并行计算方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。