申请/专利权人:合肥奕斯伟计算技术有限公司;北京奕斯伟计算技术股份有限公司
申请日:2024-01-02
公开(公告)日:2024-04-02
公开(公告)号:CN117806589A
主分类号:G06F7/505
分类号:G06F7/505;G06F7/552
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.04.19#实质审查的生效;2024.04.02#公开
摘要:本申请提出一种LUT的优化方法、装置、电子设备及存储介质。该方法包括:获取第一LUT;针对第一LUT中的第二输入数据,获取与第二输入数据相邻的第一输入数据,并在第一LUT中确定与第一输入数据存在映射的第一输出数据,以及与第二输入数据存在映射的第二输出数据;对第一输出数据和第二输出数据的第一差值进行移位操作,得到移位数据,并根据移位数据、第一输出数据、第一输入数据和第二输入数据,对第二输出数据进行修正,以生成第二LUT。由此,本方案可以避免为保证计算精度而额外增加的逻辑资源,通过对第二输出数据进行修正,还可以保证输出数值与预设一致,解决了计算精度不足的问题。
主权项:1.一种查找表LUT的优化方法,其特征在于,包括:获取第一LUT,所述第一LUT包括输入数据与输出数据之间的第一映射关系;针对所述第一LUT中的第二输入数据,获取与所述第二输入数据相邻的第一输入数据,并在所述第一LUT中确定与所述第一输入数据存在映射的第一输出数据,以及与所述第二输入数据存在映射的第二输出数据;对所述第一输出数据和所述第二输出数据的第一差值进行移位操作,得到移位数据,并根据所述移位数据、所述第一输出数据、所述第一输入数据和所述第二输入数据,对所述第一LUT中的第二输出数据进行修正,以生成第二LUT。
全文数据:
权利要求:
百度查询: 合肥奕斯伟计算技术有限公司;北京奕斯伟计算技术股份有限公司 查找表LUT的优化方法、装置、电子设备及存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。