申请/专利权人：渊慧科技有限公司

申请日：2018-06-11

公开（公告）日：2024-03-22

公开（公告）号：CN110612538B

主分类号：G06N3/0464

分类号：G06N3/0464;G06N3/047;G06N3/0455;G06N3/084;H03M7/30

优先权：["20170609 US 62/517,824"]

专利状态码：有效-授权

法律状态：2024.03.22#授权;2020.01.17#实质审查的生效;2019.12.24#公开

摘要：用于生成输入数据项的离散潜在表示的方法，系统和装置，包括在计算机存储介质上编码的计算机程序。该方法之一包括接收输入数据项；将输入数据项作为输入提供给编码器神经网络，以获得输入数据项的编码器输出；以及从编码器输出生成输入数据项的离散潜在表示，包括：对于每个潜在变量，从存储器中的潜在嵌入向量集合确定最接近潜在变量的编码向量的潜在嵌入向量。

主权项：1.一种数据压缩系统，包括：存储器，用于存储潜在嵌入向量集合；以及一个或多个计算机和一个或多个存储指令的存储设备，当由一个或多个计算机执行指令时，使一个或多个计算机实现：编码器神经网络，被配置为：接收输入数据项，所述输入数据项包括图像、音频或视频；以及处理输入数据项以生成编码器输出，其对一个或多个潜在变量中的每一个包括相应编码向量；以及子系统，被配置为：将输入数据项作为输入提供给编码器神经网络，以获得输入数据项的编码器输出；以及从编码器输出生成输入数据项的离散潜在表示，其中，所述输入数据项的离散潜在表示是输入数据项的压缩表示，包括：对每个潜在变量，从存储器中的潜在嵌入向量集合确定最接近潜在变量的编码向量的潜在嵌入向量，并且其中，输入数据项的离散潜在表示对每个潜在变量包括潜在变量的编码向量的最接近的潜在嵌入向量的标识符；并且其中，所述指令进一步使一个或多个计算机实现：解码器神经网络，其中，解码器神经网络被配置为：接收从输入数据项的离散潜在表示中得出的解码器输入，以及处理解码器输入以生成输入数据项的重构，并且其中，所述子系统还被配置为：生成解码器输入，其中，对于每个潜在变量，解码器输入包括最接近编码器输出中的潜在变量的编码向量的潜在嵌入向量，以及将解码器输入作为输入提供给解码器神经网络，以获得输入数据项的重构；其中，所述系统已经根据如下方法进行了训练：接收训练数据项，所述训练数据项包括图像、音频或视频；通过编码器神经网络根据编码器神经网络的编码器网络参数的当前值处理训练数据项，以生成训练编码器输出，其对一个或多个潜在变量的每一个包括相应训练编码向量；对每个潜在变量并且从当前存储在存储器中的多个潜在嵌入向量中，选择最接近潜在变量的训练编码向量的当前潜在嵌入向量，用于提供离散潜在表示作为训练数据项的压缩表示；生成包括最接近的当前潜在嵌入向量的训练解码器输入；通过解码器神经网络根据解码器神经网络的解码器网络参数的当前值处理训练解码器输入，以生成训练数据项的训练重构；通过确定关于解码器网络参数和编码器网络参数的当前值的梯度来确定解码器网络参数和编码器网络参数的当前值的重构更新，以优化训练重构和训练数据项之间的重构误差，其中确定关于编码器网络参数的当前值的梯度以优化重构误差包括：通过将梯度从解码器输入复制到编码器输出，将梯度从解码器反向传播到编码器，而不更新当前潜在嵌入向量。

全文数据：

权利要求：

百度查询： 渊慧科技有限公司 生成输入数据项的离散潜在表示

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD