申请/专利权人：谷歌有限责任公司

申请日：2023-05-25

公开（公告）日：2024-03-22

公开（公告）号：CN117751368A

主分类号：G06N3/098

分类号：G06N3/098;G06N3/084;G06N3/09

优先权：["20220626 IL 294292"]

专利状态码：在审-实质审查的生效

法律状态：2024.04.09#实质审查的生效;2024.03.22#公开

摘要：方法、系统和装置，包括在计算机存储介质上编码的计算机程序，用于神经网络的隐私敏感训练。在一个方面，一种系统包括中央存储器和一个或多个计算机，中央存储器被配置为存储神经网络参数的集合的当前值，一个或多个计算机被配置为实现多个工作者计算单元，其中，每个工作者计算单元被配置为重复地执行操作，该操作包括：从中央存储器获得神经网络参数的集合的当前值，从训练数据的集合中采样一批网络输入，确定与每个网络输入相对应的相应梯度，基于梯度确定聚合梯度，将梯度值的集合的子集识别为目标值，通过将随机噪声与目标梯度值组合来生成有噪梯度，以及更新神经网络参数的集合的当前值。

主权项：1.一种用于具有神经网络参数的集合的神经网络的隐私敏感训练的系统，所述系统包括：中央存储器，被配置为存储神经网络参数的集合的当前值；以及一个或多个计算机，被配置为实现多个工作者计算单元，其中，每个工作者计算单元被配置为重复执行操作，所述操作包括：从中央存储器获得神经网络参数的集合的当前值；从训练数据的集合中采样一批网络输入；确定与每个网络输入相对应的相应梯度，包括，对于每个网络输入：根据神经网络参数的集合的当前值，使用神经网络处理网络输入，以生成网络输出；以及当在网络输出上评估目标函数时，确定目标函数相对于神经网络参数的集合的梯度；基于与网络输入相对应的梯度确定聚合梯度；将包括在聚合梯度中的梯度值的集合的真子集识别为要与随机噪声组合的目标梯度值；通过将随机噪声与聚合梯度中的目标梯度值组合来生成有噪梯度；以及使用有噪梯度更新存储在中央存储器中的神经网络参数的集合的当前值。

全文数据：

权利要求：

百度查询： 谷歌有限责任公司 隐私敏感神经网络训练

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD