申请/专利权人：复旦大学

申请日：2020-06-22

公开（公告）日：2024-04-26

公开（公告）号：CN111859267B

主分类号：G06F17/15

分类号：G06F17/15;G06N20/00

优先权：

专利状态码：有效-授权

法律状态：2024.04.26#授权;2020.11.17#实质审查的生效;2020.10.30#公开

摘要：本发明属于网络空间安全领域，具体为一种基于BGW协议的隐私保护机器学习激活函数的运算方法。本发明将安全多方计算协议与机器学习激活函数结合，以提供安全高效的机器学习激活函数为目标，实现了基于BGW协议的机器学习激活函数。安全多方计算友好的机器学习激活函数可以是安全ReLU函数或安全Sigmoid函数。本发明可用于基于安全多方计算协议的机器学习模型或框架实现相关激活函数，而不会泄露中间过程信息。

主权项：1.一种基于BGW协议的隐私保护机器学习激活函数的运算方法，其特征在于，激活函数为安全Sigmoid函数，安全Sigmoid函数中的Sigmoid算子定义了前向传播阶段和反向传播阶段需要执行的操作；安全Sigmoid函数在逻辑回归模型中使用，训练集包括60000张已标注为0-9的图片，测试集包括10000张已标注图片，每张图片大小28*28，包含784个由0-255的灰度表示的特征；使用随机梯度下降训练逻辑回归参数w＝w-α×x^Tfx×w-y，式中，w是需要训练的参数矩阵，大小784*1；α是学习率，采用0.001；x是小批量训练数据，大小128*784，每次迭代训练1个小批量，每个小批量包含128个训练样本；其中：Sigmoid算子的前向传播计算y＝11+e^-x，使用分段函数模拟，将函数分为三部分：①如果输入值[a.forward]在和之间，则输出值为②如果[a.forward]大于则输出值为1；③如果输入值[a.forward]小于则输出值为0；通过下述两个步骤进行计算：第一步，通过LTZ函数判断秘密共享矩阵[a.forward]与和的大小关系，并行地计算其中[u1]表示[a.forward]是否大于k表示带符号整数有效位数，a表示输入节点；若则[u1]值为1，否则[u1]值为0；同理[u2]表示[a.forward]是否大于若则[u2]值为1，否则[u2]值为0；第二步，通过得到模拟Sigmoid函数的值，即[c.forward]；整个Sigmoid操作需要4回合交互，其中第一步并行的LTZ函数需要3回合交互，第二步中并行的乘法需要1回合交互；Sigmoid算子的反向传播计算[x']＝[y']*[x]*1-[x]，转化为计算[a.grad]＝[c.grad]*[a.forward]*1-[a.forward]，c表示输出节点，由于需要将3个秘密共享的数相乘，将[a.forward]*1-[a.forward]预先在前向传播中并行计算，在不增加前向传播交互回合数的情况下，使得反向传播阶段只需要1回合交互。

全文数据：

权利要求：

百度查询： 复旦大学 基于BGW协议的隐私保护机器学习激活函数的运算方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD