申请/专利权人：云知声智能科技股份有限公司;厦门云知芯智能科技有限公司

申请日：2021-01-30

公开（公告）日：2024-03-12

公开（公告）号：CN112750535B

主分类号：G16H50/50

分类号：G16H50/50;G06N3/04;G06N3/08

优先权：

专利状态码：有效-授权

法律状态：2024.03.12#授权;2021.05.21#实质审查的生效;2021.05.04#公开

摘要：本发明公开一种用于衡量模型不确定性的方法，包括：模型训练过程中，对同一个batch中的样本0,1,…n,经过神经网络的特征表示层后得到对应的语义特征表示为x0，x1，......xn；随机两两混合所述第i个样本的语义特征和所述第j个样本的语义特征表示混合后的样本的新的语义特征；随机两两混合所述样本的one‑hot标签得到混合后的样本的新的one‑hot标签；将混合后的样本的新的语义特征表示送入全连接层，得到模型的预测概率值；根据所述模型的预测概率值和所述混合后的样本的新的one‑hot标签得到所述预测概率值的上限值；根据所述预测概率值的上限值和所述模型的预测概率值，判断所述模型的不确定性。

主权项：1.用于衡量模型不确定性的方法，其特征在于，所述方法包括：模型训练过程中，对同一个batch中的样本0,1,…n,经过神经网络的特征表示层后得到对应的语义特征表示为x0，x1，......xn；随机两两混合第i个样本的语义特征和第j个样本的语义特征表示混合后的样本的新的语义特征，如式1； 其中，Ω＜α≤1，α代表保留第i个样本的语义特征的权重，从Ω到1随机取值，Ω代表α取的下限，Ω＞0.5代表保留第i个样本的语义特征权重大于0.5，加入噪声的权重小于0.5；随机两两混合所述样本的one-hot标签得到混合后的样本的新的one-hot标签，包括将第i个样本对应的one-hot标签yi，和第j个样本对应的one-hot标签yj按同样的方式混合，如式2； 其中，代表混合后的标签，α代表保留第i个样本对应的one-hot标签的权重；将混合后的样本的新的语义特征表示送入全连接层，得到模型的预测概率值y；根据所述模型的预测概率值和所述混合后的样本的新的one-hot标签得到所述预测概率值的上限值，如式3； 其中，y代表模型预测的标签；采用混合数据训练的方式，当yi≠yj时,取值为α；当yi＝yj时，取值为1；在同一个batch中，两个样本，随机两两混合；取值是α还是1是随机决定的，另外α取值也是随机采样的，这样使得训练样本有着不同的wining-score；因为α取值大于0.5时，主要由xi决定；当yi≠yj,将xi和xj混合，xj认为是噪声；当α取值比较大时，更多受xi影响，相对应的噪声xj影响较小，所以对最终的label取yi有更多的信心，wining-score值较大；当α取值比较小时，相对应的噪声xj影响较大，所以最终的label取yi的信心较小，wining-score值较小；当yi＝yj时，认为没有噪声干扰，wining-score取最大值1；根据所述预测概率值的上限值和所述模型的预测概率值，判断所述模型的不确定性。

全文数据：

权利要求：

百度查询： 云知声智能科技股份有限公司;厦门云知芯智能科技有限公司 用于衡量模型不确定性的方法和系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD