申请/专利权人：环球数科集团有限公司

申请日：2023-12-27

公开（公告）日：2024-04-16

公开（公告）号：CN117493496B

主分类号：G06F16/33

分类号：G06F16/33;G06F16/335;G06F40/205;G06F40/247;G06F40/30;G06N3/094

优先权：

专利状态码：有效-授权

法律状态：2024.04.16#授权;2024.02.23#实质审查的生效;2024.02.02#公开

摘要：本发明提供了一种自然语言模型的生成对抗式样本处理系统，涉及电数字数据处理领域，包括模型对接模块、对抗策略处理模块、对抗样本生成模块、样本评估模块和迭代优化模块，所述模型对接模块用于与自然语言模型进行对接并接收模型的训练样本，所述对抗策略处理模块设置对抗策略信息，所述对抗样本生成模块根据对抗策略对训练样本进行处理生成对抗样本，所述样本评估模块用于将对抗样本在模型中运行并筛选出对抗性不足的对抗样本，所述迭代优化模块用于将筛选出的对抗样本进行迭代处理提高对抗性；本系统能够生成对抗样本能够从而有效缓解语言模型过拟合，提高模型的鲁棒性和安全性。

主权项：1.一种自然语言模型的生成对抗式样本处理系统，其特征在于，包括模型对接模块、对抗策略处理模块、对抗样本生成模块、样本评估模块和迭代优化模块；所述模型对接模块用于与自然语言模型进行对接并接收模型的训练样本，所述对抗策略处理模块设置对抗策略信息，所述对抗样本生成模块根据对抗策略对训练样本进行处理生成对抗样本，所述样本评估模块用于将对抗样本在模型中运行并筛选出对抗性不足的对抗样本，所述迭代优化模块用于将筛选出的对抗样本进行迭代处理提高对抗性；所述对抗策略处理模块包括策略交互单元、策略存储单元和策略激活单元，所述策略交互单元用于提供策略参数的设置界面，所述策略存储单元用于保存策略参数类型以及对应的设置值，所述策略激活单元用于将确认的参数设置值发送给所述对抗样本生成模块；所述对抗样本生成模块包括样本解析单元、策略应用单元、扰动实施单元和样本输出单元，所述样本解析单元用于接收原始样本数据并对原始样本数据进行解析，所述策略应用单元用于导入策略参数，所述扰动实施单元根据导入的策略参数对训练样本进行修改，所述样本输出单元用于将对抗样本发送至样本评估模块；所述样本评估模块包括对抗训练单元和评估筛选单元，所述对抗训练单元用于接收对抗样本，并将对抗样本在自然语言中进行训练后接收训练结果，所述评估筛选单元用于对训练结果进行评估并筛选出对抗性不足的对抗样本；所述对抗训练单元包括对抗样本寄存器、训练传输处理器和结果统计处理器，所述对抗样本寄存器用于保存接收的对抗样本信息，所述训练传输处理器用于与训练交互单元传输对抗样本和训练结果，所述结果统计处理器用于统计出每个对抗样本的训练结果；所述结果统计处理器根据下式计算出每个对抗样本的对抗性At： ；其中，n0表示判断错误的训练次数，n1表示判断正确的训练次数；所述评估筛选单元根据下式计算整个对抗样本的对抗指数P： ；其中，表示第i份对抗样本的对抗性，为对抗阈值，m为对抗样本的数量；当对抗指数小于0时，表示整个对抗样本的对抗性未达到要求，向对抗策略处理模块发送信息，并在策略交互单元上显示信息要求调整策略参数，当对抗指数大于等于0时，表示整个对抗样本的对抗性达到要求，将对抗指数小于YA的对抗样本发送给所述迭代优化模块。

全文数据：

权利要求：

百度查询： 环球数科集团有限公司 一种自然语言模型的生成对抗式样本处理系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD