申请/专利权人：浙江大学

申请日：2023-12-29

公开（公告）日：2024-03-19

公开（公告）号：CN117725595A

主分类号：G06F21/57

分类号：G06F21/57;G06N3/09

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.05#实质审查的生效;2024.03.19#公开

摘要：本发明公开了一种基于特征归因的软件安全模型解释方法，基于可解释人工智能中的特征归因技术，对现有的基于深度学习的软件安全模型进行更新，对已有的可解释算法进行集成，并重新定义了不同软件安全任务中的解释粒度，从而实现软件安全模型的可解释性以及其在安全分析中的实用性，可以辅助包含恶意软件分析、漏洞分析在内的不同下游安全分析任务。本发明针对黑盒的软件安全模型，首次提出了一种基于特征归因的可解释性方法，增加了模型决策的透明性，提升了模型在实际生产中的可信度，可以被用作软件安全专家分析二进制代码或源代码的工具，提供恶意代码或漏洞成因的定位和标注功能，具有实用性强以及可迁移性高等优点。

主权项：1.一种基于特征归因的软件安全模型解释方法，其特征在于，包括以下步骤：1设计代理梯度解释器对训练样本进行解释得到解释样本，随后通过自监督学习的方法对解释样本进行样本增强，通过多任务学习的方式对软件安全模型进行训练更新，得到训练后的软件安全模型；2使用一个分解特征实体的工具对解释样本进行分解，得到标注矩阵；结合标注矩阵对特征归因算法集合进行解释粒度的任务适应，得到适应后的特征归因算法集合；3根据适应后的特征归因算法集合中每一个适应后的特征归因算法对解释样本进行扰动，得到每一个适应后的特征归因算法下动后的样本和解释样本在训练后的软件安全模型上的评估指标；随后根据评估指标和每一个适应后的特征归因算法对解释样本的解释结果，得到解释样本的最终解释结果。

全文数据：

权利要求：

百度查询： 浙江大学 一种基于特征归因的软件安全模型解释方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD