申请/专利权人：哈尔滨工业大学

申请日：2021-09-02

公开（公告）日：2024-04-26

公开（公告）号：CN113887718B

主分类号：G06N3/082

分类号：G06N3/082;G06N3/0464;G06N3/048

优先权：

专利状态码：有效-授权

法律状态：2024.04.26#授权;2022.01.21#实质审查的生效;2022.01.04#公开

摘要：本发明公开了一种基于相对激活率的通道剪枝方法和装置及轻量级流量特征提取网络模型简化的方法，属于深度学习中的轻量化网络技术领域，解决现有入侵检测模型中的参数冗余问题。本发明的剪枝方法包括：建立轻量级流量特征提取网络模型；备份该模型的所有层的权重；获取隐藏层通道特征图；计算单元训练轻量级流量特征提取网络模型的每个通道的平均相对激活率；对单元通道进行剪枝；对单元剪枝后的轻量级流量特征提取网络模型进行微调，获取单元微调后的轻量级流量特征提取网络模型的测试平均精准率；获取最优剪枝率；完成对所有激活层对应的通道进行剪枝。本发明适用于对网络入侵的检测模型的改进。

主权项：1.一种基于相对激活率的通道剪枝方法，其特征在于，所述方法包括：步骤1、针对轻量级流量特征提取网络模型，设置期望平均精准率和剪枝率的初始值；步骤2、备份所述轻量级流量特征提取网络模型的所有层的权重；步骤3、将训练集输入所述轻量级流量特征提取网络模型，获取隐藏层通道特征图；步骤4、根据所述隐藏层通道特征图，计算训练轻量级流量特征提取网络模型的每个通道的平均相对激活率；步骤5、根据所述平均相对激活率、所述剪枝率和所述通道的数量，对所述通道进行剪枝；步骤6、对剪枝后的轻量级流量特征提取网络模型进行微调，并利用测试集，获取微调后的轻量级流量特征提取网络模型的测试平均精准率；步骤7、根据所述测试平均精准率和所述期望平均精准率，获取最优剪枝率；步骤8、重复步骤4-7，直到完成对所有激活层对应的通道进行剪枝；所述根据所述隐藏层通道特征图，计算所述训练轻量级流量特征提取网络模型的每个通道的平均相对激活率，具体包括：根据所述隐藏层通道特征图，获取所述每个通道的相对激活率，所述相对激活率的计算公式为： 其中，为第j个检测框内像素点的激活值，为检测框内像素点的最高激活值，为检测框内像素点的最低激活值，ABG_AVG为背景平均激活值，AIMG_MAX为特征图内所有像素点的最高激活值，N为检测框的数量；根据所述相对激活率，获取每个通道的平均相对激活率，所述平均相对激活率的计算公式为： 其中，K为输入的训练集的图像张数；将网络流量特征按时间戳转化成二维图像，并基于卷积神经网络检测特征图中对应流量异常的区域，将所述二维图像划分为训练集和测试集；所述根据所述平均相对激活率、所述剪枝率和所述通道的数量，对所述通道进行剪枝，具体包括：根据所述平均相对激活率由低到高的顺序，对所述通道的索引进行排序，获得通道索引排序队列；根据所述剪枝率和所述隐藏层中通道数量，获取剪枝通道数量；对所述通道索引排序队列中前所述剪枝通道数量个的索引对应的权重设为零；将所述权重设为零的通道冻结。

全文数据：

权利要求：

百度查询： 哈尔滨工业大学 一种基于相对激活率的通道剪枝方法和装置及轻量级流量特征提取网络模型简化的方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD