申请/专利权人：珠海中科先进技术研究院有限公司;中国科学院深圳先进技术研究院

申请日：2023-06-13

公开（公告）日：2023-09-01

公开（公告）号：CN116682550A

主分类号：G16H50/20

分类号：G16H50/20;G16H50/70;G06N3/0464;G06N5/025;G06V10/764;G06V10/82

优先权：

专利状态码：在审-实质审查的生效

法律状态：2023.09.19#实质审查的生效;2023.09.01#公开

摘要：本发明公开了基于先验知识规则抽取和SHAP的AMD可解释性精准诊断方法：S1：先验知识总结与规则抽取；S2：基于先验知识的XAI算法原型进行模糊标记；S3：基于先验知识与prototype的可解释性评价指标设定；S4：基于XAI构件建立像素分类模型；S5：基于像素分类结果的图片级分类；S6：优化像素分类模型结果和AMD识别结果。本发明所述的基于先验知识规则抽取和SHAP的AMD可解释性精准诊断方法，本方法通过对Prototype的分割任务，包括阳性的prototype1分割和阴性的prototype2分割，实现了以IOU指标为主要参考标准，实现了模型从可解释性方向的优化和矫正，根据基于上述的像素分割权重相加，实现图片级别的分类，完成了精准AMD的诊断任务。

主权项：1.基于先验知识规则抽取和SHAP的AMD可解释性精准诊断方法，其特征在于：所述包括以下操作步骤：S1：先验知识总结与规则抽取：先验知识整合：将先验医学知识和领域专业知识纳入诊断过程；S2：基于先验知识的XAI算法原型进行模糊标记：基于先验知识的感兴趣区域，在可解释性人工智能中，可以作爲原型标记，标记为prototype，以此用来衡量模型的可解释性水平，其阳性数据的感兴趣屈居即为病竈坐在区域，其中prototype是指用于解释人工智能模型的行为或决策的代表性或示例性实例，XAI中通常使用原型来对复杂机器学习模型的内部工作提供可解释的解释和见解，帮助跨领域用户理解模型预测或分类背后的推理的有形示例，XAI中的原型可以采用不同的形式，这取决于所使用的特定方法或方法，其特定方法包括：A：基于实例的解释：原型可以是数据集中的单个数据实例，这些实例被选择来表示某些特征或决策结果，这些实例通常是根据它们与决策边界的接近程度来选择的，或者是为了突出显示影响模型预测的特定特征；B：基于特征的解释：原型可以通过选择具有不同值或特征组合的实例来创建，这些原型展示了某些特征的变化如何影响模型的预测或决策过程；C：基于规则的解释：原型可以从提取的规则或解释模型行为的逻辑条件中派生出来，这些规则捕获了模型的决策逻辑，并通过展示做出特定预测的条件来提供可解释的解释；D：视觉解释：原型可以是视觉表示或热图，突出显示对模型预测贡献最大的图像区域，这些可视化帮助用户了解模型在做出决策时关注的特征或区域；S3：基于先验知识与prototype的可解释性评价指标设定：对可解释人工智能算法的评估涉及评估模型如何有效地对其决策过程提供可理解的解释，是XAI算法的比较和进步的重要环节，目前有几种针对XAI算法的评估方法，包括使用者研究、性能指标、特定模型的评估方法以及基准和挑战，使用者研究需要向人类专家或终端使用者展示XAI生成的解释，并通过各种形式的调查、访谈或互动任务来衡量他们对模型的理解和信心，除了准确性之外，XAI算法的质量还可以根据量化其解释质量的性能指标进行评估，如覆盖率、一致性和相关性，这些指标评估模型的解释与人类理解和领域知识的匹配程度，交叉-联合得分和一致性得分是用来评估基于类启动图的解释质量的指标，它们分别测量预测热图和地面真实分割屏蔽之间的重叠以及热图反映物体显著性的程度，是XAI算法的常用评估方法，其中XAI为对可解释人工智能，交叉-联合标为IntersectionoverUnion，记为IOU，类启动图表为CAM；S4：基于XAI构件建立像素分类模型：其中包括：基于DeepLabV3建立底层像素分类模型和基于SHAP可解释性机制优化像素分类模型；其中基于DeepLabV3建立底层像素分类模型：其中DeepLabV3基于ASPP，基于空洞卷积原理，实现特征批次处理下采样，此外，全域平均池被应用于最后的特征提取，得到的图像层级特征最终传输到具有256个过滤器的1×1卷积中，然后乘以所需的空间维度，DeepLabV3放弃DeepLab中原本的有条件随机选取区域，取而代之的是串联和聚合得到的特征，并在计算最终逻辑之前通过另一个带有256个过滤器的1×1卷积，深度可分离卷积被应用于ASPP池和解码器模块，从而产生更快和更稳健的网络；其中基于SHAP可解释性机制优化像素分类模型：基于SHAP可解释性机制优化像素分类模型，通过结合基于SHAP的注意力机制，增强的DeepLabV3模型可以提供注意力图，突出眼底图像中对AMD分类决策贡献最大的区域，这些注意力图可以帮助理解模型的决策过程，并提供对AMD诊断相关特征或区域的见解，主要包括如下几个步骤：a：目标层确定：本研究对于每一层进行可解释性评价，对于具备可解释性的层设定为目标层；b：计算像素贡献率：对目标层的像素进行贡献率计算，即应用SHAP框架计算DeepLabV3中目标层的SHAP值，这些值测量每个像素对AMD分类决策的贡献，生成注意力图：使用计算的SHAP值生成注意力图，该注意力图突出显示眼底图像中对AMD分类决策影响最大的区域，该注意力图指示了模型在分类过程中集中注意力的区域；c：注意力集成：修改DeepLabV3架构以包含注意力图，一种方法是将注意力图与DeepLabV3的目标层中的特征图相乘，这种注意力机制强调了特征图中的重要区域，将模型的注意力引向与AMD分类相关的区域；d：基于Attention的微调和评估：使用标记的数据集，使用注意力机制对修改后的DeepLabV3模型进行微调，微调有助于模型适应注意力机制，并学会有效地利用突出显示的区域，使用IOU、像素精度、并集上的平均交集、XAIindicator、Precision、Recall和F1Score指标评估增强模型的性能； S5：基于像素分类结果的图片级分类：基于上述像素分类结果，实现图片AMD非AMD识别，即图片级分类，将图片各像素点属于Prototype1和prototype2的possibility预测值分别相加并对比，该图片级分类属于较大可能值所在类；S6：优化像素分类模型结果和AMD识别结果：对于采样进行XAIindicator的计算和目标层选择，并对其数值进行准确率的观察。

全文数据：

权利要求：

百度查询： 珠海中科先进技术研究院有限公司;中国科学院深圳先进技术研究院 基于先验知识规则抽取和SHAP的AMD可解释性精准诊断方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD