齐鲁工业大学(山东省科学院)董祥军获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉齐鲁工业大学(山东省科学院)申请的专利一种基于语义对齐的放射学报告生成方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119517277B 。
龙图腾网通过国家知识产权局官网在2025-06-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510065209.4,技术领域涉及:G16H15/00;该发明授权一种基于语义对齐的放射学报告生成方法是由董祥军;张志豪;赵龙;鹿文鹏设计研发完成,并于2025-01-16向国家知识产权局提交的专利申请。
本一种基于语义对齐的放射学报告生成方法在说明书摘要公布了:本申请公开的一种基于语义对齐的放射学报告生成方法,属于放射学报告生成技术领域。本申请构建的放射学报告生成网络包括依次连接的多尺度特征提取模块、跨模态语义对齐模块和Transformer报告生成模块;所述多尺度特征提取模块包括依次连接的卷积神经网络以及多尺度局部稀疏注意力模块;所述跨模态语义对齐模块包括嵌入层以及与嵌入层相连接的多头注意力模块和门控融合模块,多头注意力模块和门控融合模块的输入端还均与多尺度局部稀疏注意力模块的输出端相连接。本申请所述放射学报告生成方法生成的预测放射学报告质量较佳。
本发明授权一种基于语义对齐的放射学报告生成方法在权利要求书中公布了:1.一种基于语义对齐的放射学报告生成方法,其特征在于:包括以下步骤: S1、构建放射学报告生成网络,放射学报告生成网络包括依次连接的多尺度特征提取模块、跨模态语义对齐模块和Transformer报告生成模块;所述多尺度特征提取模块包括依次连接的卷积神经网络以及多尺度局部稀疏注意力模块;所述跨模态语义对齐模块包括嵌入层以及与嵌入层相连接的多头注意力模块和门控融合模块,多头注意力模块和门控融合模块的输入端还均与多尺度局部稀疏注意力模块的输出端相连接; 卷积神经网络用于提取放射学图像中所有patch的特征,得到图像区域特征图;多尺度局部稀疏注意力模块用于增强图像区域特征图中每一个patch的特征,获得包含多尺度语义信息的单模态图像嵌入E I ;嵌入层用于对放射学报告样本进行嵌入映射操作,获取单模态文本嵌入E R ;多头注意力模块基于可学习矩阵M和单模态嵌入E进行注意力的计算,得到包含跨模态信息的单模态融合表征,所述单模态嵌入E为单模态图像嵌入E I 或者单模态文本嵌入E R ,所述单模态融合表征为单模态融合图像表征或者单模态融合文本表征;门控融合模块用于将单模态嵌入E和单模态融合表征进行融合,得到最终的单模态特征F,最终的单模态特征F为最终图像特征或者最终文本特征; 门控融合模块包括两个线性层,第一线性层的输入端分别连接多尺度局部稀疏注意力模块的输出端以及嵌入层的输出端,第二线性层的输入端与多头注意力模块的输出端相连接,两个线性层的输出端均与第一Add层连接,第一Add层的输出端与Sigmoid激活层连接,Sigmoid激活层的输出端分别连接第一个逐元素相乘模块和第二个逐元素相乘模块,第一个逐元素相乘模块的输入端还与第一线性层的输入端相连接;第一线性层的输入端和第二线性层的输入端均与第二Add层的输入端相连接,第二Add层的输出端依次连接tanh激活层和第二个逐元素相乘模块;第一个逐元素相乘模块的输出端以及第二线性层的输入端均与第三Add层的输入端相连接,第三Add层的输出端以及第二个逐元素相乘模块的输出端均与第四Add层相连接; S2、构建放射学报告生成网络的总损失,其中,预测报告序列以及与之对应的放射学报告样本序列之间的交叉熵损失以及多标签对比损失损失构成放射学报告生成网络的总损失; 计算多标签对比损失时,要使用CheXpert工具为每个用于训练的X光图像-文本对样本生成伪标签,伪标签表示为多个标签的one-hot向量,将当前X光图像样本作为图像锚点,从与当前X光图像样本的标签完全不同的文本样本中选择与锚点余弦相似度最高的样本作为文本负样本,将当前文本样本作为文本锚点,从与当前文本样本的标签完全不同的X光图像样本中选择与锚点余弦相似度最高的样本作为图像负样本;基于确定的负样本计算多标签对比损失; 多标签对比损失的计算方式,如式(9)所示; (9) 式(9)中,表示余弦相似度,α是边界值,取值为0.7,表示图像锚点的最终图像特征,表示图像负样本的最终图像特征、表示文本锚点的最终文本特征,表示文本负样本的最终文本特征; S3、基于训练集以及放射学报告生成网络的总损失训练放射学报告生成网络,得到放射学报告生成网络模型; S4、将待生成放射学报告的放射学图像输入到放射学报告生成网络模型中,前向传播一次,得到预测的放射学报告。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人齐鲁工业大学(山东省科学院),其通讯地址为:250353 山东省济南市长清区大学路3501号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。