申请/专利权人：福建亿力电力科技有限责任公司

申请日：2023-12-06

公开（公告）日：2024-04-09

公开（公告）号：CN117854089A

主分类号：G06V30/412

分类号：G06V30/412;G06V30/19;G06V10/82;G06N3/0442;G06Q30/0601;G06N3/09

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.26#实质审查的生效;2024.04.09#公开

摘要：本发明公开了一种基于少样本条件下的招投标视觉语言模型的训练方法、处理方法及装置，包括：构建招投标视觉语言模型，招投标视觉语言模型包括两个平行设置的视觉单元和五个堆叠设置的文本单元，采用训练数据对招投标视觉语言模型进行训练，将视觉数据和文本数据输入招投标视觉语言模型，第一图像和第二图像分别输入视觉单元，得到第一视觉特征和第二视觉特征；文本数据与第一视觉特征和第二视觉特征共同输入第一个文本单元，上一个文本单元的输出与第一视觉特征和第二视觉特征共同输入下一个文本单元，最后一个文本单元输出第三文本，第三文本为与第二图像对应的完整注释，实现少样本条件下的高效学习，提高信息处理的效率和准确性。

主权项：1.一种基于少样本条件下的招投标视觉语言模型的训练方法，其特征在于，包括以下步骤：构建招投标视觉语言模型，所述招投标视觉语言模型包括两个平行设置的视觉单元和五个堆叠设置的文本单元，所述视觉单元包括依次连接的预训练的视觉编码器和基于感知的重采样模块，所述文本单元包括依次连接的基于门控交叉注意力机制的密集连接文本处理模块和预训练的语言模型，所述基于感知的重采样模块与所述基于门控交叉注意力机制的密集连接文本处理模块连接；构建经过预处理后的少样本的训练数据，所述训练数据包括视觉数据和文本数据，其中，所述视觉数据包括第一图像和第二图像，所述文本数据包括第一文本和第二文本，所述第一文本为所述第一图像根据像素编码成矩阵式的文本格式以及与所述第一图像对应的完整注释，所述第二文本为所述第二图像根据像素编码成矩阵式的文本格式以及与所述第二图像对应的非完整注释；采用所述训练数据对所述招投标视觉语言模型进行训练，将所述视觉数据和文本数据输入所述招投标视觉语言模型，所述第一图像和所述第二图像分别输入所述视觉单元，得到第一视觉特征和第二视觉特征；所述文本数据与第一视觉特征和第二视觉特征共同输入第一个文本单元，上一个文本单元的输出与第一视觉特征和第二视觉特征共同输入下一个文本单元，最后一个文本单元输出第三文本，所述第三文本为与所述第一图像对应的完整注释具有相同格式并与所述第二图像对应的完整注释。

全文数据：

权利要求：

百度查询： 福建亿力电力科技有限责任公司 基于少样本条件下的招投标视觉语言模型的训练方法、处理方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD