恭喜杭州分叉智能科技有限公司金礼剑获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜杭州分叉智能科技有限公司申请的专利一种基于多模态模型的RPA元素锚点自动寻找方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119669600B 。
龙图腾网通过国家知识产权局官网在2025-05-13发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510185798.X,技术领域涉及:G06F16/958;该发明授权一种基于多模态模型的RPA元素锚点自动寻找方法是由金礼剑;代培;吴小女;李悦群;吴桐;朱霞设计研发完成,并于2025-02-20向国家知识产权局提交的专利申请。
本一种基于多模态模型的RPA元素锚点自动寻找方法在说明书摘要公布了:本发明公开了一种基于多模态模型的RPA元素锚点自动寻找方法,按下述步骤进行:步骤S1:获取网页中目标元素以及候选锚点元素的坐标、文本信息和区域截图;步骤S2:根据区域截图,通过目标检测模型获取目标元素以及候选锚点元素的元素类别;步骤S3:将目标元素和候选锚点元素的坐标、文本信息、区域截图以及元素类别输入多模态模型内,利用多模态模型进行向量转化、向量对齐、元素区分、元素关注和元素判断,检测确定目标锚点元素;步骤S4:记录目标元素与锚点元素之间的相对关系,用于机器人流程自动化运行时的目标元素定位;本发明通过网页截图、元素坐标和元素类别动态识别网页的锚点元素,具有适用范围广及识别可靠的优点。
本发明授权一种基于多模态模型的RPA元素锚点自动寻找方法在权利要求书中公布了:1.一种基于多模态模型的RPA元素锚点自动寻找方法,其特征在于:按下述步骤进行:步骤S1:获取网页中目标元素以及候选锚点元素的坐标、文本信息和区域截图;步骤S2:根据区域截图,通过目标检测模型获取目标元素以及候选锚点元素的元素类别;步骤S3:将目标元素和候选锚点元素的坐标、文本信息、区域截图以及元素类别输入多模态模型内,利用多模态模型进行向量转化、向量对齐、元素区分、元素关注和元素判断,检测确定目标锚点元素;步骤S4:记录目标元素与锚点元素之间的相对关系,用于机器人流程自动化运行时的目标元素定位;所述步骤S2中目标检测模型的检测过程按下述步骤进行:步骤S2.1:通过特征提取网络将网页截图转化为特征图;步骤S2.2:通过区域提议网络依据目标元素以及候选锚点元素的坐标,在特征图中生成检测框;步骤S2.3:对检测框进行边界框回归以调整边界位置;步骤S2.4:通过分类层判断检测框内是否存在目标,若存在目标则区分检测框内的对象类别;步骤S2.5:去除检测框中重复及重叠的检测框;所述步骤S3的多模态模型的检测过程按下述步骤进行:步骤S3.1:将目标元素以及候选锚点元素的文本信息结合其对应类别形成文本输入,将目标元素以及候选锚点元素区域截图作为图像输入,从目标元素以及候选锚点元素的坐标中提取坐标特征作为坐标输入;步骤S3.2:利用嵌入转化模型将文本输入和图像输入转化为文本向量和图像向量,后通过全连接层将文本向量、图像向量和坐标特征向量进行对齐;步骤S3.3:通过旋转位置编码区分目标元素和候选锚点元素,随后通过自注意力模块使目标元素的文本向量、图像向量和坐标特征向量与候选锚点元素之间的文本向量、图像向量和坐标特征向量相互关注,通过相似度获得各元素的权重并将向量加权求和;步骤S3.4:通过全连接层输出求和值最高的候选锚点元素作为锚点元素。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人杭州分叉智能科技有限公司,其通讯地址为:311121 浙江省杭州市余杭区仓前街道鼎创财富中心2幢3层303室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。