买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】基于垂直领域大语言模型的行业标准数据处理方法及设备_国网上海市电力公司;华东电力试验研究院有限公司;东华大学_202410053031.7 

申请/专利权人:国网上海市电力公司;华东电力试验研究院有限公司;东华大学

申请日:2024-01-12

公开(公告)日:2024-04-09

公开(公告)号:CN117852497A

主分类号:G06F40/117

分类号:G06F40/117;G06F40/166;G06N20/00;G06F40/247

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.04.26#实质审查的生效;2024.04.09#公开

摘要:本发明涉及一种基于垂直领域大语言模型的行业标准数据处理方法及设备,该方法包括以下步骤:步骤S1,准备垂直领域待标注的行业标准文本;步骤S2,对待标注的行业标准文本进行人工标注;步骤S3,使用ChatGPT对标注好的行业标准文本进行清洗和预处理;步骤S4,使用微调技术对ChatGLM2‑6B进行训练;步骤S5,用python分段处理标注好的行业标准文本,并生成结构化数据集;步骤S6,基于结构化数据集对ChatGLM2‑6B模型进行LoRA微调;步骤S7,使用微调后的ChatGLM2‑6B模型制定行业标准。与现有技术相比,本发明具有提高行业标准制定的效率和适用范围广等优点。

主权项:1.一种基于垂直领域大语言模型的行业标准数据处理方法,其特征在于,该方法包括以下步骤:步骤S1,准备垂直领域待标注的行业标准文本;步骤S2,对待标注的行业标准文本进行人工标注;步骤S3,使用ChatGPT对标注好的行业标准文本进行清洗和预处理;步骤S4,使用LoRA微调对ChatGLM2-6B进行训练;步骤S5,用python分段处理标注好的行业标准文本,并生成结构化数据集;步骤S6,基于结构化数据集对ChatGLM2-6B模型进行LoRA微调;步骤S7,使用微调后的ChatGLM2-6B模型自动生成行业标准数据。

全文数据:

权利要求:

百度查询: 国网上海市电力公司;华东电力试验研究院有限公司;东华大学 基于垂直领域大语言模型的行业标准数据处理方法及设备

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。