申请/专利权人:腾讯科技(深圳)有限公司
申请日:2021-11-22
公开(公告)日:2023-05-26
公开(公告)号:CN116166794A
主分类号:G06F16/35
分类号:G06F16/35;G06F16/33;G06F40/30;G06N3/0475;G06N3/047;G06N3/0455;G06N3/08
优先权:
专利状态码:在审-实质审查的生效
法律状态:2023.07.04#实质审查的生效;2023.05.26#公开
摘要:本申请公开了一种语言模型的训练方法、文本分类方法、装置、设备及介质,属于文本处理技术领域。方法包括:获取多个第一文本;对于任一个第一文本,根据第一网络模型获取任一个第一文本中各个字符的出现概率;基于多个第一文本中各个字符的出现概率,对第一网络模型进行调整,得到第一语言模型,第一语言模型包括第一特征提取模型;根据第一特征提取模型获取任一个第一文本的语义特征;基于多个第一文本的语义特征,对第一特征提取模型进行调整,得到第二特征提取模型;基于第二特征提取模型,确定目标语言模型。本申请降低模型对训练数据的依赖,减少了训练数据的获取时间,提高了模型的训练速度和文本分类的效率。
主权项:1.一种语言模型的训练方法,其特征在于,所述方法包括:获取多个第一文本;对于任一个第一文本,根据第一网络模型获取所述任一个第一文本中各个字符的出现概率;基于所述多个第一文本中各个字符的出现概率,对所述第一网络模型进行调整,得到第一语言模型,所述第一语言模型包括第一特征提取模型;根据所述第一特征提取模型获取所述任一个第一文本的语义特征;基于所述多个第一文本的语义特征,对所述第一特征提取模型进行调整,得到第二特征提取模型;基于所述第二特征提取模型,确定目标语言模型。
全文数据:
权利要求:
百度查询: 腾讯科技(深圳)有限公司 语言模型的训练方法、文本分类方法、装置、设备及介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。