申请/专利权人:支付宝(杭州)信息技术有限公司
申请日:2023-12-10
公开(公告)日:2024-03-22
公开(公告)号:CN117744631A
主分类号:G06F40/211
分类号:G06F40/211;G06F40/253;G06F18/214
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.04.09#实质审查的生效;2024.03.22#公开
摘要:本说明书实施例提供一种文本预测的方法及装置,在基于大模型进行文本预测过程中,为当前词预测下文时,根据当前业务请求及历史生成文本,确定将当前词作为起始词的若干个预取词组,然后对各个预取词组并行执行前向预测,从而确定基于若干个预取词组匹配到的最长词序列,根据最长词序列确定相应的若干输出词作为当前词的下文。如此,可以通过预取和并行计算提高词预测速率。
主权项:1.一种文本预测的方法,用于基于大模型进行文本生成过程中,为当前词预测下文,所述方法包括:根据当前业务请求及历史生成文本,确定将当前词作为起始词的若干个预取词组;对各个预取词组并行执行前向预测,从而确定基于所述若干个预取词组匹配到的最长词序列,其中,针对单个预取词组,按照预取词组中各个词的出现顺序以词数量逐个递增的方式确定至少一个候选词序列,所述最长词序列通过以下比对结果确定:并行为各个预取词组对应的全部候选词序列预测下一个词,并将预测得到的词与相应候选词序列在相应预取词组中的相应词进行比对,得到各个比对结果;根据所述最长词序列确定相应的若干输出词作为当前词的下文。
全文数据:
权利要求:
百度查询: 支付宝(杭州)信息技术有限公司 文本预测的方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。