申请/专利权人：青岛网信信息科技有限公司

申请日：2024-03-15

公开（公告）日：2024-04-16

公开（公告）号：CN117891925A

主分类号：G06F16/332

分类号：G06F16/332;G06F16/36;G06F40/194;G06F40/30;G06N5/022

优先权：

专利状态码：在审-公开

法律状态：2024.04.16#公开

摘要：本发明提供了一种利用大语言模型实现聊天记忆的方法、介质及系统，属于人工智能对话系统技术领域，该利用大语言模型实现聊天记忆的方法，包括：获取用户与第一大语言模型的对话过程中输入和输出的token，并存储到聊天知识库并处理，得到聊天知识图谱；当同一用户继续启用聊天功能时，根据新问题获取最匹配的知识作为参照内容，并将新问题和参照内容形成prompt，并提供给大语言模型；若最匹配的知识大于2048字符，则利用第二大语言模型对知识进行总结，提供给第一大语言模型；得到第一大语言模型的输出后，执行步骤S10~S20，并对聊天知识图谱进行更新；本发明能够处理并记忆用户输入的信息，提高交互的有效性。

主权项：1.一种利用大语言模型实现聊天记忆的方法，其特征在于，包括以下步骤：S10、获取用户与第一大语言模型的对话过程中输入的token和输出的token；S20、对输入的token和输出的token以向量方式存储到聊天知识库；S30、对聊天知识库进行处理，得到聊天知识图谱；S40、当同一用户继续启用与大语言模型聊天功能时，根据新问题获取最匹配的聊天知识图谱的知识作为参照内容，并将新问题和参照内容形成prompt，并提供给大语言模型；S50、若最匹配的聊天知识图谱的知识大于2048字符，则利用第二大语言模型对所述最匹配的聊天知识图谱的知识进行总结，得到参照内容，并将新问题和参照内容形成prompt，并提供给第一大语言模型；S60、得到所述第一大语言模型的输出后，执行步骤S10~S20，并对所述聊天知识图谱进行更新；其中，所述第一大语言模型和所述第二大语言模型为不同权重的大语言模型，所述第一大语言模型的权重大小大于所述第二大语言模型的权重大小。

全文数据：

权利要求：

百度查询： 青岛网信信息科技有限公司 一种利用大语言模型实现聊天记忆的方法、介质及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD