申请/专利权人：北京六方云信息技术有限公司;北京六方云科技有限公司

申请日：2024-01-31

公开（公告）日：2024-04-19

公开（公告）号：CN117675415B

主分类号：H04L9/40

分类号：H04L9/40

优先权：

专利状态码：有效-授权

法律状态：2024.04.19#授权;2024.03.26#实质审查的生效;2024.03.08#公开

摘要：本发明公开了一种攻击防御方法、装置、终端设备以及存储介质，接收用户输入的用户提示文本；根据所述用户提示文本，生成用户提示请求并发送至模型端，由所述模型端将所述用户提示请求输入到预设的生成式大模型中进行提示应答，获取模型提示响应；接收所述模型端发送的模型提示响应；基于预设的提取信息攻击识别规则，根据所述模型提示响应进行攻击识别，获取提取信息攻击识别结果，并根据所述提取信息攻击识别结果采取对应的防御措施，所述提取信息攻击识别规则基于所述生成式大模型进行规则生成得到。实现了对生成式大模型注入攻击防御场景中提取信息注入攻击的防御，提高了对攻击识别的准确性以及生成式大模型应答的安全性。

主权项：1.一种攻击防御方法，其特征在于，所述攻击防御方法应用于网络端，包括以下步骤：接收用户输入的用户提示文本；根据所述用户提示文本，生成用户提示请求并发送至模型端，由所述模型端将所述用户提示请求输入到预设的生成式大模型中进行提示应答，获取模型提示响应；接收所述模型端发送的模型提示响应；基于预设的提取信息攻击识别规则，根据所述模型提示响应进行攻击识别，获取提取信息攻击识别结果，并根据所述提取信息攻击识别结果采取对应的防御措施，所述提取信息攻击识别规则基于所述生成式大模型进行规则生成得到；其中，所述基于预设的提取信息攻击识别规则，根据所述模型提示响应进行攻击识别，获取提取信息攻击识别结果，并根据所述提取信息攻击识别结果采取对应的防御措施的步骤之前还包括：根据所述生成式大模型中的模型配置参数、数据属性参数和工具配置参数，生成提取信息攻击识别参数；基于预设的识别算法，根据所述提取信息攻击识别参数进行规则生成，获取提取信息攻击识别规则。

全文数据：

权利要求：

百度查询： 北京六方云信息技术有限公司;北京六方云科技有限公司 攻击防御方法、装置、终端设备以及存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD