申请/专利权人：厦门她趣信息技术有限公司

申请日：2023-06-02

公开（公告）日：2024-04-19

公开（公告）号：CN116822496B

主分类号：G06F40/226

分类号：G06F40/226;G06F40/289;G06V30/41;G10L15/26;G06F18/22;G06Q50/00

优先权：

专利状态码：有效-授权

法律状态：2024.04.19#授权;2023.10.24#实质审查的生效;2023.09.29#公开

摘要：一种社交信息违规检测方法、系统及存储介质，包括S1、获取待检测信息，并对其进行第一信息处理，分别得到待检测信息对应的上下文信息、拼音信息、标准形式信息；S2、将待检测信息以及S1得到的信息分别进行预设违规检测匹配，判断是否为可疑违规内容，若是，则执行S3；S3、对可疑违规内容进行第二信息处理，并判断可疑违规内容是否为违规内容，若是，则执行S4；S4、获取违规内容发布者的用户特征与预设违规用户特征，并将二者进行对比，判断用户特征是否符合预设违规用户特征，若是，则执行预设违规处理方式，若否，则生成并下发待复核通知。本发明摈弃了单一检测方式，并且能够提高检测效率与检测准确率。

主权项：1.一种社交信息违规检测方法，其特征在于，包括以下步骤：S1、获取待检测信息，并对其进行第一信息处理，第一信息处理至少包括构建上下文、拼音转换与形式转换，分别得到待检测信息对应的上下文信息、拼音信息、标准形式信息；S2、将待检测信息以及其对应的上下文信息、拼音信息、标准形式信息分别进行预设违规检测匹配，判断是否为可疑违规内容，若是，则执行步骤S3；S3、对可疑违规内容进行第二信息处理，并判断可疑违规内容是否为违规内容，若是，则执行步骤S4；S4、获取违规内容发布者的用户特征与预设违规用户特征，并将二者进行对比，判断违规内容发布者的用户特征是否符合预设违规用户特征，若是，则执行预设违规处理方式，若否，则生成并下发待复核通知；步骤S2中，预设违规检测匹配至少包括词组匹配、正则匹配与信息特征匹配其中之一；词组匹配具体为：通过字典树判断待检测信息中是否存在敏感词，若是，再将待检测信息与第一预设表达式进行匹配，判断待检测信息是否命中第一预设表达式，若是，则为可疑违规内容，若否，则并非可疑违规内容；正则匹配具体为：通过正则匹配判断待检测信息是否命中预设校验表达式，若是，则为可疑违规内容，若否，则并非可疑违规内容；信息特征匹配具体为：获取待检测信息的发布者在指定时间段内的信息特征，并判断其是否超过预设信息特征阈值；若是，则为可疑违规内容，若否，则并非可疑违规内容；步骤S3中，第二信息处理至少包括词组排除处理、词间距判断处理、拆分处理其中一种或两种以上；词间距判断处理具体为：通过字典树判断可疑违规内容中是否存在敏感词，若是，则进一步计算敏感词的位置信息；进行后缀表达式匹配，判断是否命中第二预设表达式，以及位置信息是否满足预设词间距，若是，则为违规内容，若否，则并非违规内容。

全文数据：

权利要求：

百度查询： 厦门她趣信息技术有限公司 一种社交信息违规检测方法、系统及存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD