申请/专利权人：北京智能工场科技有限公司

申请日：2020-12-28

公开（公告）日：2024-03-26

公开（公告）号：CN112579744B

主分类号：G06F16/33

分类号：G06F16/33;G06F16/35;G06F40/279;G06F40/30;G16H20/70;G16H50/30

优先权：

专利状态码：有效-授权

法律状态：2024.03.26#授权;2021.04.16#实质审查的生效;2021.03.30#公开

摘要：本发明公开了一种在线心理咨询中风险控制的方法，包括本地对话交互设备1、服务器端模块2、远程在线咨询单元3、心理状态和症状对应库4和报警模块5；所述本地对话交互设备1包括本地处理设备6、音频传感设备7、视频传感设备8、自动方言选择开关9、敏感词和语音库10、音频输出模块11和视频传输模块12；其中，所述本地对话交互设备1和服务器端模块2通过通信信号连接，所述服务器端模块2分别和远程在线咨询单元3、心理状态和症状对应库4和报警模块5通信信号连接；本发明对所述音频和视频进行对比分析，然后分别进行对应的安全检测过滤，并对特殊的数据进行人工干预，以免意外发生。同时，利用方言识别方式，更好地进行智能语音识别，从而提升本申请的咨询的准确性。

主权项：1.一种在线心理咨询中风险控制的方法，利用在线心理咨询中风险控制系统，所述在线心理咨询中风险控制系统包括本地对话交互设备1、服务器端模块2、远程在线咨询单元3、心理状态和症状对应库4和报警模块5；所述本地对话交互设备1包括本地处理设备6、音频传感设备7、视频传感设备8、自动方言选择开关9、敏感词和语音库10、音频输出模块11和视频传输模块12；其中，所述本地对话交互设备1和服务器端模块2通过通信信号连接，所述服务器端模块2分别和远程在线咨询单元3、心理状态和症状对应库4和报警模块5通信信号连接；所述本地处理设备6分别和所述音频传感设备7、所述视频传感设备8、所述自动方言选择开关9、所述敏感词和语音库10、所音频输出模块11和所述视频传输模块12通信连接；咨询人员需要进行心理咨询和引导时，执行如下步骤：S1.心理咨询者通过手动方式选择方言识别模式，实现本地处理设备自动调整到识别某地的方言；同时，也可以通过自动方言选择开关进行识别，并在进行方言识别不正确的时候，通过手动方式选择合适的方言模式；S2.本地的音频传感设备2和视频传感设备3获取音频和视频的信息，所述本地处理设备在线信息数据获取与拆分以及相关处理，分别获取语音、图像、文本相关信息，其中语音信息会通过NLP自然语言处理进行相关音频转文字操作，转换之后的文本与聊天相关检测方式相同；S101.进行在线活动数据读取，收集在线服务过程中产生的相关视频音频及文字数据；S102.对数据进行相关分类，所述本地处理设备6利用敏感词和语音库10中的存储的敏感词和语音和所述音频和视频进行对比分析，然后分别进行对应的安全检测过滤；S103.对数据的结果进行分析并进行相关警告反馈；S104.对特殊的数据进行人工干预，以免意外发生；S2.拆分并处理后的数据进行相关安全监测，并记录每句话对应情绪评分；S201在线数据流实时读取，并将数据进行分类，分别分为音频数据、文字数据、视频数据；S202针对音频数据，首先进行VAD处理，将音频进行合理切割，去除静音部分，去除静音后的音频数据将会时长变短，因为静音部分会被剔除；剔除静音后的音频再通过ASR转为对应的文字数据；S203音频数据需要进行关键帧提取；S204针对文字数据，需要分别同时进行两个监测，一个是文字风险监测，一个是情绪监控；S205针对图片数据，进行图片风险监测；S206情绪监测则是通过相关模型进行心情得分积分计算，记录相关分值，并且将当前情绪得分和时间轴进行关联；S207文字风险监测则是将音频数据转化后的文字、弹幕文字、以及聊天文字通过NLP自然语言处理进行语义识别，区分文字内容中是否包含违规信息；S208图片风险监测则是对图片内容进行鉴别，通过分析图片中是否包含非法或不健康内容进行风险监测；S209记录情绪走势，就是根据情绪监测得到的不同情绪或整体情绪的情绪得分进行情绪数据分析，如果用户情绪持续下降或者一直处于低谷，则当前用户情绪就处于很危险的状态，需要立即对当前实施服务进行接手管制措施，采取快速有效的疏导手段对问题用户进行正确的疏导；S210验证监测是否通过就是根据之前得到的情绪走势、文字风险监测以及图片风险监测进行综合评估分析去判断当前监测是否通过；S211如果不通过，则根据严重程度进行相关预警或相关人工干预，以及对无辜用户进行正确的开通疏导，及时挽回相关损失，防止悲剧发生，提高用户体验，拉黑或追究相关人员责任；S212如果监测通过，则说明当前在线服务状态正常，当前服务可以正常进行下去；S3.首先将S2中安全监测结果中疑似数据进行上报并告警，然后对相关情绪频分进行分析，当情绪走势持续低落并达到相关阈值后，进行上报并告警，并进行相关人工干预。

全文数据：

权利要求：

百度查询： 北京智能工场科技有限公司 一种在线心理咨询中风险控制的方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD