申请/专利权人：北京岷德生物科技有限公司

申请日：2024-01-16

公开（公告）日：2024-03-19

公开（公告）号：CN117577140B

主分类号：G10L25/66

分类号：G10L25/66;G10L25/18;G10L25/30;A61B5/16;A61B5/00;G06V40/16;G06N3/0442;G06N3/0464;G06N3/08;G06T7/246;G06V10/764;G06V10/82;G06V20/40;G06V20/64

优先权：

专利状态码：有效-授权

法律状态：2024.03.19#授权;2024.03.08#实质审查的生效;2024.02.20#公开

摘要：本申请公开了一种面向脑瘫儿童的语音和面部表情数据处理方法及系统。本方法首先通过摄像头和麦克风来采集目标用户的视频和语音数据；然后对视频和语音数据进行预处理操作；包括识别视频中的人脸，并将检测出的人脸进行追踪及对齐进行切片；对于语音数据进行切片，并转换为对应Mel语谱图；最后将经过预处理的视频输入到3D的CNN中、音频数据对应的Mel频率谱输入到2D的CNN中使用双向注意力机制来处理视频内部和音频内部不同时间点的相关性得到目标用户的状态评分结果。本申请基于语音和面部表情数据对目标用户进行评分，从而辅助医生对目标用户的心理状态进行判断。

主权项：1.一种面向脑瘫儿童的语音和面部表情数据处理方法，其特征在于，所述方法包括：通过摄像头和麦克风来采集目标用户的视频和语音数据；对视频和语音数据进行预处理操作；具体地对视频进行预处理操作包括采用预先训练好的MTCNN模型来识别视频中的人脸，并将检测出的人脸进行追踪及对齐，并对经过人脸追踪和对齐操作后的视频进行切片；对语音数据进行预处理操作包括对于语音数据进行切片，并将切片后的音频序列转换为对应Mel语谱图；其中，语音数据每个切片的时长与视频数据每个切片的时长相同；将经过预处理的视频输入到3D的CNN中、音频数据对应的Mel频率谱输入到2D的CNN中使用双向注意力机制来处理视频内部和音频内部不同时间点的相关性得到目标用户的状态评分结果；其中，所述状态评分结果用以表征目标用户的心理状态。

全文数据：

权利要求：

百度查询： 北京岷德生物科技有限公司 面向脑瘫儿童的语音和面部表情数据处理方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD