申请/专利权人:南京硅基智能科技有限公司
申请日:2023-12-28
公开(公告)日:2024-04-23
公开(公告)号:CN117476027B
主分类号:G10L21/013
分类号:G10L21/013;G10L25/27;G10L25/03
优先权:
专利状态码:有效-授权
法律状态:2024.04.23#授权;2024.02.20#实质审查的生效;2024.01.30#公开
摘要:本申请实施例提供了一种语音转换方法及装置、存储介质、电子装置,所述方法包括:获取待转换的原始语音与目标说话人的目标语音样本;通过音频特征编码模块识别所述目标语音样本的风格类别,并根据所述目标语音样本的风格类别提取所述目标语音样本的目标音频特征;通过风格特征编码模块获取所述目标语音样本的风格特征;将所述原始语音的原始音频特征、所述目标语音样本的目标音频特征和所述目标语音样本的风格特征进行融合映射得到联合编码特征;对所述联合编码特征进行标准流化操作后解码,得到与所述目标说话人的说话风格对应的目标语音特征,并基于所述目标语音特征对所述原始语音进行转换,得到目标语音。
主权项:1.一种语音转换方法,其特征在于,包括:获取待转换的原始语音与目标说话人的目标语音样本;通过音频特征编码模块识别所述目标语音样本的风格类别,并根据所述目标语音样本的风格类别提取所述目标语音样本的目标音频特征;其中,所述目标音频特征包含所述目标语音样本的文本特征、韵律特征和音色特征;通过所述音频特征编码模块提取所述原始语音的原始音频特征,其中,所述原始音频特征包含所述原始语音的文本特征、韵律特征和音色特征;通过风格特征编码模块获取所述目标语音样本的第一风格特征,并根据所述第一风格特征确定所述目标语音样本的第二风格特征;其中,所述第一风格特征用于指示所述目标语音样本的静态声音特性,所述第二风格特征用于指示在预设时长内对所述第一风格特征的特征偏置量与增益量的预测值;将所述原始语音的原始音频特征、所述目标语音样本的目标音频特征和所述目标语音样本的第二风格特征进行融合映射得到联合编码特征;对所述联合编码特征进行标准流化操作后解码,得到与所述目标说话人的说话风格对应的目标语音特征,并基于所述目标语音特征对所述原始语音进行转换,得到目标语音;其中,在通过音频特征编码模块提取所述原始语音的原始音频特征之前,所述方法还包括:使用第一训练样本训练第一聚类模型,其中,所述第一训练样本包括多个说话人的语音样本,且多个说话人的语音样本对应不同的风格类型;所述第一聚类模型用于对所述第一训练样本进行聚类,并根据聚类结果确定所述第一训练样本对应的类别标签;使用第二训练样本训练第二聚类模型,其中,所述第二训练样本包括多个说话人的语音样本,且多个说话人的语音样本对应不同的风格类型;所述第二聚类模型用于对所述第二训练样本进行聚类,并根据聚类结果确定所述第二训练样本对应的类别标签;所述第一聚类模型和所述第二聚类模型采用不同结构的特征提取器,以从不同的维度进行聚类;将第三训练样本同时输入训练后的所述第一聚类模型、训练后的所述第二聚类模型以及初始音频特征编码模块,其中,所述第三训练样本包含多个说话人的语音样本;根据所述初始音频特征编码模块的损失函数训练所述初始音频特征编码模块,同时根据所述第一聚类模型和所述第二聚类模型输出的真实类别标签和所述初始音频特征编码模块输出的预测类别标签,训练所述初始音频特征编码模块至收敛,得到所述音频特征编码模块,其中,所述音频特征编码模块用于根据语音的风格类型进行音频特征的提取。
全文数据:
权利要求:
百度查询: 南京硅基智能科技有限公司 语音转换方法及装置、存储介质、电子装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。