买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:深圳市贝铂智能科技有限公司
摘要:本发明提供了一种多模态融合的语音翻译方法、系统以及设备,包括:对输入的语音信号进行音频特征提取处理,得到音频特征数据;获取与所述语音信号相关联的文本信息,对所述文本信息进行文本特征提取处理,得到文本特征数据;采用自适应权重分配融合策略,对所述音频特征数据和文本特征数据进行融合处理,得到融合特征数据;基于多级编码单元对所述融合特征数据进行编码处理,得到编码特征;其中,在所述多级编码单元中,串联的每一级编码单元分别采用不同的编码算法,并依据前一级的输出结果进行编码参数自适应调整;将所述编码特征输入至预先训练的翻译模型中进行翻译处理,得到语音翻译结果。在本发明中,提升了翻译结果的准确性。
主权项:1.一种多模态融合的语音翻译方法,其特征在于,包括以下步骤:对输入的语音信号进行音频特征提取处理,得到音频特征数据;获取与所述语音信号相关联的文本信息,对所述文本信息进行文本特征提取处理,得到文本特征数据;采用自适应权重分配融合策略,对所述音频特征数据和文本特征数据进行融合处理,得到融合特征数据;基于多级编码单元对所述融合特征数据进行编码处理,得到编码特征;其中,在所述多级编码单元中,串联的每一级编码单元分别采用不同的编码算法,并依据前一级的输出结果进行编码参数自适应调整;将所述编码特征输入至预先训练的翻译模型中进行翻译处理,得到语音翻译结果;所述获取与所述语音信号相关联的文本信息,包括:提取所述语音信号对应的实时语音转写文本,作为第一文本信息;在历史聊天记录中,检索与所述语音信号所属场景相关的文本内容,并从中筛选出与所述语音信号的语义相关的文本,作为第二文本信息;从预设的领域专业知识库中,查找与语音信号中涉及的关键词相关的文本信息,作为第三文本信息;将所述第一文本信息、第二文本信息以及第三文本信息,结合作为与所述语音信号相关联的文本信息。
全文数据:
权利要求:
百度查询: 深圳市贝铂智能科技有限公司 多模态融合的语音翻译方法、系统以及设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。