首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

多语言语音识别模型的识别及训练方法、系统和电子设备 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:上海交通大学

摘要:本发明实施例提供一种多语言语音识别模型的识别及训练方法、系统和电子设备。该方法包括:获取第k种语言的语音;将第k种语言的语音输入至多语言语音识别模型;在模型中,基于第k种语言激活第k个低阶适应模块,基于Whisper以及第k个低阶适应模块对第k种语言的语音进行前向传递处理,得到语音识别结果;当第k种语言的语音为待识别语音时,将语音识别结果确定为最终识别结果,当第k种语言的语音为训练语音时,利用语音识别结果以及预先准备的基准识别结果对Whisper以及第k个低阶适应模块进行反向传播训练。本发明实施例为将跨语言的共享信息存储在Whisper模型中,在各自的LoRA模块中捕获特定于语言的信息。训练新语言时不会影响现有语言的性能。

主权项:1.一种多语言语音识别模型的识别及训练方法,包括:获取第k种语言的语音;将所述第k种语言的语音输入至多语言语音识别模型,其中,所述多语言语音识别模型包括:用于存储跨语言共享信息的Whisper以及用于分别存储共计n个语言种类的语言信息的n个低阶适应模块,其中,1≤k≤n;在所述多语言语音识别模型中,基于所述第k种语言激活第k个低阶适应模块,基于所述Whisper以及第k个低阶适应模块对所述第k种语言的语音进行前向传递处理,得到语音识别结果;当所述第k种语言的语音为待识别语音时,将所述语音识别结果确定为最终识别结果,当所述第k种语言的语音为训练语音时,利用所述语音识别结果以及预先准备的基准识别结果对所述Whisper以及第k个低阶适应模块进行反向传播训练,以避免训练中的语种干扰。

全文数据:

权利要求:

百度查询: 上海交通大学 多语言语音识别模型的识别及训练方法、系统和电子设备

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。