买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中国人民解放军战略支援部队信息工程大学;郑州信大先进技术研究院
摘要:本发明提供一种基于任务的焦点损失提升多语言元学习语音识别方法。该方法基于任务的焦点损失改进多语言元学习对任务不平衡的忽略,基于每个任务的查询损失引入了难任务调节器,引导模型更加关注难任务,并且为了充分利用难任务的数据,同时使用支持集梯度与查询集梯度来更新元参数。此外,本发明还在样本层面解释了难任务调节器的意义,经过公式推导,发现它与任务内样本的预测概率乘积成反相关。通过使用本发明方法,可以使模型学习到的初始化更加均衡,更加充分地利用了所有源语言的知识,从而能够有效的对目标语言进行泛化。
主权项:1.基于任务的焦点损失提升多语言元学习语音识别方法,其特征在于,所述方法采用端到端的语音识别网络架构,具体包括:步骤1:初始化语音识别模型fθ,输入原始语音特征序列x1,x2,...,xT;步骤2:针对从多语言数据集中抽取的任务Ti,将所述任务Ti分为支持集和查询集表示第i种语言数据;步骤3:计算任务Ti的ASR损失,使用梯度下降得到在支持集上更新后的参数θi;步骤4:使用在支持集上更新后的参数θi在查询集上计算查询损失步骤5:根据任务Ti的查询损失计算得到任务Ti的难任务调节器MTFLθ,所述难任务调节器MTFLθ用于表示任务Ti的学习难度等级;其中,查询损失越大,则对应的难任务调节器MTFLθ越大;步骤6:重复N次步骤2至步骤5,计算得到N个任务对应的查询损失和难任务调节器;步骤7:基于所有N个任务对应的查询损失和难任务调节器计算得到基于任务的焦点损失LTFL;步骤8:使用所述焦点损失LTFL更新语音识别模型fθ的元参数θ;步骤9:重复步骤2至步骤8,直至更新后的语音识别模型fθ满足给定要求。
全文数据:
权利要求:
百度查询: 中国人民解放军战略支援部队信息工程大学 郑州信大先进技术研究院 基于任务的焦点损失提升多语言元学习语音识别方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。