恭喜昆明理工大学高盛祥获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜昆明理工大学申请的专利融合BERT与词嵌入双重表征的汉越神经机器翻译方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN113901843B 。
龙图腾网通过国家知识产权局官网在2025-05-30发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202111042653.2,技术领域涉及:G06F40/58;该发明授权融合BERT与词嵌入双重表征的汉越神经机器翻译方法是由高盛祥;刘演;余正涛;毛存礼设计研发完成,并于2021-09-07向国家知识产权局提交的专利申请。
本融合BERT与词嵌入双重表征的汉越神经机器翻译方法在说明书摘要公布了:本发明涉及融合BERT与词嵌入双重表征的汉越神经机器翻译方法,属于自然语言处理技术领域。本发明使用预训练语言模型和词嵌入分别对源语言序列进行表示学习,通过注意力机制建立两种表征之间的联系后进行拼接操作得到双重表征向量,再经过线性变换和自注意力机制,使词嵌入表征和预训练语言模型表征完全自适应融合在一起,得到对输入文本的充分表征,以此提高神经机器翻译模型性能。本发明提出的融合BERT与词嵌入双重表征的汉越神经机器翻译方法,解决了因为越南语是低资源语言而导致汉语与越南语的神经机器翻译的性能并不理想的问题,显著提高汉越神经机器翻译模型的质量。
本发明授权融合BERT与词嵌入双重表征的汉越神经机器翻译方法在权利要求书中公布了:1.融合BERT与词嵌入双重表征的汉越神经机器翻译方法,其特征在于:所述方法包括:Step1、收集用于训练平行句对抽取模型的汉越平行语料;Step2、收集已经预训练的中文BERT预训练语言模型参数以及词典;Step3、对源语言序列分别进行BERT预训练语言模型预训练表征与词嵌入表征;Step4、使用交叉注意力机制使经过BERT预训练语言模型预训练的源语言序列表征受到词嵌入表征的约束,将经过BERT预训练语言模型训练后的源语言序列表征和词嵌入表征进行拼接融合得到融合表征作为编码器的输入;Step5、使用编码器使得融合表征中两种不同来源的表征达到深层动态交互融合;Step6、利用BERT预训练语言模型与词嵌入双重表征进行神经机器翻译模型的训练。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人昆明理工大学,其通讯地址为:650093 云南省昆明市五华区学府路253号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。