买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:天津大学
摘要:本发明公开了一种无监督神经机器翻译的语码转换词汇交叠增强方法,包括词典生成、过滤和文本语码转换三个处理阶段,步骤1、词典生成:选取最相似的词汇,生成初始词典Vinit;步骤2、过滤初始词典Vinit中存在的噪声;步骤3、文本语码转换:利用高质量最终词典模型Vfiltered对文本进行语码转换,即将源语言端的词完全替换为最终词典模型Vfiltered中相对应的目标语言端的词,在之后的无监督翻译模型训练,使用这种文本语码转换之后的语料。与现有技术相比,本发明能够缓解无监督翻译中,远距离语言对没有共享词汇的缺点,提高两种语言的相似性,从而提高无监督翻译模型的性能。
主权项:1.一种无监督神经机器翻译的语码转换词汇交叠增强方法,其特征在于,包括词典生成、过滤和文本语码转换三个处理阶段,该方法具体包括以下步骤:步骤1、词典生成:使用Vecmap工具,对基于fastText训练得到的单语词向量进行映射,将两种语言的向量空间映射到同一空间;接下来,利用CSLS距离度量方法,计算不同语言词汇之间的相似度,选取最相似的词汇,生成初始词典Vinit;步骤2、过滤初始词典Vinit中存在的噪声;所述过滤采用以下两种原则的结合:步骤2.1、阈值过滤原则:基于超参数τ进行阈值过滤,得到过滤词典模型Vthres,表示如下:Vthres={ws,wt|CSLSws,wtτ,ws,wt∈Vinit其中,wt表示目标端词汇,ws表示源端词汇;根据CSLS的相似性度量,确定词典中词典的质量;超参数τ值越大,词典中符合要求的词对数量越少,同时词典的准确度也越高;步骤2.2、最优相互匹配原则:在生成两种语言的初始词典Vinit及过滤词典vthres的过程中,词典模型是独立建立,因而获得两个翻译方向相反的词典模型,最优相互匹配原则将结合两个词典模型中的词对,仅保留那些同时在两个词典中存在的词对齐结果;步骤3、文本语码转换:利用高质量最终词典模型Vfiltered对文本进行语码转换,即将源语言端的词完全替换为最终词典模型Vfiltered中相对应的目标语言端的词,在之后的无监督翻译模型训练,使用这种文本语码转换之后的语料。
全文数据:
权利要求:
百度查询: 天津大学 一种无监督神经机器翻译的语码转换词汇交叠增强方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。