买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:华为云计算技术有限公司;中国科学技术大学
摘要:本申请公开了一种提示学习方法,该方法中,获取至少一组数据对,任意一组数据对包括第一数据和第二数据,第一数据包括第一提示和采用源语言的第一语料,第二数据包括第二提示和采用目标语言的第二语料,第一语料和第二语料组成一对平行语料;根据至少一组数据对以及预训练语言模型进行提示学习,以使得训练后的预训练语言模型能够根据训练后的第二提示执行基于目标语言的自然语言处理任务。这样,在提示学习过程中,预训练语言模型和或第二提示等参数可以根据由平行语料所构建的数据对而调整,以使得训练后的预训练语言模型和或训练后的第二提示能够对齐源语言和目标语言,缓解了跨语言迁移过程中由于语言表征差异性所带来的性能损失。
主权项:1.一种提示学习方法,其特征在于,所述方法包括:获取至少一组数据对,任意一组所述数据对包括第一数据和第二数据,所述第一数据包括第一提示和采用源语言的第一语料,所述第二数据包括第二提示和采用目标语言的第二语料,所述第一语料和所述第二语料组成一对平行语料;根据所述至少一组数据对以及预训练语言模型进行提示学习,以使得训练后的预训练语言模型能够根据训练后的第二提示执行基于所述目标语言的自然语言处理任务,所述预训练语言模型为根据采用所述源语言的训练数据和采用所述目标语言的训练数据进行预训练而得到的。
全文数据:
权利要求:
百度查询: 华为云计算技术有限公司 中国科学技术大学 一种提示学习方法以及相关设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。