买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：北京师范大学

摘要：本申请公开了一种基于语言模型的古汉语文本处理方法、装置及存储介质。包括：确定待处理的第一古汉语文本以及与第一古汉语文本对应的第一指令文本，其中第一指令文本用于指示多个不同类型任务中的任意一种任务；将第一古汉语文本和第一指令文本输入至第一语言模型，其中第一语言模型具有能够处理多个不同类型任务的单一模型架构；以及利用第一语言模型，输出与第一古汉语文本和第一指令文本对应的第一处理结果。

主权项：1.一种基于语言模型的古汉语文本处理方法，其特征在于，包括：确定待处理的第一古汉语文本以及与所述第一古汉语文本对应的第一指令文本，其中所述第一指令文本用于指示多个不同类型任务中的任意一种任务，并且其中所述多个不同类型任务包括将所述第一古汉语文本翻译成现代语言文本、给所述第一古汉语文本添加标点符号、对所述第一古汉语文本中的词语进行释义以及识别所述第一古汉语文本所引用的典故；将所述第一古汉语文本和所述第一指令文本输入至第一语言模型，其中所述第一语言模型具有能够处理所述多个不同类型任务的单一模型架构；以及利用所述第一语言模型，输出与所述第一古汉语文本和所述第一指令文本对应的第一处理结果，其中所述方法还包括：构建第一样本集，其中所述第一样本集的第一样本包括第二古汉语文本、第二指令文本以及与所述第二古汉语文本和所述第二指令文本对应的第一目标结果，其中所述第二指令文本用于指示对所述第二古汉语文本执行所述多个不同类型任务中的任意一种任务；构建第二语言模型，其中所述第二语言模型为预先训练所生成的模型；以及利用所述第一样本集的第一样本，对所述第二语言模型进行训练，并生成所述第一语言模型，其中利用所述第一样本集的第一样本，对所述第二语言模型进行训练，并生成所述第一语言模型的操作，包括：将所述第一样本的第二古汉语文本和第二指令文本作为所述第二语言模型的输入信息，并且利用所述第一样本的第一目标结果对所述第二语言模型进行训练，从而生成所述第一语言模型，其中利用所述第一样本集的第一样本，对所述第二语言模型进行训练，并生成所述第一语言模型的操作，还包括：从所述第一样本集中选择m个第一样本，其中m为整数，且m大于1；分别将所述m个第一样本的输入信息输入至所述第二语言模型，从而得到相应的第二处理结果；分别确定所述m个第一样本的第二处理结果与相应的第一目标结果之间的距离；根据所述m个第一样本的距离的梯度信息，从所述m个第一样本中选择对所述第二语言模型影响较小的n个第一样本，其中n＜m，并且其中所述梯度信息的计算公式如下： 其中，xi表示所述输入信息，yi表示所述第一目标结果，f表示所述第二语言模型，fxi表示所述第二处理结果，||fxi-yi||2表示所述第二处理结果与所述第一目标结果之间的L2范数下的差距，w表示所述第二语言模型的参数；以及利用所述n个第一样本对所述第二语言模型进行训练。

全文数据：

权利要求：

百度查询： 北京师范大学 基于语言模型的古汉语文本处理方法、装置及存储介质