买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：武汉大学

摘要：本发明设计了一种面向测绘领域的小样本命名实体识别方法及设备，涉及自然语言处理领域，基于提示学习的测绘领域小样本命名实体识别模型训练方法包括：获取开源测绘领域文本数据，对测绘领域文本数据进行少量人工标注，并根据标注结果构建测绘命名实体识别数据集；对数据集通过模板和对应的提示语自动生成提示；将提示与原输入进行拼接后，输入到预训练模型进行编码得到最终输入的向量表征；通过计算总损失函数，训练相应模型，输出待测语句中词元对应的实体标签。摆脱现有测绘领域深度学习算法对大量训练数据的依赖性，通过能够在样本较少的测绘数据集中完成命名实体识别任务，并具有较高的识别精度与较好的收敛性能。

主权项：1.一种基于提示学习的测绘领域小样本命名实体识别方法，其特征在于，包括以下过程：步骤1：获取测绘领域文本数据，对所述数据进行少量人工标记，构建测绘命名实体识别数据集；步骤2：将测绘命名实体识别数据集中每个命名实体解析成待测输入语句X＝[x1,x2,...xn]，x1,x2,...xn表示每个命名实体类别；步骤3：将训练集中的用于标识命名实体类别的集合设定为L＝l1,l2,...,lL,l表示同一类别的集合，下标为序号；步骤4：利用语言模型LM搜索命名实体类别的中心词，该中心词代表每个类别中的大多数词，将该中心词作为L中每个类别的标签lf；步骤5：选取实体-标签对的同时提取包含该命名实体类别的句子，将其套入模板成“句子s，实体e是标签lf”的形式构成新输入，其中，所述“实体-标签对”指命名实体类别与对应的标签；步骤6：构造基于BERT的预训练模型，该模型将BERT网络中原有的12个transformer层生成的向量表示均赋予一个权重，再通过模型的训练进行权重值确定，最后将每一层生成的向量表示进行加权平均；步骤7：将步骤5中构造的新输入输入到基于BERT的网络模型中进行编码，得到标记表示向量；步骤8：将标记表示向量输入到基于BERT的预训练模型的条件随机场层中，该层在给定输入标记下计算输出序列的条件概率；步骤9：使用交叉熵损失最小化条件概率来训练步骤6中的预训练模型，得到候选实体类别预测值，得到识别出的命名实体。

全文数据：

权利要求：

百度查询： 武汉大学 基于提示学习的测绘领域小样本命名实体识别方法及设备