买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：昆明理工大学

摘要：本发明涉及自然语言处理领域，提供一种分层级联的嵌套实体识别模型及其构建方法、存储介质，该方法包括：根据预设的实体类别和嵌套层级数对样本语句进行分层实体标注；将样本语句的分层实体标注结果按照BIESO标注模式分别对每一实体层进行序列标注；将序列标注结果作为样本输入数据输入ERNIE3.0预训练模型进行预训练，获得与样本语句对应的动态词向量；采用外层实体识别模型对所述动态词向量进行学习训练，获得样本语句中的外层实体，并从中识别出嵌套有内层实体的外层实体；根据外层实体所属实体类别将外层实体输入到与所属实体类别对应的内层实体识别模型进行学习训练，获得外层实体中第二层实体。本发明大大提高了嵌套实体识别的准确性和效率。

主权项：1.一种分层级联的嵌套实体识别模型的构建方法，其特征在于，所述方法包括：根据预设的实体类别和嵌套层级数对样本语句进行分层实体标注；将样本语句的分层实体标注结果按照BIESO标注模式分别对每一实体层进行序列标注；将序列标注结果作为样本输入数据输入ERNIE3.0预训练模型进行预训练，获得与样本语句对应的动态词向量；采用预设的外层实体识别模型对所述动态词向量进行学习训练，获得样本语句中外层实体的第一识别结果，包括：所述外层实体识别模型包括第一BiGRU模型和第一CRF模型，采用第一BiGRU模型对动态词向量进行深层次特征的提取，以获得突出样本语句的上下文语义关联信息的第二动态词向量；使用预设的自然语言处理工具包对样本语句进行词性分析和句法分析，以确定样本语句中包含的词语以及词语之间的依存关系；采用第一CRF模型对第二动态词向量以及样本语句中的词语、词语之间的依存关系进行学习训练，以识别出样本语句中的名词短语，得到样本语句中外层实体的第一识别结果；从第一识别结果中识别嵌套有内层实体的外层实体，包括：使用预设的自然语言处理工具对从样本语句中识别出的外层实体进行词性分析和句法分析，以确定外层实体中包含的词语以及词语之间的依存关系；将外层实体中包含的每个词语作为子串，从样本语句对应的动态词向量中提取各个子串的词向量，并计算子串之间的语义相似度，语义相似度计算公式为： 其中，、分别表示两个子串的词向量，表示词向量与词向量的点积，‖‖和‖‖表示对应词向量的模；根据外层实体中包含的子串之间的语义相似度以及外层实体中包含的词语以及词语之间的依存关系综合判断内部是否嵌套有内层实体；根据外层实体所属实体类别将外层实体输入到预设的与所属实体类别对应的内层实体识别模型进行学习训练，获得外层实体中第二层实体的第二识别结果，包括：内层实体识别模型由4个模型组成，包含地名实体类别对应的内层实体识别模型、组织实体类别对应的内层实体识别模型、姓名实体类别对应的内层实体识别模型以及职务实体类别对应的内层实体识别模型；每一类别的内层实体识别模型包括第二BiGRU模型和第二CRF模型，采用第二BiGRU模型对外层实体进行深层次特征的提取，以获得突出样本语句的上下文语义关联信息的第三动态词向量；获取与外层实体所属实体类别对应的预设的实体嵌套规则，所述实体嵌套规则采用正则表达式方式对相应实体类别的内层实体划分模式进行表示；采用第二CRF模型对第三动态词向量以及当前外层实体对应的实体嵌套规则进行学习训练，以识别出外层实体中的第二层实体，得到外层实体中第二层实体的第二识别结果。

全文数据：

权利要求：

百度查询： 昆明理工大学 分层级联的嵌套实体识别模型及其构建方法、存储介质