买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：北京理工大学

摘要：本发明涉及一种基于多跳语法感知的事件表征提取方法，属于计算机自然语言处理技术领域。本方法利用文本内的多跳语法关系建模表征，利用全局语法图内的语法关系图结构抑制无关信息引入，并通过对语法邻接子图进行独立建模方式，获取不同语法距离约束下的有效信息。通过多跳子图聚合和噪声信息过滤方式实现语法信息的汇总并得到多跳语法感知信息。最终将多跳语法感知信息与基于序列结构的语义感知信息结合后，得到质量更高、更能反映事件信息的事件表征。本方法使多义词在初始化阶段就能够被区分，减少了模型编码对于训练集的依赖，扩充了有效信息来源，保证了机器理解过程中信息有效性、可靠性和充分性，增强了对于事件文本的理解。

主权项：1.一种基于多跳语法感知的事件表征提取方法，其特征在于，包括以下步骤：步骤1：对事件的文本表征进行编码；步骤2：基于编码结果，使用多跳语法感知提取语法感知表征；步骤2.1：首先获取句子中各单词间的语法依存关系，并基于语法依存关系构造一阶的语法邻接矩阵；之后，将一阶邻接矩阵扩充为全局邻接矩阵，矩阵中的数值代表两个单词节点间在语法图上的最短距离；步骤2.2：将单词初始表征通过线性变换转化为图节点表征，并基于上述全局邻接矩阵，直接获取多个多跳邻接子图；基于图节点表征和各邻接子图，分别获取不同语法邻域内的图注意力关系，用以反映对应邻接情形下的单词关系，使表征能捕获充分的语法信息；步骤2.3：对上述语法邻接子图的信息进行聚合；首先设计自学习权重对各语法邻接子图的信息进行加权，同时引入单词节点共享的门控机制进行噪声过滤，完成语法信息聚合过程，得到多跳语法关系矩阵；步骤2.4：引入基于全局语法依存图距离的注意力偏置，增强语法图中邻近单词间的关系强度；利用经过上述处理后的多跳语法关系矩阵和图节点表征，得到多跳语法表征；步骤2.5：将多跳语法处理过程扩充为多头注意力情形，得到多个多跳语法表征；将它们进行融合和标准化处理后，得到最终的多跳语法感知表征作为输出；步骤3：基于序列结构的语义感知来提取语义感知表征；步骤4：获取语法和语义融合表征；将获取的多跳语法感知表征和语义感知表征进行拼接，并利用序列注意力机制对事件文本中的各单词重要性进行加权，得到事件的语法和语义融合表征；步骤5：获取事件预测结果；步骤6：训练神经网络，使用交叉熵作为损失函数计算损失值；预先设置迭代次数，如果迭代次数满足设置次数，或验证集上的预测准确率发生下降，则训练流程结束。

全文数据：

权利要求：

百度查询： 北京理工大学 一种基于多跳语法感知的事件表征提取方法