买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜航天信息股份有限公司申请的专利一种生成预训练词向量的方法及设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114648020B 。

龙图腾网通过国家知识产权局官网在2025-02-18发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202011507741.0，技术领域涉及：G06F40/284；该发明授权一种生成预训练词向量的方法及设备是由舒晓波;刘振宇;王志刚;林文辉;李瑞祥;张朝霞设计研发完成，并于2020-12-18向国家知识产权局提交的专利申请。

本一种生成预训练词向量的方法及设备在说明书摘要公布了：本发明公开了一种生成预训练词向量的方法及设备，用于通过预训练词向量表达出词语中的语义解释信息。该方法包括：根据预先构建的定义关系图中有连接关系的节点之间的权重，对所述定义关系图中各个节点对应的词语进行概率抽样确定词序列，其中，所述定义关系图包含多个节点，每个节点对应一个词语，所述节点之间的连接关系用于表征对应的词语之间有语义解释关系，所述权重用于表征具有语义解释关系的词语之间的语义相关程度，所述词序列中相邻词语之间存在语义解释关系；针对所述词序列中的任一词语，通过所述任一词语的上文单词和下文单词，对所述词语的初始词向量进行调整，得到所述词语的预训练词向量。

本发明授权一种生成预训练词向量的方法及设备在权利要求书中公布了：1.一种生成预训练词向量的方法，其特征在于，该方法包括：根据预先构建的定义关系图中有连接关系的节点之间的权重，对所述定义关系图中各个节点对应的词语进行概率抽样确定词序列，其中，所述定义关系图包含多个节点，每个节点对应一个词语，所述节点之间的连接关系用于表征对应的词语之间有语义解释关系，所述权重用于表征具有语义解释关系的词语之间的语义相关程度，所述词序列中相邻词语之间存在语义解释关系；通过如下方式构建定义关系图，包括：建立词典中的词语与节点的一一对应关系；根据所述词典中的词语以及对所述词语进行解释的词语，确定具有语义解释关系的词语；将所述具有语义解释关系的词语对应的节点进行连接，构建定义关系图；针对所述词序列中的任一词语，通过所述任一词语的上文单词和下文单词，对所述词语的初始词向量进行调整，得到所述词语的预训练词向量，其中所述上文单词是指所述词序列中位于所述任一词语之前的预设数量个单词，所述下文单词是指所述词序列中位于所述任一词语之后的预设数量个单词。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人航天信息股份有限公司，其通讯地址为：100195 北京市海淀区杏石口路甲18号航天信息园；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。