买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:重庆金融资产交易所有限责任公司
摘要:本发明实施例公开了一种文本相似度的确定方法及相关设备,所述方法应用于数据处理技术领域,包括:调用主题词识别模型确定出第一文本对应的至少一个第一主题词和第二文本对应的至少一个第二主题词,并获取至少一个第一主题词中各个第一主题词的第一词向量和至少一个第二主题词中各个第二主题词的第二词向量;计算各个第一词向量与各个第二词向量之间的余弦相似度、第一主题词的数量M、以及第二主题词的数量N,进而基于预设文本相似度算法对各个余弦相似度、第一主题词的数量M、以及第二主题词的数量N进行计算,确定出第一文本和第二文本之间的相似度。采用这样的方式,可以提高确定文本相似度的准确度。
主权项:1.一种文本相似度的确定方法,其特征在于,所述方法包括:首先检测第一文本和第二文本对应的字符数是否小于或者等于预设字符数阈值;若检测到所述第一文本对应的字符数小于或者等于预设字符数阈值,则触发调用主题词识别模型确定出第一文本对应的至少一个第一主题词的步骤;若检测到所述第二文本对应的字符数小于或者等于所述预设字符数阈值,则触发调用主题词识别模型确定出第二文本对应的至少一个第二主题词的步骤;获取初始主题词识别模型,所述初始主题词识别模型包括特征函数;基于预设特征函数对所述初始主题词识别模型中的所述特征函数进行调整;获取包括主题词标注的训练短文本,并根据所述训练短文本对所述特征函数调整后的初始主题词识别模型进行训练优化,得到主题词识别模型;所述初始主题词识别模型使用条件随机场算法;调用主题词识别模型确定出第一文本对应的至少一个第一主题词和第二文本对应的至少一个第二主题词;获取所述至少一个第一主题词中各个第一主题词的第一词向量和所述至少一个第二主题词中各个第二主题词的第二词向量,所述第一词向量和第二词向量包括静态词向量或者动态词向量;所述静态词向量由开源词向量数据得到,所述动态词向量由语言表示模型获得;所述语言表示模型为ELMO模型或者BERT模型;计算所述各个第一词向量与所述各个第二词向量之间的余弦相似度、所述第一主题词的数量M、以及所述第二主题词的数量N,所述M和N均为大于0的整数;基于预设文本相似度算法对各个所述余弦相似度、所述第一主题词的数量M、以及所述第二主题词的数量N进行计算,确定出所述第一文本和所述第二文本之间的相似度,所述预设文本相似度算法对应的计算方法如下列公式所示: 其中,wu为第一文本的所有被标识出的第一主题词对应的第一词向量集合,i为该第一词向量集合wu中的第一词向量;wt为第二文本的所有被标识出的第二主题词对应的第二词向量集合,j为第二词向量集合wt中的第二词向量,d为第一词向量和第二词向量之间的余弦相似度值;M和N分别为第一文本和第二文本的主题词个数,S为第一文本和第二文本之间的相似度。
全文数据:
权利要求:
百度查询: 重庆金融资产交易所有限责任公司 一种文本相似度的确定方法及相关设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。