买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:西北大学
摘要:本发明的含代码文本信息的重复帖子标注方法、存储介质及电子设备,保证数据标签均衡,极大减少人工标注成本,提高标注效率且平衡标签分布;经过该方法构建的数据集标签分布均衡,标注时间花费较少,数据集质量优质。
主权项:1.一种含代码文本信息的重复帖子标注方法,其特征在于,包括以下步骤:S1,采集多个原始帖子,每个原始帖子包括自然语言文本和帖子信息,所述自然语言文本包括问题标题、问题描述和用户回复,帖子信息至少包括帖子编号和帖子所属类别;S2,以XML格式存储S1获得的多个原始帖子,得到多个XML格式帖子,提取各XML格式帖子中自然语言文本中的代码文本和图片并单独保存,并将各XML格式帖子中代码文本的位置替换为代码标识符,将各XML格式帖子中图片的位置替换为图片标识符,得到多个XML标识帖子和各XML标识帖子对应的代码文本和或图片;S3,清洗S2得到的多个XML标识帖子,得到多个一次清洗后的XML标识帖子;S4,对S3得到的各一次清洗后的XML标识帖子对应的代码文本进行校验,剔除代码文本的中文字符占比超过阈值的一次清洗后的XML标识帖子,得到多个二次清洗后的XML标识帖子;S5,对S4得到的多个二次清洗后的XML标识帖子进行分词并进行词向量化,得到多组词向量,并对各组词向量求和得到多个帖子向量;随机采样一部分帖子向量作为样本集,对样本集中的每一个帖子向量与所有帖子向量逐一两两计算余弦相似度值,逐一保留除自身外余弦相似度值最高的两条并去重,得到多对匹配结果;S6,对S5得到的多对匹配结果通过标注等级进行人工标注分级,得到多对匹配分级帖子。
全文数据:
权利要求:
百度查询: 西北大学 含代码文本信息的重复帖子标注方法、存储介质及电子设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。