买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中国科学院软件研究所
摘要:本发明公开了一种基于知识图谱的大语言模型幻觉问题的自动修正方法和装置,其步骤包括:使用大语言模型抽取文本中需要校验的观点;利用少样本提示的方式提取待校验观点中的命名实体;从知识图谱中筛选与待校验观点相关的三元组;根据筛选得到的若干三元组对观点的正确性进行校验,并给出修改建议;结合所有观点的修改建议对文本中的错误表述进行修正。本发明能够利用大语言模型自动执行上述步骤,根据任意给定的知识图谱对大语言模型生成的文本进行修正。
主权项:1.一种基于知识图谱的大语言模型幻觉问题的自动修正方法,其特征在于,包括以下步骤:利用大语言模型抽取文本中需要进行正确性校验的观点,得到待校验观点;结合知识图谱中的信息判断抽取出的待校验观点的正确性,得到校验结果并给出修改建议;利用大语言模型根据校验结果及修改建议对文本中的错误表述进行修正;所述利用大语言模型抽取文本中需要进行正确性校验的观点,包括:通过少样本提示的方式使大语言模型生成有检验价值的观点,减少无用观点的生成;采用命名实体提取机制,利用少样本提示的方式提取观点中包含的命名实体;所述结合知识图谱中的信息判断抽取出的待校验观点的正确性,得到校验结果并给出修改建议,包括:利用大语言模型判断知识图谱中与观点校验相关的事实三元组;对于输入长度受限的大语言模型,使用分块的方式逐块对事实三元组进行筛选;根据筛选得到的事实三元组对观点的正确性进行判断,得到校验结果并给出相应的修改建议;所述对文本中的错误表述进行修正,包括:在得到所有观点的校验结果后,通过少样本提示的方式利用大语言模型对其中的错误表述进行细粒度的修正;所述基于知识图谱的大语言模型幻觉问题的自动修正方法的步骤都使用大语言模型自动执行,并通过迭代重复多次,确保生成的答案中的所有事实都与知识图谱中的事实一致。
全文数据:
权利要求:
百度查询: 中国科学院软件研究所 一种基于知识图谱的大语言模型幻觉问题的自动修正方法和装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。