Document
拖动滑块完成拼图
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于强化学习的动态提示词示例召回方法及系统 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:南京云创大数据科技股份有限公司

摘要:本发明属于大语言模型技术领域,公开了一种基于强化学习的动态提示词示例召回方法及系统。所述方法包括:同时构建一提示词示例选择器,以及一提示词质量评估器;引入强化学习算法以所述提示词质量评价器作为评价者对所述提示词示例选择器进行迭代训练,直至达到预期的迭代次数以得到一最优提示词示例选择器;获取生成任务以基于所述最优提示词示例选择器自示例库内进行提示词示例动态选取;其中,所述示例库内任一提示词示例包括历史上下文,以及预期输出两部分;自示例库内依次获取若干提示词示例直至所述最优提示词示例选择器输出的概率小于预设的概率阈值。本发明通过提高提示词示例选取的准确性保证了模型输出的合理性。

主权项:1.一种基于强化学习的动态提示词示例召回方法,其特征在于,包括:同时构建一提示词示例选择器,以及一提示词质量评估器;其中,所述提示词示例选择器为一神经网络,对应的表达式为:;其中,SPi,Ei+1表示当存在第i次获取的提示词Pi时,是否继续选择第i+1个提示词示例Ei+1加入示例集合的概率,h0为继续选择第i+1个提示词示例Ei+1的概率,h1为不继续选择第i+1个提示词示例Ei+1的概率;其中,h0+h1=1;所述提示词质量评价器为一神经网络,对应的表达式为:;其中,|DData|为数据集DData内的数据数量,LLMPi为第i次获取的提示词Pi对应的大语言模型的实际输出,Yi为第i次获取的提示词Pi对应的大语言模型的预期输出,LLLMPi,Yi用于衡量大模型的实际输出和预期输出是否相匹配,若匹配则LLLMPi,Yi的取值为1,若不匹配则LLLMPi,Yi的取值为0;引入强化学习算法以所述提示词质量评价器作为评价者对所述提示词示例选择器进行迭代训练,直至达到预期的迭代次数以得到一最优提示词示例选择器;获取生成任务以基于所述最优提示词示例选择器自示例库内进行提示词示例动态选取;其中,所述示例库内任一提示词示例包括历史上下文,以及预期输出两部分;自示例库内依次获取若干提示词示例直至所述最优提示词示例选择器输出的概率小于预设的概率阈值。

全文数据:

权利要求:

百度查询: 南京云创大数据科技股份有限公司 一种基于强化学习的动态提示词示例召回方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。