Document
拖动滑块完成拼图
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于大语言模型的中药问答方法、装置、设备及介质 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

摘要:本申请公开了一种基于大语言模型的中药问答方法、装置、设备及介质,涉及医药问答领域。该方法从书籍文献、网络平台及中药数据集中获取多源中药知识数据,构建了适用不同场景的多元化的指令数据,克服了通过ChatGPTAPI收集,可能会引入非专业或不准确的信息,影响模型的性能和可靠性的缺陷,基于Baichuan2‑7B‑Chat模型进行训练,得到用于中药问答的模型,实现了从PT到SFT的流程,根据不同的适用场景设置不同的验证指标,对模型进行验证,克服了单一的或主观的评价指标,限制模型评价准确率的缺陷,本申请提高了中药问答的准确性和可靠性。

主权项:1.一种基于大语言模型的中药问答方法,其特征在于,所述基于大语言模型的中药问答方法包括:构建中药知识数据库;所述中药知识数据库包括从书籍文献、网络平台及中药数据集中获取的多源中药知识数据;根据所述中药知识数据库生成无监督数据和指令数据;所述指令数据的适用场景包括中药知识库、选择题、阅读理解、实体提取、医案诊断及中药或方剂推荐;构建Baichuan2-7B-Chat模型;所述Baichuan2-7B-Chat模型通过对Transformer解码器进行改进获得,改进方式包括:将Transformer解码器中的LayerNorm层替换为RMSNorm层,将Transformer解码器中的绝对位置编码层替换为旋转位置编码层,将Transformer解码器中的ReLu激活函数替换为SwiGLU激活函数;利用无监督数据对Baichuan2-7B-Chat模型进行无监督的预训练,获得预训练后的Baichuan2-7B-Chat模型;利用无监督数据和指令数据对预训练后的Baichuan2-7B-Chat模型进行有监督的训练,获得训练好的Baichuan2-7B-Chat模型;针对不同的适用场景设置验证指标,对训练好的Baichuan2-7B-Chat模型进行验证;利用验证通过的Baichuan2-7B-Chat模型进行中药问答。

全文数据:

权利要求:

百度查询: 浙江大学长三角智慧绿洲创新中心 一种基于大语言模型的中药问答方法、装置、设备及介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。