买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：安徽省立医院(中国科学技术大学附属第一医院)

摘要：本发明涉及医疗问答技术领域，公开了一种基于记忆及强化学习优化的医疗大模型问答方法，包括：使用记忆插件对结构化的患者病历文本进行编码，得到记录患者病历关键信息的记忆向量；将用于问题文本输入到医疗大模型，得到患者问题编码特征；使用交互模块实现记忆向量与患者问题编码特征的交互，得到增强的患者问题编码特征；使用医疗大模型处理，得到个性化答案；将个性化答案与人工标注答案比较，使用交叉熵损失函数得到损失；基于损失，通过反向传播以及梯度下降算法，更新医疗问答模型中的医疗大模型、记忆插件和交互模块的可训练的参数，实现医疗问答模型的训练；本发明引入了患者病历信息，以解决难以生成个性化答案的问题。

主权项：1.一种基于记忆及强化学习优化的医疗大模型问答方法，其特征在于，采用的医疗问答模型包括医疗大模型、记忆插件、交互模块；具体包括以下步骤：步骤一，使用记忆插件对结构化的患者病历文本进行编码，得到M个记录患者病历关键信息的记忆向量；步骤二，将用于训练的患者问题文本输入到由L层的Transformer解码器构成的医疗大模型，得到第层Transformer解码器输出的患者问题编码特征，其中；步骤三，使用交互模块实现记忆向量与患者问题编码特征的交互，得到增强的患者问题编码特征；步骤四，使用医疗大模型剩下的层Transformer解码器处理，采用标准的Transformer解码过程，得到针对患者问题文本的个性化答案；步骤五，将个性化答案与人工标注答案比较，使用交叉熵损失函数，得到损失；步骤六，基于损失，通过反向传播以及梯度下降算法，更新医疗问答模型中的医疗大模型、记忆插件和交互模块的可训练的参数，实现对医疗问答模型的训练；步骤七，将患者病历文本和实际的患者问题文本输入到完成训练的医疗问答模型，输出个性化答案；所述记忆插件包括一个标准的多层Transformer编码器，以及标准的卷积神经网络；步骤一具体包括以下步骤：S11，使用标准的多层Transformer编码器，将结构化的患者病历文本编码为病历表征： ； 表示Transformer编码器；S12，使用标准的卷积神经网络对病历表征进行编码，并将结果经过最大池化层，得到M个记录患者病历关键信息的记忆向量： ； 表示卷积神经网络，表示最大池化层；步骤三中，所述使用交互模块实现记忆向量与患者问题编码特征的交互，得到增强的患者问题编码特征，具体包括以下步骤：S31，使用全连接层将患者问题编码特征映射为查询表征，使用两个不同的全连接层将M个记录患者病历关键信息的记忆向量分别映射为键表征以及值表征；S32，使用查询表征和第m个键表征计算对应的权重，对第m个值表征进行加权，，从而判定值表征对应的患者病历信息对回答问题的贡献大小； ；S33，对每个m的取值重复步骤S32，得到所有m的取值所对应的权重；S34，将权重应用于对应的值表征上进行加权平均，得到记忆值向量； ；S35，将记忆值向量与患者问题编码特征相加，得到增强的患者问题编码特征。

全文数据：

权利要求：

百度查询： 安徽省立医院(中国科学技术大学附属第一医院) 基于记忆及强化学习优化的医疗大模型问答方法