买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜鼎富智能科技有限公司申请的专利一种自然语言处理模型的训练方法和装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114896371B 。

龙图腾网通过国家知识产权局官网在2025-05-30发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210594190.9，技术领域涉及：G06F16/334；该发明授权一种自然语言处理模型的训练方法和装置是由刘小康;李健铨;赵彦勇;胡加明设计研发完成，并于2022-05-27向国家知识产权局提交的专利申请。

本一种自然语言处理模型的训练方法和装置在说明书摘要公布了：本申请提供了一种自然语言处理模型的训练方法和装置，该方法在采用了自注意力机制的预训练语言模型的基础上，通过融合多个自然语言处理任务的提示矩阵来更新其中的单个自然语言处理任务的提示矩阵，然后将自然语言处理任务的训练样本数据和更新后的提示矩阵输入该模型，来训练更新后的提示矩阵。该方法通过将多个自然语言处理任务联合学习，进行了隐式的数据增强，提升了模型的表示能力，由于自然语言处理任务之间具有递进关系或者相似关系，能够通过多个任务的提示矩阵的联合学习来提升提示调整方法的效果。

本发明授权一种自然语言处理模型的训练方法和装置在权利要求书中公布了：1.一种自然语言处理模型的训练方法，其特征在于，包括：获取预训练语言模型，所述预训练语言模型的第一层为采用自注意力机制的层结构；确定第一任务在第一层对应的第一提示矩阵、第二任务在第一层对应的第二提示矩阵，所述第一提示矩阵和所述第二提示矩阵为用作连续提示的可学习向量矩阵，所述第一任务和所述第二任务属于自然语言处理任务；初始化与所述第二提示矩阵对应的第一权重矩阵，所述第一权重矩阵是基于所述第一任务的训练样本数据和所述第二任务的训练样本数据的可学习的矩阵；确定第一激活函数以及与所述第二提示矩阵对应的第一偏置矩阵；将所述第一权重矩阵、所述第二提示矩阵、所述第一偏置矩阵作为所述第一激活函数的输入，将所述第一激活函数的输出确定为第一层的第一系数矩阵；获取所述第一系数矩阵与所述第二提示矩阵的乘积；将所述乘积与所述第一提示矩阵相加，得到更新后的第一提示矩阵；根据所述第一任务的训练样本数据、更新后的所述第一提示矩阵，训练所述更新后的所述第一提示矩阵，其中，所述第一任务在第一层对应的自注意力机制运算的输入包括第一拼接向量矩阵，所述第一拼接向量矩阵由第一层的第一向量矩阵和所述更新后的所述第一提示矩阵拼接得到，所述第一向量矩阵为与所述第一任务对应的键向量矩阵或值向量矩阵。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人鼎富智能科技有限公司，其通讯地址为：230000 安徽省合肥市高新区习友路3333号A1楼19层-B区；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。