Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 恭喜亚信科技(中国)有限公司肖韧获国家专利权

恭喜亚信科技(中国)有限公司肖韧获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网恭喜亚信科技(中国)有限公司申请的专利用于文本纠错的大语言模型的训练、纠错方法及相关装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119494000B

龙图腾网通过国家知识产权局官网在2025-04-11发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510070331.0,技术领域涉及:G06F18/214;该发明授权用于文本纠错的大语言模型的训练、纠错方法及相关装置是由肖韧;杨秀武;叶晓舟;欧阳晔设计研发完成,并于2025-01-16向国家知识产权局提交的专利申请。

用于文本纠错的大语言模型的训练、纠错方法及相关装置在说明书摘要公布了:本申请公开了用于文本纠错的大语言模型的训练、纠错方法及相关装置,涉及文本纠错领域,包括:获取错误正确句子对集合,错误正确句子对集合包括多个子集合,每个子集合包括一个错误文本和对应的至少一个正确文本,不同子集合内的错误文本不同;针对每个子集合包含的错误文本和对应的每个正确文本,为该错误文本和该正确文本分别标注正向纠错偏好标签和负向纠错偏好标签,得到第一训练语料;基于第一训练语料,采用预设的联合损失对初始大语言模型进行偏好调优训练,得到用于文本纠错的大语言模型。本申请基于错误文本及对应的每个正确文本均生成训练语料,避免了浪费正确文本,本申请还能够缓解模型过拟合,提高了模型泛化性能及纠错的准确性。

本发明授权用于文本纠错的大语言模型的训练、纠错方法及相关装置在权利要求书中公布了:1.一种用于文本纠错的大语言模型的训练方法,其特征在于,包括:获取错误正确句子对集合,所述错误正确句子对集合包括多个子集合,每个子集合包括一个错误文本和对应的至少一个正确文本,不同子集合内的错误文本不同;针对所述每个子集合包含的错误文本和对应的每个正确文本,为该错误文本和该正确文本分别标注正向纠错偏好标签和负向纠错偏好标签,以得到第一训练语料,其中,所述正向纠错偏好标签为该正确文本的标签,所述负向纠错偏好标签为该错误文本的标签;基于所述第一训练语料,采用预设的联合损失对初始大语言模型进行偏好调优训练,得到用于文本纠错的大语言模型,其中,所述预设的联合损失由监督损失和偏好损失组成,所述监督损失用于衡量所述初始大语言模型的第一输出与所述正向纠错偏好标签之间的差异,所述偏好损失用于衡量针对所述正向纠错偏好标签和所述负向纠错偏好标签而言,所述初始大语言模型更倾向于选择的标签;所述基于所述第一训练语料,采用预设的联合损失对初始大语言模型进行偏好调优训练,得到用于文本纠错的大语言模型,包括:针对所述每个子集合包含的错误文本和对应的每个正确文本,为该错误文本和该正确文本分别标注正向验证偏好标签和负向验证偏好标签,以得到第二训练语料,其中,所述正向验证偏好标签为表征对应文本是否存在错误的正确判别结果的标签,所述负向验证偏好标签为表征对应文本是否存在错误的错误判别结果的标签;基于所述第一训练语料和所述第二训练语料,采用预设的联合损失对所述初始大语言模型进行偏好调优训练,得到所述用于文本纠错的大语言模型;其中,所述监督损失还用于衡量所述初始大语言模型的第二输出与所述正向验证偏好标签之间的差异,所述偏好损失还用于衡量针对所述正向验证偏好标签和所述负向验证偏好标签而言,所述初始大语言模型更倾向于选择的标签。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人亚信科技(中国)有限公司,其通讯地址为:100193 北京市海淀区西北旺东路10号院东区19号楼1层101;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。