龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：蚂蚁科技集团股份有限公司
申请日：2024-03-29
公开（公告）日：2024-07-05
公开（公告）号：CN117972436B
主分类号：G06F18/214
分类号：G06F18/214;G06F18/15;G06F21/62
优先权：
专利状态码：有效-授权
法律状态：2024.07.05#授权;2024.05.21#实质审查的生效;2024.05.03#公开
摘要：本说明书实施例公开了一种大语言模型的训练方法、训练装置、存储介质及电子设备，该训练方法包括：获取包含隐私信息的训练数据集，根据训练数据集对待训练大语言模型进行训练，以获取与训练数据集对应的第一平均梯度，并根据第一平均梯度构建噪声信息；根据预设数据量从训练数据集中确定目标训练数据集，采用目标训练数据集对待训练大语言模型进行训练，以获取与目标训练数据集对应的第二平均梯度；在目标训练数据集包含隐私信息时，将噪声信息与第二平均梯度进行叠加形成叠加梯度，并根据叠加梯度对待训练大语言模型进行参数优化；在目标训练数据集不包含隐私信息时，根据第二平均梯度对待训练大语言模型进行参数优化。
主权项：1.一种大语言模型的训练方法，所述方法包括：获取包含隐私信息的训练数据集，根据所述训练数据集对待训练大语言模型进行训练，以获取与所述训练数据集对应的第一平均梯度，并根据所述第一平均梯度构建噪声信息；其中在根据所述第一平均梯度构建噪声信息时，根据预设比例对第一平均梯度的大小进行缩小，并根据缩小后的梯度大小构建高斯噪声或椒盐噪声；根据预设数据量从所述训练数据集中确定目标训练数据集，采用所述目标训练数据集对待训练大语言模型进行训练，以获取与所述目标训练数据集对应的第二平均梯度；在所述目标训练数据集包含隐私信息时，将所述噪声信息与所述第二平均梯度进行叠加形成叠加梯度，并根据所述叠加梯度对所述待训练大语言模型进行参数优化；在所述目标训练数据集不包含隐私信息时，根据所述第二平均梯度对所述待训练大语言模型进行参数优化。
全文数据：
权利要求：
百度查询： 蚂蚁科技集团股份有限公司 大语言模型的训练方法、训练装置、存储介质及电子设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号