龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：支付宝(杭州)信息技术有限公司
摘要：本说明书一个或多个实施例提供了一种下游任务处理方法、模型的训练方法及装置。该训练方法主要采用提示微调预训练模型的方式训练下游任务模型。具体的，该训练方法以训练样本作为预训练模型的输入，利用引入的提示词符引导预训练模型分别输出共享特征和专有特征。并分别对共享特征和专有特征施加确定性监督约束的方式进行训练，以使预训练模型可以确定性地学习共享知识和专有知识。
主权项：1.一种下游任务模型的训练方法，其特征在于，所述方法包括：获取训练数据集，所述训练数据集包括至少一个下游任务对应的训练数据，所述下游任务对应的训练数据包括多个训练样本以及与各所述训练样本分别对应的真实标签；向预训练模型输入所述训练样本；基于所述训练样本在所述预训练模型中引入提示词符；通过所述提示词符引导所述预训练模型输出共享特征和所述训练样本对应的专有特征；对所述共享特征和所述专有特征进行特征融合处理，得到融合特征；基于所述融合特征，生成所述训练样本对应的预测标签；基于所述真实标签和所述预测标签，确定第一损失；基于所述共享特征和模型原始特征，确定第二损失；其中，所述模型原始特征为在对所述预训练模型训练之前，所述预训练模型基于所述训练样本对应的输出特征；基于所述第一损失和所述第二损失，训练所述预训练模型，得到适用于所述至少一个下游任务的下游任务模型。
全文数据：
权利要求：
百度查询： 支付宝(杭州)信息技术有限公司 下游任务处理方法、模型的训练方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号