恭喜之江实验室吴迅冬获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜之江实验室申请的专利一种模型训练方法、装置、存储介质及设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119168009B 。
龙图腾网通过国家知识产权局官网在2025-03-14发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411666002.4,技术领域涉及:G06N3/084;该发明授权一种模型训练方法、装置、存储介质及设备是由吴迅冬;高一帆设计研发完成,并于2024-11-20向国家知识产权局提交的专利申请。
本一种模型训练方法、装置、存储介质及设备在说明书摘要公布了:本说明书公开了一种模型训练方法、装置、存储介质及设备,可以通过在模型进行训练的前向传播过程中,对待训练模型的每层网络层输出的激活值进行分组融合,并可以通过对每层网络层的激活值导数掩码张量进行位压缩,从而可以显著减少模型训练的过程中对内存的占用,进而可以提升模型的训练效率并降低模型的训练成本。
本发明授权一种模型训练方法、装置、存储介质及设备在权利要求书中公布了:1.一种模型训练方法,其特征在于,包括:获取待训练模型以及训练样本数据,所述训练样本数据为文本数据、图像数据、视频数据、音频数据中的至少一种;将所述训练样本数据输入到所述待训练模型中,以针对所述待训练模型的每层网络层,根据预设的各神经元节点之间的分组关系,确定该网络层中包含的各神经元节点分组,并根据每个神经元节点分组中包含的神经元节点输出的激活值,确定各分组融合激活值,以及根据所述该网络层中包含的每个神经元节点输出的激活值,确定该网络层的激活值导数掩码张量,所述激活值导数掩码张量用于反映各神经元节点在梯度计算中的重要程度;根据所述分组融合激活值,确定预设的损失函数相对于该网络层的每个神经元节点分组的梯度,作为融合梯度;根据所述激活值导数掩码张量以及所述融合梯度,确定所述损失函数相对于该网络层的每个神经元节点的梯度,作为各目标梯度;根据所述各目标梯度对该网络层的权重参数进行调整,以得到训练后的模型,并根据所述训练后的模型进行业务执行。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人之江实验室,其通讯地址为:311121 浙江省杭州市余杭区中泰街道科创大道之江实验室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。