买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜浙江大华技术股份有限公司;浙江大学申请的专利基于蒸馏学习的学生模型优化方法、设备及可读存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119558353B 。

龙图腾网通过国家知识产权局官网在2025-05-30发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510132774.8，技术领域涉及：G06N3/045；该发明授权基于蒸馏学习的学生模型优化方法、设备及可读存储介质是由殷俊;吴飞;冯少迪设计研发完成，并于2025-02-06向国家知识产权局提交的专利申请。

本基于蒸馏学习的学生模型优化方法、设备及可读存储介质在说明书摘要公布了：本申请公开了基于蒸馏学习的学生模型优化方法、设备及可读存储介质，该方法包括：根据学生模型的各第一编码模块中每一注意力层的查询向量、键向量和值向量中的至少一个确定各第一编码模块的第一向量关系值和或任两第一编码模块之间的第二向量关系值；根据教师模型的各第二编码模块中每一注意力层的查询向量、键向量和值向量中的至少一个确定各第二编码模块的第三向量关系值和或任两第二编码模块之间的第四向量关系值；根据第一向量关系值和第三向量关系值之间的第一关系差异和或根据第二向量关系值和第四向量关系值之间的第二关系差异确定学生模型的目标损失值，并根据目标损失值优化学生模型。由此可以提高学生模型的性能。

本发明授权基于蒸馏学习的学生模型优化方法、设备及可读存储介质在权利要求书中公布了：1.一种基于蒸馏学习的学生模型优化方法，其特征在于，所述基于蒸馏学习的学生模型优化方法应用于学生模型优化装置，所述学生模型优化装置包括学生模型和教师模型，所述学生模型包括至少一个第一编码模块，每一所述第一编码模块包括至少一个第一注意力层，所述教师模型包括至少一个第二编码模块，每一所述第二编码模块包括至少一个第二注意力层，所述方法包括：将待处理数据输入所述学生模型中，得到各第一编码模块中每一第一注意力层的查询向量、键向量和值向量，所述待处理数据包括待处理图像数据和待处理文本数据；根据各第一注意力层的查询向量、键向量和值向量中的至少一个确定每一所述第一编码模块的第一向量关系值和或任两第一编码模块之间的第二向量关系值，其中，根据任两第一编码模块中一第一编码模块的每一第一注意力层的查询向量、键向量和值向量与另一第一编码模块的对应第一注意力层的查询向量、键向量和值向量之间的向量相似度，确定各第一注意力层的第二目标向量相似度；对各第一注意力层的第二目标向量相似度进行求和处理，得到对应两第一编码模块的第二向量关系值；将所述待处理数据输入所述教师模型中，得到各第二编码模块中每一第二注意力层的查询向量、键向量和值向量；根据各第二注意力层的查询向量、键向量和值向量中的至少一个确定每一所述第二编码模块的第三向量关系值和或任两第二编码模块之间的第四向量关系值；根据编码模块的属性信息确定所述学生模型中每一所述第一编码模块的第一向量关系值与所述教师模型中对应的第二编码模块的第三向量关系值之间的第一关系差异，和或，根据所述编码模块的属性信息确定所述学生模型中第二向量关系值与所述教师模型中对应的第四向量关系值之间的第二关系差异；根据所述第一关系差异和或所述第二关系差异确定所述学生模型的目标损失值；根据所述目标损失值对所述学生模型进行优化处理，得到优化后的学生模型。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大华技术股份有限公司;浙江大学，其通讯地址为：310051 浙江省杭州市滨江区滨安路1187号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。