买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜浙江大学申请的专利一种面向智能安防的视觉深度模型知识重组方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114330554B 。

龙图腾网通过国家知识产权局官网在2025-04-08发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111639661.5，技术领域涉及：G06V40/10；该发明授权一种面向智能安防的视觉深度模型知识重组方法是由宋明黎;谢东霖;余若男;方共凡;宋杰;冯尊磊;高艺;董玮设计研发完成，并于2021-12-29向国家知识产权局提交的专利申请。

本一种面向智能安防的视觉深度模型知识重组方法在说明书摘要公布了：一种面向智能安防的视觉深度模型知识重组方法，首先，收集安防边缘测的视觉数据，明确模型任务，收集数据进行标注，训练目标任务模型。然后，利用归因图计算目标模型和不同预训练模型之间的可迁移分数，将归一化的可迁移分数作为模型选择的概率，可放回地采样形成模型集合；在联邦学习范式的基础上，将目标模型分发到不同的节点，利用表征蒸馏迁移预训练模型的特征提取能力，在目标模型学习和迁移完成后，通过平均的方式在中心节点进行知识重组，重组过后的模型再次分发到选择的模型节点进一步迭代。最后，再利用目标数据集进行微调目标模型，从而学习得到一个在智能安防领域的目标任务上表现良好的视觉深度模型，并且保护了数据隐私和模型隐私。

本发明授权一种面向智能安防的视觉深度模型知识重组方法在权利要求书中公布了：1.一种面向智能安防的视觉深度模型知识重组方法，包含如下步骤：步骤1：收集与训练智能安防数据；首先收集安防边缘测的视觉数据，明确具体的模型任务，为收集的小部分数据进行标注标注后的数据作为目标任务数据集DT，其中包含了M个数据样本以及标签；由于安防设备所处的环境以及昂贵的标注成本，安防设备收集的数据是不充分的，因而直接利用该部分数据训练学习难以获得一个表现良好的深度模型；为了让安防的深度模型拥有足够的关于目标任务的知识，首先需要利用收集的目标任务数据集训练目标任务模型；步骤2：选择模型知识；预训练模型{M1,M2,…,MN}是在不同训练数据和不同的任务上训练的，因而预训练模型包含了不同领域的知识；并且预训练模型以及数据存放在不同的节点上；对于智能安防具体的目标任务模型而言，不同的预训练模型的知识的可迁移性是不同的；可迁移性更好的预训练模型知识对于目标任务更有帮助；为了从若干预训练模型中选择合适的模型，首先计算不同模型在目标数据集上的归因图其中表示第n个模型第k层对于第j个输入的归因图，归因图是计算特定输入的反向传播梯度得到的，归因图反映了模型对于输入的注意力区域；因而，不同模型之间归因图的距离能作为一种模型知识可迁移性的度量；利用目标数据集计算不同模型之间的可迁移性距离如下： 其中，表示计算余弦相似性；在计算得到目标模型和预训练模型之间的归因图距离之后，模型之间的可迁移分数能够基于归因图距离计算得到；将可迁移分数归一化为一个离散的概率分布{P1,P2,…,PN},概率值表示选择某一个预训练模型的概率；将根据概率分布{P1,P2,…,PN}有放回地采样k个模型，形成一个模型集合SM；这一模型集合将用于后续的联邦知识重组中；步骤3：重组联邦知识；在不直接接触预训练模型和数据集的条件下，为了将模型集合SM的知识重组到目标模型，按照过程是否发生在预训练模型的边缘节点上，将联邦知识重组划分为本地知识重组和中心知识重组两个阶段；两个阶段的划分能够避免对预训练模型的直接接触，进而保护了预训练模型和数据的隐私；首先，将目标模型Mt的参数复制到预训练模型Mn所在的节点；深度模型能划分为编码器部分和解码器部分，编码器将原始输入编码到特征空间的向量，特征提取部分是与任务无关的，具有良好的泛化性；而解码器将特征空间的向量解码成与任务相关的输出；在本地重组的过程中，迫使目标模型的特征输出和预训练的特征输出保持一致，目标模型的副本将学习到预训练模型的特征提取能力；由于预训练模型Mn和目标模型Mt的网络结构可能是异构的，目标模型和本地预训练模型的输出特征可能存在输出维度的差异，因而利用3个1×1的卷积操作对齐不同模型的特征输出维度；本地重组过程中损失计算如下： 其中，X表示预训练模型Mn的训练数据集，表示预训练模型Mn的参数，表示本地目标模型的参数，而分别表示预训练模型和目标模型对齐过后的特征输出；本地重组过程将依据损失更新本地目标模型的参数： 其中，ηt表示本地重组的学习率；在本地知识重组完成以后，本地目标模型的参数会被上传到中心节点；中心节点在收集到不同节点的目标模型参数以后，将会进行中心节点的知识重组，目标模型的参数更新如下： 在中心节点的知识的重组完成以后，将会再次进行知识的选择和本地知识的重组；在迭代的学习过程中，目标模型将会从多个预训练模型中筛选和学习到可迁移的教师的表征提取能力；步骤4：智能安防任务适应；考虑深度学习模型的拓扑结构特点，在知识重组阶段收敛完成以后，将继续在智能安防的目标任务数据集上进行训练，以获得更多与目标任务相关的知识；具体来说，利用目标数据集对目标模型的解码器部分进行训练，目标模型将学习到特征映射到目标标签的能力，在智能安防的模型任务上获得良好的表现。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大学，其通讯地址为：310058 浙江省杭州市西湖区余杭塘路866号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。