龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：华中科技大学
摘要：本发明属于模型压缩技术领域，公开了一种基于多视角特征的卷积神经网络轻量化剪枝方法及系统，将训练集样本输入到未经训练的卷积神经网络模型中进行预训练，更新网络参数，直到网络收敛；将训练集样本输入到经过预训练的原网络中，基于各层滤波器输出的特征图，对各个特征图以及对应的滤波器进行重要性评估，并按照各层剪枝率，逐层筛选和剪枝滤波器，最终得到压缩的卷积神经网络模型；将训练集样本输入到压缩的卷积神经网络模型中，执行一次微调训练，更新网络参数，从而恢复模型的预测精度。本发明在相近甚至更高的压缩率下，能够始终保持较高的精度，随着压缩率的提升，使用本发明提出的方法进行剪枝的模型的精度损失速度也小于其它方法。
主权项：1.一种基于多视角特征的卷积神经网络轻量化剪枝方法，其特征在于，包括：S1：在预训练阶段，将训练集样本输入到未经训练的卷积神经网络模型中进行预训练，更新网络参数，直到网络收敛；S2：在逐层剪枝阶段，采用基于多视角特征的权重评估方法，通过计算卷积层中滤波器的信息熵和互信息来提取滤波器的局部特征和全局特征，进而得到滤波器的重要性得分，再并根据重要性得分对滤波器进行筛选和剪除，从而得到压缩的卷积神经网络模型；S3：在微调阶段，将训练集样本输入到压缩的卷积神经网络模型中，执行一次微调训练，更新网络参数，从而恢复模型的预测精度；通过计算特征图的信息熵和互信息均值来提取滤波器局部特征和全局特征，完成对滤波器的多视角评估包括：将训练集样本输入到经过预训练的原网络中，各卷积层的滤波器将对输入样本进行处理并输出特征图；对于各卷积层的各个滤波器输出的所有特征图，依次计算两个特征图之间互信息，并将其存入一个Map集合中，其中key为两个特征图的下标组合，value为两个特征图的熵，并且在每次计算任意两个滤波器的互信息之前，先在Map集合中查找是否存在相应记录，若存在则直接取出即可，否则再计算并存入Map集合中；对于各卷积层的各个滤波器输出的所有特征图，依次计算各个特征图的信息熵以及该特征图与同一层中所有其它特征图之间的互信息的均值，从而得到一个联合的重要性得分。
全文数据：
权利要求：
百度查询： 华中科技大学 基于多视角特征的卷积神经网络轻量化剪枝方法及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号