Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 恭喜浙江大学李玺获国家专利权

恭喜浙江大学李玺获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网恭喜浙江大学申请的专利一种基于关系型的动态路由网络学习方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN113887723B

龙图腾网通过国家知识产权局官网在2025-04-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202111171434.4,技术领域涉及:G06N3/08;该发明授权一种基于关系型的动态路由网络学习方法是由李玺;王环宇;李颂元;苏世豪;秦泽群设计研发完成,并于2021-10-08向国家知识产权局提交的专利申请。

一种基于关系型的动态路由网络学习方法在说明书摘要公布了:本发明公开了一种基于关系型的动态路由网络学习方法,用于在分类、分割等多种任务中对相应网络预测算法进行加速。具体包括如下步骤:获取用于训练该任务的图像数据集;建立基于路由选择的基础网络模型;建立模型中选择路径的关系型路由模型;建立样本间路径的关系模型;基于前述建模结果训练预测模型;使用所述学习框架的对现有网络进行加速。本发明基于关系型的动态路由网络学习方法,相比于现有的动态网络学习方法,在现有的ResNet,DenseNet等模型下,可完成的运行速度极大的提升,具有良好的应用价值。

本发明授权一种基于关系型的动态路由网络学习方法在权利要求书中公布了:1.一种基于关系型的动态路由网络学习方法,其特征在于,包括以下步骤:S1、获取用于训练的图像分类数据集,并将数据集分为若干批次,作为网络输入;S2、针对用于图像分类的卷积神经网络,将其分为若干子结构并在子结构前增加动态路由结构,构建得到基于路径选择的动态路由网络模型;S3、针对S2中增加的动态路由结构,建立动态路由结构间的关系图,并通过所建立的关系图进行路由特征的传播;S4、将S1中的数据集分批次输入S2中构建的动态路由网络模型中,结合路径的关系型约束对模型进行训练;S5、基于S4中训练得到的动态路由网络模型,对每一个子结构前的动态路由结构输出进行二值化且二值化结果分别代表跳过或执行所对应的子结构,由此得到动态预测模型,用于对输入图像进行分类;所述S2中,建立基于路由选择的基础网络模型的过程如下:将用于图像分类的卷积神经网络按Block为单位,划分成共N个网络子结构,其中Fjxj-1表示第j个子结构,第j个子结构的输入xj-1为上一个子结构的输出;在每个子结构前添加用于选择跳过或执行当前子结构的动态路由结构Rj;所述动态路由结构的输入为上一个子结构的输出,第j个动态路由结构的输出rj为:rj=gumbel-softmaxfcxj-1[0]其中fc为全连接层模型,rj为0或1,gumbel-softmax为带有gumbel采样的softmax结构;对带有动态路由结构的第j个子结构而言,其输出为:xj=rjFjxj-1+1-rjxj-1;所述S3的具体方法如下:S31、针对S2中所有子结构前增加的动态路由结构,建立动态路由结构之间的关系图;在关系图中,动态路由结构之间的特征只能由前面的动态路由结构单向传递给后续的动态路由结构且影响层层衰减,前一层的动态路由结构传递到下一个的权重为γ∈[0,1];每一层动态路由结构最多受到前r层动态路由结构的影响;通过所述关系图的邻接矩阵A在动态路由结构间传播路由特征,所述邻接矩阵A中第m行第n列的元素如下: S32、路由特征传播过程中,对于当前传播的第n个动态路由结构,该动态路由结构以上一个子结构的输出xn作为输入,先通过平均池化操作得到当前动态路由结构的第一路由特征: 其中Hn是xn的高,Wn是xn的宽,与xn特征通道相同,的维度为1×Cn;再将得到的第一路由特征通过第一全连接层FC进行对齐,由激活函数输出维度为1×d的第二路由特征 其中g表示Rule激活函数,w0是第一全连接层FC的网络参数;S33、收集当前动态路由结构的前r个动态路由结构的第二路由特征连接得到融合路由特征Sn=sn-r,…sn;再将融合路由特征通过GCN层,由激活函数输出当前动态路由结构需向后传播的最终路由特征sn:sn=gGCNSn;A;w1[r,:]其中w1是GCN层的网络参数;S34、将当前动态路由结构最终的路由特征sn经过第二全连接层FC后,再通过松弛化函数Gumbel-Softmax,获得当前子结构的执行决策:vn=softmaxlogFCsn;wn+Gτ[1]其中,G是gumbel采样,τ是松弛函数的温度,得到的vn是当前动态路由结构输出的执行当前子结构的概率;S35、对于带有动态路由结构的第n个子结构而言,其输入为xn,输出为:xn+1=vnFn+1xn+1-vnxn;所述S4的具体方法如下:S41、从S1的数据集中取一个批次输入S2构建的动态路由网络模型中用于模型训练,在训练阶段针对任意第i个输入样本,建立动态网络选择路径如下:Pi=[v1,v2,…,vN]S42、对于输入的训练批次中的样本,首先通过一个投影方法H.计算出在同一个批次中任意两个样本Xi和Xj之间的距离,从而得到距离矩阵D,距离矩阵D中第i行第j列的元素为:Di,j=‖HXi-HXj‖2,其中,‖‖2表示L2范数;再用argsort函数将距离矩阵D按行降序排序,得到索引矩阵M:M=argsortD其中索引矩阵M中第i行第j列的元素记为Mi,j;S43、基于索引矩阵M计算当前输入批次样本的总损失函数,并基于总损失函数优化动态路由网络模型的参数,完成当前批次的训练,其中总损失函数的计算公式为:Ltotal=Lcls+Lrank+Lcost其中:Lcls为分类约束损失;Lrank为triplet损失,其计算公式为: 式中表示Margin参数;Lcost为路径的计算量损失,其计算公式为: 式中:cj表示第j个子结构的计算量;S44、不断重复S41~S43,将不同批次的样本输入动态路由网络模型中,最终完成模型训练。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江大学,其通讯地址为:310058 浙江省杭州市西湖区余杭塘路866号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。