买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：山东交通学院

摘要：本发明涉及计算机领域，具体地涉及基于统一局部‑长程上下文注意力机制的卷积神经网络，该网络在多个维度进行不同尺度的自注意力计算，以学习特征图的局部信息和全局信息。所述网络嵌入统一空间局部‑长程上下文模块和统一通道局部‑长程上下文模块，分别从空间维度和通道维度建模局部上下文和长程上下文。同时引入反比例约束实现隐式通信，然后进一步通过融合局部上下文和长程上下文实现显式通信。这一融合操作保证了局部与全局信息间潜在的互补与协同效应不被忽略，能够更加有效的学习特征图的局部信息和全局信息。

主权项：1.基于统一局部-长程上下文注意力机制的卷积神经网络，其特征在于，所述卷积神经网络以ResNet-50作为骨干网络，将ResNet-50网络res_conv4_2之前的残差块作为整个网络上特征提取的骨干部分，在res_conv4_2后将网络划分成三个分支：全局特征模块分支、分支一、分支二；所述全局特征模块分支用于提取特征图的全局信息；所述分支一嵌入统一空间局部-长程上下文模块ULL-S，所述ULL-S包括窗口注意力和网格注意力；所述窗口注意力将空间维度划分为多个窗口，并让目标像素与其所在的同一窗口内其他像素交互，从而建立窗口范围内像素间的短程连接来捕获空间局部上下文；所述网格注意力将特征图划分为多个网格，单独计算每个网格的关系矩阵来建立同一网格内成对像素间的交互，从而建立网格长程连接来捕获目标像素的空间长程上下文；建立空间反比例约束，合并目标像素的窗口交互和网格交互来融合空间局部上下文和长程上下文；所述分支二嵌入统一通道局部-长程上下文模块ULL-C，所述ULL-C包括区间注意力和格栅注意力；所述区间注意力将通道维度划分为多个区间，单独计算每个区间的关系矩阵，来建立同一区间内两两通道间的交互，从而建立区间范围内通道间的短距离连接来捕获目标通道的近邻上下文；所述格栅注意力将通道维度划分为多个格栅，每个格栅有若干个以固定间隔选取的通道，单独计算每个格栅的关系矩阵来建立同一个格栅内两两通道的交互，从而建立了目标通道的长程稀疏连接来捕获通道长程稀疏上下文；建立通道反比例约束，合并区间交互和格栅交互来融合目标通道的近邻上下文和长程稀疏上下文。

全文数据：

权利要求：

百度查询： 山东交通学院 基于统一局部-长程上下文注意力机制的卷积神经网络