买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：中国海洋大学

摘要：本发明公开了一种基于内容引导注意力的ENSO预测方法和模型，属于气候预测技术领域。本发明通过内容引导注意力模块对不同通道之间的关系进行建模，通过内容引导注意力模块对不同通道之间的关系进行建模，将通道之间的相关性考虑在内，并且混合通道注意力权重和空间注意力权重保证信息交互，挖掘海洋时空数据中的ENSO现象变化趋势信息，并引入卷积神经网络前向传播过程中辅助模型的训练和决策。本发明相比其他的对比模型有更优秀的预测性能，在长达两年的时间内，预测准确度较高。

主权项：1.一种基于内容引导注意力的ENSO预测方法，其特征在于，包括以下步骤：S1：收集海洋和气象数据集，并进行预处理；S2：搭建ENSO预测网络模型，该模型包括3层卷积层、1层全连接层和2个内容引导注意力模块，卷积层后加入层归一化LN；内容引导注意力模块CGA包含通道注意力模块、空间注意力模块、融合注意力模块、通道洗牌层和卷积层；通道注意力模块通过全局平均池化和卷积提取通道特征，空间注意力模块通过全局平均池化、全局最大池化和卷积提取空间特征，然后将两者融合，再通过通道洗牌和卷积处理，最后通过Sigmoid激活函数生成输出；所述内容引导注意力模块的处理流程为：1该模块的输入是特征图首先计算空间注意力权重Ws： 其中，Ci×i表示卷积核大小为i×i的卷积层，[,]表示通道级连接操作；空间注意力模块通过跨通道维度的全局平均池化操作和跨通道维度的全局最大池化操作获得特征和然后进行通道级连接操作和卷积层后，得到空间注意力权重Ws；2计算通道注意力权重Wc，计算公式为： 其中max0,x代表ReL激活函数；通道注意力模块通过跨空间维度的全局平均池化操作得到特征模块中的第一个卷积层将通道维度C降低到模块中第二个卷积再将通道维数扩展为C；3接着通过遵循广播规则的简单加法运算融合Ws和Wc，得到粗略的针对通道的空间重要性图Wcos：Wcos＝Wc+Ws4最后为了优化得到粗略的针对通道的空间重要性图Wcos，模块将输入的特征图X作为最终生成的针对通道的空间重要性图W的指导，来优化Wcos；计算公式如下：W＝σGC3×3CS[X,Wcos]其中σx表示sigmoid激活函数，GCi表示i大小的组卷积层，CS表示ChannelShuffle操作，组号设置为C；进行通道级连接操作连接W_cos和输入特征X，模块在组卷积前加人ChannelShuffle操作将W_cos和X每个通道以交替方式重新排列，最后经过组卷积层和sigmoid激活函数得到针对通道的空间重要性图W，生成的W和输入特征X具有相同的维度；模块输出的针对通道的空间重要性图W将引导模型关注每个通道的重要区域，强调特征中的关键信息，将通道信息和空间信息充分引人到网络的前向传播中，以提升模型的预测性能；所述ENSO预测网络模型的处理过程为：1输入海表面温度异常数据SSTA和海洋热含量异常数据HC的二维数据；2模型第一层卷积层用于提取输入的浅层特征X1：X1＝ConvX03将输出的特征X1送入CGA模块，通过内容引导注意力模块对不同通道之间的关系进行建模，混合通道注意力权重和空间注意力权重，生成了针对通道的空间重要性图W1：W1＝CGAX14生成的针对通道的空间重要性图W1和输入特征图X1执行逐元素相乘，即对特征图进行加权操作；然后将得到的特征图与输入特征图X1执行相加操作： 5再在得到特征图X2后，将X2再次送入一个CGA模块，生成新的空间重要性图，然后对特征图进行加权和相加操作，将混合通道和空间信息充分引入到CNN前向传播中，然后通过一层卷积层进一步提取特征，最后输入到全连接层得到Niňo3.4预测指数；S3：采用迁移学习的方法来优化ENSO预测网络模型的训练；采用迁移学习来优化模型的训练具体为：使用CMIP5模式数据集作为预训练数据集，预训练完成后，将得到的源域模型权重直接应用于目标域，再使用SODA再分析数据集作为训练数据集；S4：利用优化得到的ENSO预测网络模型进行ENSO预测，输出预测结果。

全文数据：

权利要求：

百度查询： 中国海洋大学 基于内容引导注意力的ENSO预测方法和模型