首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种融合自适应选择卷积感受野的时空预测方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:南京工业大学

摘要:一种融合自适应选择卷积感受野的时空预测方法,其核心在于引入ARFSLSTM模块。ARFSLSTM模块融合了自适应选择感受野ARFS模块与卷积长短期记忆模型ConvLSTM,共同作用提取上下文时空信息,并对历史状态的相关性进行精准建模。ARFS模块由Split、Fuse和Select三部分构成。通过非线性方法,ARFS模块能够聚合来自多个核的信息,使每个神经元能够基于多个输入信息尺度自适应地调整其感受野大小,从而实现对时空数据的精细捕捉。通过连接循环神经网络RNN,本发明构建了完整的时空数据建模网络。这一网络在训练阶段能够深入捕捉时空关系和特征。综上所述,本发明通过引入ARFSLSTM模块,实现了对时空数据的精准捕捉和预测,展现了其独特性、创新性和优越性,为时空预测领域的发展开辟了新的道路。

主权项:1.一种融合自适应选择卷积感受野的时空预测方法,步骤包括:一采集历史观测数据,作为预测模型的输入;二经预测模型预测,输出预测结果;所述预测模型经过训练的;预测模型的结构是循环神经网络CNN,其特征是CNN的核心细胞单元是ARFSLSTM模块;ARFSLSTM模块是把自适应选择感受野ARFS模块嵌入到卷积长短期记忆神经网络ConvLSTM模块中构成;在ARFSLSTM模块中:首先,由ARFS模块对输入特征Xt经过Split过程、Fuse过程和Select过程处理得到融合了多个感受野信息的然后,分别作为输入门it、遗忘门ft、控制门gt、输出门Ot以及记忆单元Ct的输入;输入门it控制当前时刻输入和前一时刻的隐藏状态Ht-1添加到记忆单元Ct的程度;输入门it包括一个sigmoid层和一个tanh层;sigmoid激活函数决定应该更新哪些元素,并使用tanh激活函数计算一个候选记忆单元Ct;输入门it的输出和候选记忆单元的元素逐元素相乘,以选择被写入记忆单元的信息;遗忘门ft决定是否丢弃前一时刻记忆单元Ct-1中的信息,遗忘门ft包括一个sigmoid层,sigmoid层的输出范围在0和1之间,“1”表示“完全保留这个”,“0”表示“完全遗忘这个”,代表忘记和保留的程度;控制门gt通过tanh激活函数将当前结点的记忆单元Ct映射到-1到1的范围内,并将其与遗忘门ft的输出相乘,以控制记忆单元的更新;记忆单元Ct通过输入门it和遗忘门ft的控制,决定保留和更新哪些信息;输出门Ot控制当前时刻的输入记忆单元Ct和前一时刻的隐藏状态Ht-1的哪些信息应该传递给下一个时间步或最终的输出;输出门Ot包括一个sigmoid层和一个tanh层;ARFSLSTM模块中涉及算式如下: Ct=ft⊙Ct-1+it⊙gt Ht=ot⊙tanhCt其中,Xt融合了多个感受野的信息之后得到表示当前时刻t的输入,对分割形成it、ft、ot、gt、Ct和Ht分别表示输入门、遗忘门、输出门、控制门、记忆单元和当前时刻隐藏状态;Qxi、Qhi分别表示输入门的输入权重矩阵和隐藏状态权重矩阵,Qxf、Qhf表示遗忘门的输入权重矩阵和隐藏状态权重矩阵;Qxg、Qhg表示控制门的输入权重矩阵和隐藏状态权重矩阵;Qxo、Qho表示输出门的输入权重矩阵和隐藏状态权重矩阵;bi、bf、bg、bo分别表示输入门、遗忘门、控制门和输出门的偏置向量;σ表示sigmoid激活函数,⊙表示逐元素相乘,*表示卷积运算符;ARFS模块包括Split部分、Fuse部分和Select部分,其中:Split部分:生成具有不同内核大小的多个路径,这些内核大小对应神经元的不同感受野大小;Fuse部分:将来自多个路径的信息进行组合和聚合,以获得全局和全面的选择权重表示;Select部分:根据选择权重聚合不同大小内核的特征图;ARFS模块的数据处理过程包括:Split过程:对于任意给定的特征映射X∈RH×W×C,分别经过和两个变换,分别得到卷积核大小不同的新特征图和其中C表示特征图的通道数,H表示特征图的高度,W表示特征图的宽度;Fuse过程:首先,通过元素求和融合来自两个分支的特征,即特征图和相加得到新的特征图U,表示为: 然后,通过简单地使用全局平均池来嵌入全局信息,以生成s∈RC×1的通道统计信息;具体是通过将U的第c个特征图缩小尺寸H×W来计算得到s的第c个元素,表示为: 其中,是U通过全局平均池化生成s∈RC×1来嵌入全局信息,s∈RC×1是一个有C个元素的列向量;之后,s先通过一个全连接层将C个通道变成d个;再经过批量归一化函数处理后,通过ReLU激活函数得到特征向量z,对应算式如下: 其中,是全连接层,δ是ReLU激活函数,表示批量归一化,W∈Rd×C为权重矩阵,d是变化后的通道数;Select过程:首先,两次对特征向量z使用softmax函数处理得到软注意力向量a和b,这时向量中的每一个数值对应一个通道的分数,“通道的分数”是指软注意力机制中每个通道的权重或重要性得分;具体来说,软注意力机制用于计算在给定输入特征向量z的情况下,每个通道在生成输出向量时的权重,之后将a和b再次变回了c个维度,对应算式如下: 其中,A,B∈RC×d,a,b分别表示和的软注意力向量;ac代表向量a的第c个元素,Ac∈R1×d表示矩阵A的第c行;bc代表向量b的第c个元素,Bc∈R1×d表示矩阵B的第c行;然后,将各个特征图与对应的注意力权重a、b相乘,再相加后得到特征图 ac+bc=1其中

全文数据:

权利要求:

百度查询: 南京工业大学 一种融合自适应选择卷积感受野的时空预测方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。