买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：哈尔滨工程大学

摘要：本发明提出了一种基于多层注意力机制的时空序列预测方法及设备，本发明基于注意力机制，根据跨领域数据的交叉影响，逐时间步融合多维特征构建历史数据特征，在不引入噪声的前提下，充分利用邻域数据丰富目标区域的特征信息，捕获不同区域时空序列的空间依赖关系。采用LSTM编码器分别捕获时间序列的长期、中期发展模式及短期突变信息，逐步利用注意力机制动态捕获多重时序关系对未来的影响，逐时间步计算相应历史信息的影响权重，最终使用LSTM解码器充分融合多跨度的历史数据，对时空序列进行预测。本发明可以在不引入噪声的前提下，充分利用邻域数据丰富目标区域的特征信息，捕获不同区域时空序列的空间依赖关系。

主权项：1.一种基于多层注意力机制的时空序列预测方法，其特征在于：所述方法具体包括以下步骤：步骤1.获得所有与待预测时空序列相关的时空序列历史监测数据；步骤2.根据各类时空序列是否会在区域之间扩散传播，对输入模型的时空序列进行划分，将序列划分为直接影响因素、间接影响因素和跨域因素；步骤3.计算各监测站点间的空间相关性，然后融合多种特征对时空序列的复合影响提取历史数据特征；所述步骤3具体为：提取间接影响因素对于目标时空序列的影响：以各结点所处的纬度位置La∈RN、各结点所处的经度位置Lo∈RN和跨域因素V＝v1,v2,…,vH∈RD×N×H作为输入，以“小时”为粒度提取各站点间的动态相关性；所述间接影响因素提取方法如下：假设目标站点为si，历史时间点为t，定性地判断所有站点sj与目标站点si的关联性若站点sj在t时间步的状态会对目标站点si产生影响，则关联性的取值为1，否则为0，具体计算方式如下： 其中，lai是目标站点所处的纬度位置，loi是目标站点所处的经度位置，laj是邻域站点sj所处的纬度位置，loj是邻域站点sj所处的经度位置，是邻域站点sj在t时间步的u风速，是邻域站点sj在t时间步的v风速；定性判断出所有在t时间步的状态会对目标站点si产生影响的站点后，定量计算所有站点在t时间步对目标站点的影响程度，方法如下所示： 其中，sj是所有满足要求的监测站点，若监测站sj在t时间步与目标站点si的关联性为0，那么监测站sj在t时间步对si的影响程度也为0；α为常数；以跨域因素V＝v1,v2,…,vD∈RD×N×H为输入，利用卷积神经网络逐“小时”提取各站点之间的动态相关性，得到各结点对其他结点时空序列的间接影响： 其中，是目标结点i在t时间步的跨域因素，和b都是可训练参数，f是激活函数，是结点i在t时间步对邻域结点的间接影响；为结点i在t时间步的影响程度；假设目标结点为si，则邻域结点sj对目标结点的间接影响程度即为为准确衡量所有结点对目标结点序列的影响程度，根据结点特征矩阵计算目标结点与各邻域结点的相似性，利用向量积分别计算各邻域结点j对结点i的影响程度，然后利用softmax函数将所有结点在t时间步对目标结点si的影响归一化，确保所有邻域结点对目标的影响权重之和为1： 利用两个可训练参数自适应地调节目标结点i的间接特征受到自身及跨域因素的综合影响，得到目标结点在自身与其他所有邻域结点共同影响下的间接历史特征，计算方法如下所示： 其中，σ为RELU函数，W1与W2均为可训练参数；为站点si在t时间步的间接历史特征；表示目标结点i的间接特征，表示目标结点i与其他邻域结点j的间接特征；综合考虑间接因素的跨域影响后，考虑间接特征与直接特征在t时间步对目标结点的共同作用，将结点i在t时间步的直接影响因素与间接影响因素在通道维度上进行拼接，得到站点si在t时间步的历史特征： 其中，表示站点si在t时间步的单位历史特征；对每个时间步都执行以上提取方法，从而能够充分考虑结点间复杂的动态相关性，获得历史数据特征Z＝z1,z2,…,zH∈RG+K×N×H；步骤4.根据步骤3的输出，计算多粒度时空序列关系；步骤5.计算不同粒度时序关系对待预测时空序列的影响权重；步骤6.结合步骤5中得到的影响权重对不同时序关系进行融合，获得待预测时空序列。

全文数据：

权利要求：

百度查询： 哈尔滨工程大学 一种基于多层注意力机制的时空序列预测方法及设备