买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：天津大学

摘要：本发明公开了一种基于多任务深度学习神经网络的太阳风速度预测方法，所用的模型包括一个由一维卷积神经网络CNN和一个长短时记忆神经网络LSTM组成的共享模块，一个主LSTM模块以及一个自回归层AR模块。共享模块用于提取多个任务共用的浅层空间和时间特征，主LSTM模块用于单独提取主任务的特性，自回归模块用于以一种线性的方式对神经网络模型进行适当的修正。采用多任务学习机制来实现多步预测，构建模型。在太阳风速度预测领域，引入多任务学习的机制是一种新的尝试。本发明的优点是，联合多个独立的预测任务来同时并行学习，充分利用数据信息，共享公共信息来帮助改进浅层特征提取，并为主要任务设计独立的结构来提高预测性能。

主权项：1.一种基于多任务深度学习神经网络的太阳风速度预测方法，其特征在于，所采用的神经网络模型包括一个共享模块、一个主LSTM模块以及一个自回归层AR模块；所述共享模块由一维CNN模块和一个共享LSTM模块组成；所述一维CNN模块用于接收序列输入和自动学习数据空间特征，对不同维度的输入属性的相互关系进行建模；所述共享LSTM模块用于捕获时间序列的时间相关性，并提取不同预测任务之间的相关信息，在多任务并行训练中，通过神经网络的反向传播实现所述共享模块参数的联合学习和共享；所述主LSTM模块用于解码所述共享模块中的多任务共享信息，并单独用于主任务的预测，所述主LSTM模块用于接收所述共享模块的输出；所述主LSTM模块和所述共享LSTM模块的结构相同；所述自回归层AR模块用于以一种线性的方式对神经网络模型进行修正；并包括以下步骤：步骤1、数据处理：使用的数据集包括以下3个部分：1从低分辨率OMNI数据集中选择五个物理量属性，分别是太阳风速度Bulkspeed、质子密度Protondensity、质子温度Protontemperature、流压力Flowpressure和场矢量的均方根标准偏差Sigma-b；2根据ICME列表引入日冕物质抛射属性：将ICME列表二值化为一个新特征，并将存在日冕物质抛射事件的时间点设为1，不存在的则为0；3通过计算大气成像组件AIA图像中冕洞的像素值之和，引入了冕洞信息属性：将所述的图像转换为灰度图像后，计算图像中小于15px的像素值之和，用于表征冕洞的影响，并记为area；使用上述数据集的数据所构成的7个属性的多元时间序列作为神经网络模型的输入，分别进行24小时和96小时的预测，目标输出分别是距离观测序列未来24小时和96小时后的太阳风速度的预测值；对于24小时的预测，7维时间序列数据的时间间隔为1小时，即每小时1个7维向量，每个向量的7个向量元素分别对应7个属性；对于96小时的预测，7维时间序列数据的时间间隔为24小时，即每24小时1个7维向量，每个向量的7个向量元素分别对应7个属性，每个属性值通过计算24小时里的平均值得到；根据7维时间序列数据各个维度的均值和标准差，采用z-score标准化方法进行数据的标准化，经过处理的数据符合标准正态分布，即均值为0，方差为1，计算公式为： 式1中，μ为所有样本数据的均值，σ为所有样本数据的标准差，计算时对每个维度的属性分别进行；按照8:1:1的比例将数据分为训练集、验证集和测试集；步骤2、共享模块特征提取：设置5个相邻时间点的太阳风预测任务进行联合多任务学习；其中，对于24小时预测的，将第22小时、第23小时、第24小时、第25小时和第26小时分别作为5个单独预测任务，对于96小时预测的，将第48小时、第72小时、第96小时、第120小时和第144小时分别作为5个单独预测任务；5个单独预测任务的编号分别依次为1、2、3、4和5，将第3个单独预测作为主任务，其他4个单独预测作为辅助任务；预处理的数据首先通过共享模块提取数据的空间和时间特征，作为5个单独预测任务的共享浅层特征，操作如下：空间特征的提取：将所述多元时间序列作为一维CNN模块的输入，设xn＝[X1，...，Xn],Xi是由七维属性组成的向量，n是输入窗口的长度，C代表一维CNN模块提取的抽象特征，C＝Conv1DXn2式2中，Conv1D代表一维卷积操作；时间特征的提取：将一维CNN模块提取的抽象特征作为共享LSTM模块的输入，从而捕获时间序列的时间相关性；共享LSTM模块的初始隐藏状态和初始单元状态设置为零，在训练过程中，5个单独预测任务共享该共享LSTM模块的权重和偏差，从而集成了多任务的时间特性；训练后，将所述的多任务的时间特性存储在该共享LSTM模块的共享参数中；对于该共享LSTM模块的输入c，k∈{1，2，3，4，5}代表任务编号，共享LSTM模块执行以下操作： 式3中，c为共享LSTM模块的内部单元状态参数，h为共享LSTM模块的隐藏单元状态参数，0≤p≤L是RNN网络的循环次数，shared_LSTM代表共享LSTM模块运算；步骤3、主任务单独特征提取：对于主任务，将共享LSTM模块中的最后一个输出序列作为主LSTM模块的输入： 式4中，c′是主LSTM模块的内部单元状态参数，h′是主LSTM模块的隐藏单元状态参数；主LSTM模块执行以下操作： 式5中，main_LSTM代表主LSTM模块运算；步骤4.太阳风速度预测值的输出：对于辅助任务，通过共享模块全连接层的输出加上自回归层AR模块输出获得与该辅助任务对应时间点的太阳风速度预测值；对于主任务，通过主LSTM模块全连接层的输出加上自回归层AR模块输出获得与主任务对应时间点的太阳风速度预测值；全连接层的操作如下： 式6中，Dk是全连接层任务k的预测结果输出，分别是全连接层的权重和偏差；自回归层AR模块以一种线性的方式对上述全连接层的输出进行修正： 式7中，ARk是任务k的自回归层AR模块的输出，k∈{1，2，3，4，5}，分别是自回归层AR模块的权重和偏差；神经网络模型任务k的最终预测结果如下：vk＝Dk+ARk8式8中，vk为任务k的太阳风速度预测值输出。

全文数据：

权利要求：

百度查询： 天津大学 基于多任务深度学习神经网络的太阳风速度预测方法