买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:天津大学
摘要:本发明公开了一种基于注意力机制和堆叠LSTM的交通预测方法,步骤1、构建由编码部分和解码部分组成的编码‑解码模型框架,编码部分和解码部分均由LSTM模块堆叠构成:其中,编码部分采用局部注意力机制和全局注意力机制,分别考虑目标区域内不同因素之间的相关性和不同区域间出租车数量间的相互影响;解码部分采用时间注意力机制,对编码的结果进一步选择;完成训练和预测,得到出租车数量的预测序列。与现有技术相比,本发明针对交通预测问题中影响因素多且不同因素对车流量的影响程度不同的问题,综合考虑了多种时间和空间因素,同时考虑了不同因素间的相互影响,解决了现有模型考虑因素不全的问题。
主权项:1.一种基于注意力机制和堆叠LSTM的交通预测方法,其特征在于,该方法包括以下步骤:步骤1、构建由编码部分和解码部分组成的编码-解码模型框架,编码部分和解码部分均由LSTM模块堆叠构成:其中,编码部分采用局部注意力机制和全局注意力机制,分别考虑目标区域内不同因素之间的相关性和不同区域间出租车数量间的相互影响;解码部分采用时间注意力机制,对编码的结果进一步选择;步骤1.1、编码部分采用局部注意力机制和全局注意力机制为输入数据编码,输入数据至少包括出租车数量、行驶距离、行驶时间和乘客数量,其中:利用局部注意力机制动态学习目标区域的出租车数量与其他因素之间的相关性模型表达式如下: 其中,[·;·]表示级联运算,xa,k表示目标区域a的第k个因素的时间序列,ht-1、st-1分别表示在t-1时刻时编码部分LSTM的隐藏态和细胞态,k表示目标区域内影响因素索引,t表示时刻,Wl、Ul、vl和bl表示训练参数;进而得到注意力权重即每个因素对出租车数量时间序列的重要性,表达式如下: 其中,Nl表示局部目标区域l中的因素种类的数量;由此得到目标区域因素的注意力权重表达式如下: 利用全局注意力机制动态学习不同区域的出租车数量之间的相关性模型表达式如下: 其中,yj表示区域j的出租车数量时间序列,表示区域j的出租车数量对目标区域内出租车数量的影响,Wg、Ug、vg和bg表示为训练参数,g表示全局区域;引入出租车在区域i和区域j之间行驶往来的先验概率Pi,j,表达式如下: 其中,offij表示从区域i出发到达区域j的出租车数量,upi表示从区域i出发的出租车总数量;得到对称矩阵的第i行第j列的值Pi,jsym,表达式如下: 得到注意力权重表达式如下: 其中,λ为超参数,表示先验信息的权重大小,表示区域j的出租车数量对目标区域的出租车数量的归一化权重,表示矩阵中第a行第j列的值,a为目标区域的索引;由此得到对所有区域内出租车数量因素的编码结果得到表达式如下: 其中,表示不同区域的出租车数量的时间序列,表示出租车数量的各时间序列对应的注意力权重;编码部分的LSTM网络中的隐藏态随时间变化,采用时间注意力机制对不同时间的隐藏态进行选择,得到历史数据的影响程度表达式如下: 其中,其中,W'd、Wd、vd和bd表示训练参数,dt-1、s't-1分别表示在在时间t-1时解码部分LSTM的隐藏态和细胞态,vd表示训练参数,ho表示长度为T的时间窗口内不同时间的编码部分LSTM的隐藏态;注意力权重表达式如下: 其中,表示目标区域内各个影响因素的权重,表示不同区域出租车数量因素的权重,表示历史数据的影响权重;将历史数据进行融合,对编码部分LSTM的不同时间的隐藏态进行加权求和,得到编码部分LSTM的不同时间的隐藏态ct,表达式如下: 在模型训练和预测过程中,将局部区域的特征和全局特征级联,即: 其中,表示编码部分LSTM的输入;编码部分的LSTM的隐藏态的更新运算为步骤1.2、采用表示t时刻对目标区域内出租车数量的预测结果,将由注意力权重加权得到的ct和上一时间的预测级联,作为解码部分的LSTM的输入,LSTM的隐藏态的更新运算为步骤2、完成训练和预测得到出租车数量的预测序列表达式: 其中,表示时间t时目标区域a内出租车数量的预测值,vy、Wm、bm、by表示训练参数;训练过程的目标函数为: 其中,yi为区域i的预测值和标签,θ为训练参数。
全文数据:
权利要求:
百度查询: 天津大学 基于注意力机制和堆叠LSTM的交通预测方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。