买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：暨南大学

摘要：本发明公开了一种基于迁移学习的智能交通车辆安全检测方法及系统，其中方法包括以下步骤：构建基于Transformer迁移学习的智能交通载体安全攻击检测模型，并分为数据预处理模块和安全检测模块两部分。对于智能交通车辆数据预处理部分，采用主成分分析和决策树方法，进行数据特征降维，剔除数据中大部分不相关特征，保留数据最关键的攻击特征以及时序特征。对于安全检测模型部分，则视其为一种目标检测任务，以判断智能交通车辆是否受到外部攻击。Transformer结合了多头自注意力机制和目标分类技术，多头自注意力机制可以很好的学习智能交通车载网络数据的时序特征，而目标分类技术则可以用于识别不同的入侵攻击数据类型。

主权项：1.一种基于迁移学习的智能交通车辆安全检测方法，其特征在于，包括以下步骤：S1、对智能交通数据集CarHacking进行数据预处理，提取智能交通数据集CarHacking中的时序特征以及攻击特征，其中，所述智能交通数据集CarHacking包括Dos攻击、Fuzzy攻击、Spoofing以及正常数据；S2、利用所述时序特征以及攻击特征，对基于Transformer多类型神经网络构建的智能交通车辆安全检测模型进行训练；S3、对所述S2中训练数据的预测与训练数据的初始标记进行处理，计算所述智能交通车辆安全检测模型的预测误差，并基于所述预测误差，对所述智能交通车辆安全检测模型的参数进行微调和优化；S4、利用所述智能交通数据集CarHacking对微调和优化后的所述智能交通车辆安全检测模型进行测试，利用迁移学习方法，在M-CAN和B-CAN入侵攻击数据集上进一步对通过测试的所述智能交通车辆安全检测模型进行调整；S5、利用所述M-CAN和B-CAN入侵攻击数据集对进一步调整后的所述智能交通车辆安全检测模型进行训练，获得达到预设精度的智能交通车辆安全攻击检测模型；S6、对达到预设精度的所述智能交通车辆安全攻击检测模型进行消融实验，选定性能最佳的所述智能交通车辆安全攻击检测模型进行封装，基于所述智能交通车辆安全攻击检测模型，完成对智能交通车辆安全检测；所述S1中，对智能交通数据集CarHacking进行数据预处理的方法包括：采用PCA决策树方法，对智能交通数据集CarHacking进行特征降维，保留时序信息；对特征降维后的所述智能交通数据集CarHacking进行标签编码，其中，标签编码按照Dos、Fuzzy、Gear、RPM、Normal顺序进行编码；对标签编码后的所述智能交通数据集CarHacking中的重复数据进行清洗，提取智能交通数据集CarHacking中的时序特征以及攻击特征；对智能交通数据集CarHacking进行数据分析，并进行数据特征提取；该数据集包含Dos攻击、Fuzzy攻击、Spoofing以及正常数据，共计17,558,462条数据，其中正常数据共15,226,830条，异常数据共2,331,517条占总数目的13％；利用PCA决策树方法进行恰当的特征处理来保留数据的时序特征；首先对数据进行特征降维，保留时序信息，智能交通数据集CarHacking的数据属性特征包含Timestamp、CANID、DLC、DATA、Flag，其中Timestamp为时间戳信息，CANID为十六进制CAN报文的标识符，DLC为数据字节长度，DATA段为32位十六进制数，FLAG标志表示是否受到攻击，包含T,R两种类别；分析各类攻击的特点：Dos攻击是在一个短周期内注入高优先级的CAN消息，Fuzzy攻击每0.5毫秒注入一次完全随机的CANID和数据值的消息，Spoofing攻击每1毫秒注入与RPMDriveGear信息相关的某些CANID的消息；提取CANID为实验所需特征，将每30个连续CANID进行拼接成一个新的CANARRAY特征，保留时序信息；随后对数据进行标签编码，其中标签按照Dos、Fuzzy、Gear、RPM、Normal顺序进行0-4编码；接着对重复数据进行清洗，处理过程如下：首先对重复数据进行删去操作，原CarHacking数据集用上述数据特征处理后共576563条数据，删除重复数据后共计488596条，其中正常数据为279752条，异常数据为208844条，其中Dos攻击共36002条，Fuzzy攻击共42073条，Gear攻击共62441条，RPM攻击共68328条；最后进行数据集的划分，数据集划分为训练集，验证集和测试集，分别按照8:1:1的比例进行随机划分，划分完成后保存为本地文件，后续模型训练将直接读取文件；其中，经过数据预处理后包含不同攻击类型的车载网络实验数据集的划分如下：Dos攻击共28834条，占总数据的9％；Fuzzy攻击共33760条，占总数据的10％；Gear攻击共49755条，占总数据的13％；RPM攻击共54709条，占总数据的14％；正常数据共223819条，占总数据的54％；所述S2中，利用所述时序特征以及攻击特征，对基于Transformer多类型神经网络构建的智能交通车辆安全检测模型进行训练的方法包括：将所述时序特征以及攻击特征输入Transformer的向量嵌入编码层扩充维度，将离散变量转换为连续的向量表示，获得编码向量；将所述时序特征以及攻击特征输入Transformer的位置嵌入编码层，使用sin和cos函数进行线性变换提供位置信息，获得位置向量；将所述编码向量直接与所述位置向量相加，获得Transformer编码层的输入；其中，所述Transformer编码层由6个相同的子层构成，每个子层包括两个部分：多头注意力层和前馈神经网络层，并且每两层之间的连接通过残差连接和归一化实现；经过Transformer编码层后，连接一个Softmax子层来输出相关位置权值信息；基于所述相关位置权值信息，利用DNN网络实现对高维特征进行分类输出；基于Transformer编码层特征学习模块由嵌入编码层扩充数据维度模块，位置嵌入编码层学习数据特征模块以及编码器更新模块组成；嵌入编码层扩充数据维度模块根据预处理后的数据进入Transformer的嵌入编码层，对预处理后的数据进行维度扩充，将离散变量转换为连续的向量表示；在模块当中，模型将输入数据拓展到64维；位置嵌入编码层学习数据特征模块根据数据经过位置嵌入编码层处理，使用sin和cos函数进行线性变换，提供位置信息；更新模块包含六个相同的子编码器层，每个子层结构包括两个主要组成部分：多头注意力层和前馈神经网络层；在相邻的两层之间，通过残差连接和归一化来建立连接；残差连接的设计旨在防止梯度下降引起的梯度爆炸，而归一化层的作用则在于将神经网络中的隐藏层标准化为正态分布，从而提高模型的训练速度和性能；三者构成完整的Transformer编码层特征学习模块，用于进一步促使深度学习网络实现对数据中时序特征的有效提取；使用sin和cos函数进行线性变换的方法包括：PEpos,2i＝sinpos100002idmodelPEpos,2i+1＝cospos100002idmodel其中，sin和cos函数分别对应一组奇数偶数序号的维度；i为序号；pos表示序列中特征的位置信息；dmodel表示编码的维度，设置为64；同时，位置嵌入函数PE·的输出周期被设计在2π到2π×10000的范围内，这样每个位置在不同的维度上都能获取不同的位置编码；所述多头注意力层把注意力模块分为8个头，将输入序列的每个元素与其他元素进行交互；具体的：首先，将输入序列的编码向量通过一个线性变换映射到一个高维空间，得到初始的查询、键和值三个矩阵；计算每个查询向量与所有键向量的相似度得分，并将得分进行归一化，得到注意力分数；将注意力分数与值矩阵相乘，得到注意力权重；再将注意力权重分别通过多个不同的头进行计算，得到多个加权和向量，并将它们拼接在一起，然后通过一个线性变换映射到一个低维空间，得到多头自注意力层的输出；数据输入嵌入编码层扩充数据维度模块后直接与位置嵌入编码层学习数据特征模块的位置向量相加，做为编码器更新模块的输入；由6个相同的子层构成，每个子层包括两个部分：多头注意力层和前馈神经网络层，并且每两层之间的连接通过残差连接和归一化实现；多头注意力层采用的是自注意力机制，多头注意力层把注意力模块分为8个头，将输入序列的每个元素与其他元素进行交互，其中，Q、K、V分别为查询Query向量序列、键Key向量序列、值Value向量序列；首先，将输入序列的编码向量通过一个线性变换映射到一个高维空间，得到初始的查询、键和值三个矩阵；对于每个查询向量，计算与所有键向量的相似度得分，并将得分进行归一化，得到注意力分数；将注意力分数与值矩阵相乘，得到注意力权重；再将注意力权重分别通过多个不同的头进行计算，得到多个加权和向量，并将它们拼接在一起，然后通过一个线性变换映射到一个低维空间，即得到多头自注意力层的输出；多头自注意力层之后连接的是一个Softmax子层，dk表示Q,K,V矩阵的维度用来输出相关位置权值信息；编码器更新模块最后连接前馈神经网络层，对编码器的输出进行非线性变换；该前馈神经网络层包含两个全连接层和一个GELU激活函数；所述DNN网络包含两个隐藏层，每个隐藏层包含一个全连接层，一个ReLU激活函数和一个Dropout函数。

全文数据：

权利要求：

百度查询： 暨南大学 一种基于迁移学习的智能交通车辆安全检测方法及系统