一种基于迁移学习的智能交通车辆安全检测方法及系统

本发明属于深度学习与智能交通行业相结合领域，具体涉及一种基于迁移学习的智能交通车辆安全检测方法及系统。

背景技术：

1、随着城市交通的不断发展，城市交通车辆和轨道交通的智能化水平不断提高，智能交通搭载的各种传感器和网络通信设备也变得更加复杂。现代智能交通设备连接的复杂性也对城市交通的安全构成了重大威胁。尤其是来自物联网的入侵攻击对智能交通安全构成普遍威胁，可能导致交通车辆失控、危及乘客安全，甚至导致整个智能交通系统瘫痪，造成不可估量的损失。智能交通车载网络固有的脆弱性，例如控制器局域网协议缺乏安全特性、安全机制不完善、数据完整性、认证和加密方面的缺陷，迫切需要建立高效、稳定的智能交通车辆安全检测系统。

2、近年来，深度学习技术在安全检测系统中取得了巨大的成功。研究人员采用堆叠门控循环单元模型以及基于生成对抗网络的方法进行智能交通安全检测，取得了一定的成果，但这些模型在实时安全检测能力上存在局限性。同时，现有模型忽视了安全攻击固有的时间规律性，导致数据中时间序列特征的遗漏和实时安全检测能力不足。

技术实现思路

1、针对现有技术的智能交通车辆安全检测技术对数据中的时序特征提取的遗漏的问题，本发明提出了一种基于迁移学习的智能交通车辆安全检测方法及系统，采用transformer架构学习数据的时间特征，并利用迁移学习的方法，提升模型及系统的泛化能力；该模型及系统通过编码器层对输入和输出进行编码，融合了多头自注意力机制，进一步促进了时间动态的学习；在编码器层之后，还引入了高维特征分类网络，以实现智能交通车辆攻击行为检测；进一步提高目前智能交通车辆安全检测系统的实时性。此创新在?；ぶ悄芙煌ㄏ低?、交通车辆、乘客安全以及维护个人隐私等方面发挥着重要作用。

2、为实现上述目的，本发明提供了如下方案：

3、一种基于迁移学习的智能交通车辆安全检测方法，包括以下步骤：

4、s1、对智能交通数据集car?hacking进行数据预处理，提取智能交通数据集carhacking中的时序特征以及攻击特征，其中，所述智能交通数据集car?hacking包括dos攻击、fuzzy攻击、spoofing以及正常数据；

5、s2、利用所述时序特征以及攻击特征，对基于transformer多类型神经网络构建的智能交通车辆安全检测模型进行训练；

6、s3、对所述s2中训练数据的预测与训练数据的初始标记进行处理，计算所述智能交通车辆安全检测模型的预测误差，并基于所述预测误差，对所述智能交通车辆安全检测模型的参数进行微调和优化；

7、s4、利用所述智能交通数据集car?hacking对微调和优化后的所述智能交通车辆安全检测模型进行测试，利用迁移学习方法，在m-can和b-can入侵攻击数据集上进一步对通过测试的所述智能交通车辆安全检测模型进行调整；

8、s5、利用所述m-can和b-can入侵攻击数据集对进一步调整后的所述智能交通车辆安全检测模型进行训练，获得达到预设精度的智能交通车辆安全攻击检测模型；

9、s6、对达到预设精度的所述智能交通车辆安全攻击检测模型进行消融实验，选定性能最佳的所述智能交通车辆安全攻击检测模型进行封装，基于所述智能交通车辆安全攻击检测模型，完成对智能交通车辆安全检测。

10、优选的，所述s1中，对智能交通数据集car?hacking进行数据预处理的方法包括：

11、采用pca决策树方法，对智能交通数据集car?hacking进行特征降维，保留时序信息；

12、对特征降维后的所述智能交通数据集car?hacking进行标签编码，其中，标签编码按照dos、fuzzy、gear、rpm、normal顺序进行编码；

13、对标签编码后的所述智能交通数据集car?hacking中的重复数据进行清洗，提取智能交通数据集car?hacking中的时序特征以及攻击特征。

14、优选的，所述s2中，利用所述时序特征以及攻击特征，对基于transformer多类型神经网络构建的智能交通车辆安全检测模型进行训练的方法包括：

15、将所述时序特征以及攻击特征输入transformer的向量嵌入编码层扩充维度，将离散变量转换为连续的向量表示，获得编码向量；

16、将所述时序特征以及攻击特征输入transformer的位置嵌入编码层，使用sin和cos函数进行线性变换提供位置信息，获得位置向量；

17、将所述编码向量直接与所述位置向量相加，获得transformer编码层的输入；其中，所述transformer编码层由6个相同的子层构成，每个子层包括两个部分：多头注意力层和前馈神经网络层，并且每两层之间的连接通过残差连接和归一化实现；

18、经过transformer编码层后，连接一个softmax子层来输出相关位置权值信息；

19、基于所述相关位置权值信息，利用dnn网络实现对高维特征进行分类输出。优选的，使用sin和cos函数进行线性变换的方法包括：

20、pe(pos.2i)sin(pos/1000021/dmodel)

21、pe(pos,21+11))＝cos(pos/100002i/dmodel)

22、其中，sin和cos函数分别对应一组奇数偶数序号的维度；i为序号；pos表示序列中特征的位置信息；dmodel表示编码的维度，设置为64；同时，位置嵌入函数pe(·)的输出周期被设计在2π到2π×10000的范围内，这样每个位置在不同的维度上都能获取不同的位置编码。

23、优选的，所述多头注意力层把注意力?？榉治?个头，将输入序列的每个元素与其他元素进行交互；具体的：首先，将输入序列的编码向量通过一个线性变换映射到一个高维空间，得到初始的查询、键和值三个矩阵；计算每个查询向量与所有键向量的相似度得分，并将得分进行归一化，得到注意力分数；将注意力分数与值矩阵相乘，得到注意力权重；再将注意力权重分别通过多个不同的头进行计算，得到多个加权和向量，并将它们拼接在一起，然后通过一个线性变换映射到一个低维空间，得到多头自注意力层的输出。

24、优选的，所述dnn网络包含两个隐藏层，每个隐藏层包含一个全连接层，一个relu激活函数和一个dropout函数。

25、优选的，所述s6中，对达到预设精度的所述智能交通车辆安全攻击检测模型进行消融实验的方法包括：

26、利用transformer+dnn方法作为基线，单独的dnn方法、transformer方法以及所述智能交通车辆安全攻击检测模型分别在m-can和b-can入侵数据集上进行实验，并将通过多轮测试的最佳性能安全检测模型进行封装，构建智能交通车辆安全检测系统。

27、本发明还提供了一种基于迁移学习的智能交通车辆安全检测系统，包括：数据预处理?？?、第一模型训练?？?、第一调整?？?、第二调整?？?、第二模型训练?？楹图觳饽？?；

28、所述数据预处理?？橛糜诙灾悄芙煌ㄊ菁痗ar?hacking进行数据预处理，提取智能交通数据集car?hacking中的时序特征以及攻击特征，其中，所述智能交通数据集carhacking包括dos攻击、fuzzy攻击、spoofing以及正常数据；

29、所述第一模型训练?？橛糜诶盟鍪毙蛱卣饕约肮セ魈卣?，对基于transformer多类型神经网络构建的智能交通车辆安全检测模型进行训练；

30、所述第一调整?？橛糜诙运龅谝荒Ｐ脱盗纺？橹醒盗肥莸脑げ庥胙盗肥莸某跏急昙墙写?，计算所述智能交通车辆安全检测模型的预测误差，并基于所述预测误差，对所述智能交通车辆安全检测模型的参数进行微调和优化；

31、所述第二调整?？橛糜诶盟鲋悄芙煌ㄊ菁痗ar?hacking对微调和优化后的所述智能交通车辆安全检测模型进行测试，利用迁移学习方法，在m-can和b-can入侵攻击数据集上进一步对通过测试的所述智能交通车辆安全检测模型进行调整；

32、所述第二模型训练?？橛糜诶盟鰉-can和b-can入侵攻击数据集对进一步调整后的所述智能交通车辆安全检测模型进行训练，获得达到预设精度的智能交通车辆安全攻击检测模型；

33、所述检测?？橛糜诙源锏皆ど杈鹊乃鲋悄芙煌ǔ盗景踩セ骷觳饽Ｐ徒邢谑笛?，选定性能最佳的所述智能交通车辆安全攻击检测模型进行封装，基于所述智能交通车辆安全攻击检测模型，完成对智能交通车辆安全检测。

34、与现有技术相比，本发明的有益效果为：

35、本发明提出一种基于迁移学习的智能交通车辆安全检测方法及系统，通过对智能交通数据集car?hacking进行数据预处理，采用pca决策树方法进行数据特征降维，可以从大规模数据提取到入侵数据的时间规律性，保留数据的时序特征。然后通过构建transformer模型，利用编码层对输入数据进行编码输出，并借助多头自注意力机制学习入侵攻击数据的时序特征。鉴于入侵行为检测的本质是一种攻击类型的分类任务，我们在encoder层后添加了分类网络dnn网络，以实现对入侵攻击行为的准确检测。为验证模型的泛化性，采用迁移学习的方法，直接使用在智能交通数据集car?hacking上的训练模型来进行参数微调，避免了为每个下游任务重新训练全新模型的需求，解决对忽略入侵数据时序特征信息的场景进行深度学习模型训练所产生的泛化性能不足的问题。接着为进一步验证模型的正确性以及入侵攻击数据集时序特征的重要性，进行了消融实验。最终，通过多轮测试筛选出的最佳性能智能交通车辆安全检测模型被封装，构建了性能卓越、泛化性强的智能交通车辆安全检测系统。