论文标题：《Development of an Edge Resilient ML Ensemble to Tolerate ICS Adversarial Attacks》
作者信息：
- Likai Yao, NSF Center for Cloud and Autonomic Computing, University of Arizona, Tucson, AZ 85721 USA
- Qinxuan Shi, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
- Zhanglong Yang, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
- Sicong Shao, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
- Salim Hariri, NSF Center for Cloud and Autonomic Computing, University of Arizona, Tucson, AZ 85721 USA
论文出处：可以在arXiv上找到，DOI为2409.18244v1，日期为2024年9月26日。
主要内容概述：
摘要： 文章提出了一种在工业控制系统（ICS）中部署机器学习（ML）的动态数据驱动应用系统（DDDAS）的方法，以提高安全性。然而，基于ML的DDDAS容易受到对抗性攻击的影响，因为攻击者可以稍微改变输入数据，使ML模型预测出不同的结果。本文的目标是构建一种能够通过执行数据空气间隙转换（DAGT）来匿名化数据特征空间，并使用深度神经网络和随机化用于预测的ML模型，从而设计出能够抵御对抗性攻击的弹性边缘机器学习（reML）架构。reML基于弹性DDDAS范式、移动目标防御（MTD）理论和TinyML，应用于对抗ICS上的对抗性攻击。此外，所提出的方法在功耗效率和隐私保护方面具有优势，因此可以部署在电源受限的设备上以增强ICS的安全性。这种方法通过将计算从计算密集型平台转移到资源受限的边缘设备，实现了边缘的弹性ML推理。TinyML与TensorFlow Lite的结合确保了高效的资源利用，使reML适合在各种工业控制环境中部署。reML的动态性，由弹性DDDAS开发环境促进，允许对新出现的威胁进行持续的适应和改进。最后，作者在ICS数据集上评估了他们的方法，并证明了reML为边缘设备上的弹性ML推理提供了一种可行且有效的解决方案。
1. 引言： 介绍了ICS与更广泛的设备网络集成的快速发展如何显著提高了关键基础设施（如电网、制造工厂和水处理设施）的运营效率，但这也引入了显著的网络安全风险。文章讨论了在ICS中部署ML的潜在好处和挑战，以及如何通过在边缘设备上运行ML推理来减少延迟并提高性能和弹性。
2. 相关工作： 简要介绍了DDDAS和MTD的相关研究。DDDAS通过动态数据反馈控制循环，整合了应用系统的计算和仪表方面。MTD则通过动态改变系统配置来增加攻击者的不确定性和复杂性。
3. 提出的方法： 提出了一种基于MTD、TinyML和DDDAS的reML方法来对抗对抗性攻击。首先，使用弹性DDDAS（rDDDAS）开发环境设计reML，以便在边缘设备上部署和推理。然后，描述了reML的架构。接着，讨论了DAGT的过程。
4. 实验结果： 使用密西西比州立大学和橡树岭国家实验室开发的ICS数据集进行实验，这些数据集实现了电力系统的缩小版本。数据集包括来自电力系统的良性和恶意数据点。使用基于Jacobian的Saliency Map Attack（JSMA）生成对抗性测试样本。实验结果表明，reML在检测和减轻对抗性威胁方面是有效的，同时在资源受限的边缘设备上保持了低延迟和功耗效率的操作。
5. 结论： 本文提出了一种旨在保护工业控制系统（ICS）免受对抗性攻击的弹性边缘机器学习（reML）架构。通过利用DDDAS范式、MTD理论和TinyML框架，reML通过DAGT和模型随机化展示了强大的防御机制。实验结果验证了reML在检测和减轻对抗性威胁方面的有效性，同时在资源受限的边缘设备上保持了低延迟和功耗效率的操作。reML架构的设备上攻击检测和本地ML推理能力显著提高了ICS的安全性，减少了响应时间并保留了数据隐私。
