应对AI与机器学习的安全与授权管理新挑战，CodeMeter不断创新引领保护方案

news2024/12/26 0:34:25

人工智能（AI）和机器学习（ML）技术正在快速发展，逐渐应用到全球各类主流系统、设备及关键应用场景中，尤其是在政府、商业和工业组织不断加深互联的情况下，AI和ML技术的影响日益广泛。虽然AI技术的应用领域非常广泛，如自动驾驶系统和医疗技术等，但与物联网（IoT）设备和工业物联网（IIoT）系统面临的网络安全风险相似，AI和ML技术也面临各种攻击风险，这些攻击可能导致系统的严重失效和灾难性后果。

威步致力于软件安全及授权管理，保护数字知识产权，深知保护AI和ML数据安全的必要性。为了应对AI系统面临的安全挑战，CodeMeter系列产品提供了一整套针对AI和ML模型的保护工具，涵盖从加密、授权到安全部署与执行的全生命周期解决方案。CodeMeter不仅保护AI系统的功能安全性，还保护独特的专有算法和数据，确保这些AI资产不被篡改、盗窃或未授权使用。

AI与ML面临的安全威胁

美国国家标准与技术研究院（NIST）曾指出：“尽管生成式AI具有潜在的变革性优势，但其也带来了与传统软件显著不同的风险。”2024年1月，NIST发布了关于AI系统独有的网络攻击类型的详细信息：对抗性机器学习。此类攻击中，攻击者通过“污染”或“毒化”AI系统用于训练的数据，使AI系统发生错误。

对抗性机器学习是一种通过提供欺骗性输入来操控机器学习模型的方法。这些欺骗性输入可能导致机器学习模型错误运行，从而可能暴露数据或中断其功能。CodeMeter Protection Suite能够有效应对这些风险，通过对可执行文件和数据的加密与保护，阻止外部攻击者的篡改与逆向工程攻击。

举个简单的例子，普林斯顿大学、加州大学伯克利分校及普渡大学的研究人员展示了对抗性机器学习在操控自动驾驶车辆方面的潜在危险。自动驾驶车辆依赖机器学习模型来识别道路标志，而对路标的轻微修改，例如在“让行”标志上贴上一张贴纸，就可能导致机器学习模型误识别。而CodeMeter系列产品可以通过加密和完整性保护，防止类似的篡改攻击，确保AI系统能够在面对恶意输入时保持稳定和安全。

四种主要攻击类型及应对方案

NIST报告中列出了四种主要的攻击类型：规避攻击、毒化攻击、隐私攻击和滥用攻击。

规避攻击：攻击者在AI系统部署后，通过改变输入数据使系统错误响应。例如，通过在停车标志上加上特殊标记，使自动驾驶车辆误认它为限速标志。威步的CodeMeter产品通过加密和实时完整性校验，能够有效防止这种类型的输入操控。

毒化攻击：在AI系统的训练阶段，攻击者引入被污染的数据，例如在对话记录中混入不当语言，使聊天机器人将其视为常见表达并用于客户互动。威步的AxProtector Python可以保护训练数据，防止数据被污染或操控，确保模型的训练质量。

隐私攻击：攻击者在AI系统的部署阶段试图通过学习模型及其训练数据中的敏感信息来加以利用。CodeMeter可以保护AI模型的知识产权和训练数据，防止攻击者通过逆向工程获取机密信息。

滥用攻击：此类攻击通过合法但受损的来源向AI提供错误信息，例如在网页或文档中插入错误内容。CodeMeter的加密和授权机制可以确保AI模型仅从可信来源获取数据，从而避免滥用攻击对AI行为的影响。

威步的解决方案

在应对上述AI和ML面临的安全挑战时，威步的CodeMeter系列提供了一整套集成的安全保护方案。CodeMeter Protection Suite可以加密AI和ML应用中的可执行文件和数据，防止逆向工程和篡改。通过使用成熟的加密算法，CodeMeter可以在运行时对函数和数据进行加密解密，并且将关键数据材料安全存储在安全硬件中，从而保证数据的机密性和完整性。

由于开源框架的广泛使用，以及Python语言在AI开发中的流行，AI应用程序通常使用Python编写。AxProtector Python提供了多层次的安全保护，专门用于Python类软件的加密和授权管理。它能够加密Python应用程序的框架代码和数据，从而防止未经授权的使用和知识产权盗窃。此外，AxProtector Python还支持灵活的授权机制，开发者可以对Python脚本设置精细化的使用权限，例如基于时间的授权、功能模块的使用限制等，以此确保软件的商业模式得到有效保护。对于保护模型的训练数据和算法，AxProtector Python通过加密和代码完整性校验，确保其不被篡改和滥用，为开发者提供了一个全方位的加密保护方案，从而减少潜在的安全漏洞和知识产权泄露风险。