云安全相关博客阅读（一）

news2025/1/8 11:11:42

2024-03-04 Cloudflare announces Firewall for AI

关注问题：

传统的WAF功能能够保护web和api安全，但是随着LLM等AI模型等出现，保护这些AI相关应用等安全是一个新出现的问题
虽然AI应用是新的场景，但是以往的攻击方法也能够直接用在AI应用上，如 Injection、data exfiltration
以往WAF的功能在新的AI应用场景上也能够使用，如 Rate Limiting、Sensitive Data Detection

AI应用与传统Web应用的区别：

传统web应用是行为预定义的，如交易接口定义清楚了交易账户与行为；AI应用是行为为定义的，每次调用都是用户自主的交互，返回的数据都是不同的，甚至相同的prompt给回的结果都不一样；
传统web应用对于后台数据的控制是隔离的，通过应用程序和database隔离开；AI应用中，数据本身也是AI模型的一部分，应用程序和数据并没有分离开；

Firewall for AI 能力

首先考虑模型训练与部署过程的攻击预防；训练数据的敏感数据检测与模型访问权限的控制应当做好，以预防训练期间的攻击；根据模型部署方式的不同（内部部署、公开访问、产品应用），主要区分在于对攻击流量的过滤或屏蔽行为；
模型部署后，考虑用户输入的攻击防护；如客户输入文本的敏感信息检测、用户访问的 Rate Limiting 限制；
模型部署后，考虑模型输出内容的防护；如训练数据中有内部敏感数据，则模型可能输出内部机密数据（或者是不符合预期的输出，如攻击性语言），对这些数据进行过滤或屏蔽；

具体能力实现方案

模型训练数据扫描器：允许客户定义敏感信息规则或固定扫描器
模型部署过程访问控制：AI应用权限控制（auth token）与攻击流量行为控制能力
用户输入：允许客户自定义规则进行输入扫描、限流访问等
模型输出：通过敏感词、重要信息（手机、账户等）规则检测、机器学习评分等，综合判定输出的攻击性，进行返回流量隔离
Firewall 配置：允许从JSON输入、HTTP报文指定字段等进行输入检查，允许客户进行流量行为控制；
对于用户输入、用户输出的敏感信息的检测，有可用规则库、自定义规则信息、机器学习打分模型等多种路径，最终决定攻击检测；

2024-07-25 Making WAF ML models go brrr: saving decades of processing time

能力分享：
WAF Machine Learning models 5.5x faster, reducing execution time by approximately 82%, from 1519 to 275 microseconds.

WAF Attack Score System Design

WAF ML System 工作流程：

接收原生HTTP请求；
对报文解码，如空格等恢复回明文用作展示；将HTTP报文转为payload，即需要评估检测的键值对；
对 encoded（非明文）的 payload 进行特征化，即根据词典进行 text -> vector 转换
应用多个机器学习模型对特征向量进行分类，辨别多种攻击的可能性即得分；分别判别 sqli、XSS攻击等；
汇总多个模型的鉴别结果，得到一个总的攻击可能性得分，判别攻击，进行流量控制；

提升 WAF ML System 执行效率的方案：

Feature extraction optimizations

WAF ML System 的第三步的优化，即 payload text -> vector 优化
n-gram vectorize
其过程可以视为：对 text 以固定 window-size 进行滑动编码，在 vocab 中查询 n-gram 文本的数据，转为一个 number ，最终将 text 变为一个向量 vector

因此，这个过程耗时最多的就在于 n-gram -> number 的查询操作，通常是将 vocab 存储在一个 HashMap<&[char; 3], i32> 的哈希表中，不断地进行查询；

文章提出一些对于这个哈希查询的优化方法，就算是用 rust match 的形式，让 rust 编译器帮助进行优化，都能提升50%的时间效率：

#[inline]
const fn norm_vocab_lookup(ngram: &[u8; 3]) -> usize {     
    match ngram {
        b"abc" => 1,
        b"def" => 2,
        b"wuq" => 3,
        ...
        _ => 0,
    }
}``