图片由通义万相绘制
MITRE ATLAS™(人工智能系统的对抗威胁格局)是一个关于机器学习 (ML) 系统的对手战术、技术和案例研究的知识库,基于现实世界的观察、ML红队和安全小组的演示,以及学术研究的可能性状态。ATLAS 是仿照MITRE ATT&CK ®框架建模的 ,其策略和技术与 ATT&CK 中的策略和技术是互补的。
ATLAS 使研究人员能够了解机器学习系统面临的威胁 。机器学习越来越多地应用于各个行业。机器学习中的漏洞越来越多,其使用增加了现有系统的攻击面。ATLAS 是为了提高人们对这些威胁的认识,并以安全研究人员熟悉的方式呈现它们。
ATLAS 矩阵包括侦察、资源开发、初始访问、机器学习模型访问、执行、持久化、权限提升、防御规避、凭证访问、发现、收集、机器学习攻击阶段、渗透、影响共14个阶段。
0****1
侦察
侦察包括搜索受害者的公开研究材料、公开的对抗性漏洞分析、受害者拥有的网站、应用程序商店及主动扫描。
由于篇幅有限,各位直接点击嚯取哦:CSDN大礼包:《黑客&网络安全入门&进阶学习资源包》免费分享
200多本网络安全系列电子书
网络安全标准题库资料
项目源码
网络安全基础入门、Linux、web安全、攻防方面的视频
网络安全学习路线图
0****2
资源开发
资源开发包括获取公开的ML项目成果或资产(例如数据集、模型配置、参数等)、获得能力(对抗性机器学习攻击实施、软件工具)、开发对抗性机器学习攻击能力、获取基础设施(机器学习开发工作空间【例如集成开发环境、深度学习框架、可视化工具、版本控制系统等】、消费类硬件)、发布中毒数据集、毒训练数据、建立账户。
0****3
初始访问
初始访问包括机器学习供应链威胁(GPU硬件、机器学习软件、数据、模型)、有效账户、规避机器学习模型、利用面向公众的应用程序、LLM即时注入、网络钓鱼。
0****4
机器学习模型访问
机器学习模型访问包括ML模型推理API访问、支持ML的产品或服务、物理环境访问、完整的ML模型访问。
0****5
执行
执行包括用户执行(不安全的机器学习工件)、命令和脚本解释器、LLM插件威胁。
0****6
持久化
持久化包括毒数据训练、后门机器学习模型(毒ML模型、注入有效负载)、LLM即时注入。
0****7
权限提升
权限提升包括LLM即时注入、LLM插件威胁、LLM越狱。
0****8
防御规避
防御规避包括规避机器学习模型、LLM即时注入、LLM越狱。
0****9
凭证访问
攻击者可能会搜索受感染的系统以查找并获取不安全存储的凭据。
0****10
发现
发现包括发现ML模型本体、探索ML模型系列、发现机器学习结果或副产品【特征工程、超参数调整、模型评估指标等】、LLM元提示提取。
0****11
收集
收集包括ML相关数据和信息、来自信息存储库的数据、来自本地系统的数据。
0****12
机器学习攻击阶段
机器学习攻击阶段包括创建代理ML模型(通过收集的ML数据和信息训练代理模型、通过复制训练代理模型、使用预先训练的模型)、后门机器学习模型(毒ML模型、注入有效负载)、验证攻击、制作对抗性数据(白盒优化、黑盒优化、黑匣子传输、手动修改、插入后门触发器)。
0****13
渗透
渗透包括通过ML Inferene API进行渗透(推断训练数据成员资格、反转机器学习模型、提取机器学习模型)、通过网络手段进行渗透。
0****14
影响
影响包括规避机器学习模型、拒绝机器学习服务、向ML系统提供假数据或干扰数据、破坏机器学习模型的完整性、增加机器学习成本、机器学习知识产权盗窃、系统滥用造成外部影响。
主要缓解措施包括限制公开信息的发布、限制公开的技术项目细节、被动ML输出混淆、模型强化、限制ML模型查询的数量、控制对ML模型和静态数据的访问、使用集成方法、清理训练数据、验证机器学习模型、使用多模态传感器、输入恢复、限制库加载、加密敏感信息、代码签名、验证ML结果或副产品、对抗性输入检测、漏洞扫描、模型分布方法、用户培训等。详细信息请查看https://atlas.mitre.org
题外话
初入计算机行业的人或者大学计算机相关专业毕业生,很多因缺少实战经验,就业处处碰壁。下面我们来看两组数据:
-
2023届全国高校毕业生预计达到1158万人,就业形势严峻;
-
国家网络安全宣传周公布的数据显示,到2027年我国网络安全人员缺口将达327万。
一方面是每年应届毕业生就业形势严峻,一方面是网络安全人才百万缺口。
6月9日,麦可思研究2023年版就业蓝皮书(包括《2023年中国本科生就业报告》《2023年中国高职生就业报告》)正式发布。
2022届大学毕业生月收入较高的前10个专业
本科计算机类、高职自动化类专业月收入较高。2022届本科计算机类、高职自动化类专业月收入分别为6863元、5339元。其中,本科计算机类专业起薪与2021届基本持平,高职自动化类月收入增长明显,2022届反超铁道运输类专业(5295元)排在第一位。
具体看专业,2022届本科月收入较高的专业是信息安全(7579元)。对比2018届,电子科学与技术、自动化等与人工智能相关的本科专业表现不俗,较五年前起薪涨幅均达到了19%。数据科学与大数据技术虽是近年新增专业但表现亮眼,已跻身2022届本科毕业生毕业半年后月收入较高专业前三。五年前唯一进入本科高薪榜前10的人文社科类专业——法语已退出前10之列。
“没有网络安全就没有国家安全”。当前,网络安全已被提升到国家战略的高度,成为影响国家安全、社会稳定至关重要的因素之一。
网络安全行业特点
1、就业薪资非常高,涨薪快 2021年猎聘网发布网络安全行业就业薪资行业最高人均33.77万!
2、人才缺口大,就业机会多
2019年9月18日《中华人民共和国中央人民政府》官方网站发表:我国网络空间安全人才 需求140万人,而全国各大学校每年培养的人员不到1.5W人。猎聘网《2021年上半年网络安全报告》预测2027年网安人才需求300W,现在从事网络安全行业的从业人员只有10W人。
行业发展空间大,岗位非常多
网络安全行业产业以来,随即新增加了几十个网络安全行业岗位︰网络安全专家、网络安全分析师、安全咨询师、网络安全工程师、安全架构师、安全运维工程师、渗透工程师、信息安全管理员、数据安全工程师、网络安全运营工程师、网络安全应急响应工程师、数据鉴定师、网络安全产品经理、网络安全服务工程师、网络安全培训师、网络安全审计员、威胁情报分析工程师、灾难恢复专业人员、实战攻防专业人员…
职业增值潜力大
网络安全专业具有很强的技术特性,尤其是掌握工作中的核心网络架构、安全技术,在职业发展上具有不可替代的竞争优势。
随着个人能力的不断提升,所从事工作的职业价值也会随着自身经验的丰富以及项目运作的成熟,升值空间一路看涨,这也是为什么受大家欢迎的主要原因。
从某种程度来讲,在网络安全领域,跟医生职业一样,越老越吃香,因为技术愈加成熟,自然工作会受到重视,升职加薪则是水到渠成之事。
黑客&网络安全如何学习
今天只要你给我的文章点赞,我私藏的网安学习资料一样免费共享给你们,来看看有哪些东西。
由于篇幅有限,各位直接点击嚯取哦:CSDN大礼包:《黑客&网络安全入门&进阶学习资源包》免费分享### 1.学习路线图
攻击和防守要学的东西也不少,具体要学的东西我都写在了上面的路线图,如果你能学完它们,你去就业和接私活完全没有问题。
2.视频教程
网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己录的网安视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。
内容涵盖了网络安全法学习、网络安全运营等保测评、渗透测试基础、漏洞详解、计算机基础知识等,都是网络安全入门必知必会的学习内容。
(都打包成一块的了,不能一一展开,总共300多集)
3.技术文档和电子书
技术文档也是我自己整理的,包括我参加大型网安行动、CTF和挖SRC漏洞的经验和技术要点,电子书也有200多本,由于内容的敏感性,我就不一一展示了。
4.工具包、面试题和源码
“工欲善其事必先利其器”我为大家总结出了最受欢迎的几十款款黑客工具。涉及范围主要集中在 信息收集、Android黑客工具、自动化工具、网络钓鱼等,感兴趣的同学不容错过。
还有我视频里讲的案例源码和对应的工具包,需要的话也可以拿走。
由于篇幅有限,各位直接点击嚯取哦:CSDN大礼包:《黑客&网络安全入门&进阶学习资源包》免费分享
最后就是我这几年整理的网安方面的面试题,如果你是要找网安方面的工作,它们绝对能帮你大忙。
这些题目都是大家在面试深信服、奇安信、腾讯或者其它大厂面试时经常遇到的,如果大家有好的题目或者好的见解欢迎分享。
参考解析:深信服官网、奇安信官网、Freebuf、csdn等
内容特点:条理清晰,含图像化表示更加易懂。
内容概要:包括 内网、操作系统、协议、渗透测试、安服、漏洞、注入、XSS、CSRF、SSRF、文件上传、文件下载、文件包含、XXE、逻辑漏洞、工具、SQLmap、NMAP、BP、MSF…