网络安全行业大模型调研总结

news2024/11/16 6:33:20

随着人工智能技术的发展，安全行业大模型SecLLM（security Large Language Model）应运而生，可应用于代码漏洞挖掘、安全智能问答、多源情报整合、勒索情报挖掘、安全评估、安全事件研判等场景。

本文首先介绍汇总了安全行业的大模型整体建设情况，其次，以绿盟安全大模型为例介绍了应用场景和经典案例等。

参考：

1、安全行业大模型解读｜SecLLM在外部攻击面管理中的应用之道安全行业大模型解读｜SecLLM在外部攻击面管理中的应用之道

2、安全大模型调研安全大模型调研 - 知乎

业界安全行业大模型使用及建设情况：

（1）微软---Microsoft Security Copilot

场景：协助安全分析师；支持自然语言输入，为特定漏洞生成摘要；文件、网址或代码片段分析等

（2）启明星辰---PanguBot(盘小古)【2022年】

场景：日志分析能力、告警解读能力、告警解读能力

（3）深信服---安全GPT（Security GPT）【2023.5.18发布】

场景：增强安全检测效果，通过大模型强大的推理和数据分析能力提高对流量和日志的检测能力；安全GPT具备类似专家的分析能力，对用户的安全现状进行自动化分析并形成建议；提高安全运营效率，在调查、分析、研判阶段可以作为安全运营人员的助手，提高安全运营效率；对话式智能交互，以自然语言的对话方式与用户交互，支持上下文关联语义理解，降低对于安全专业性的要求。

（4）360安全大模型【2023.8.22发布国内首个可交付的安全行业大模型】

场景：安全问答专家；安全运营专家，提供告警辅助研判、高级溯源分析、安全态势分析、安全事件预警等能力。

（5）奇安信--- Q-GPT安全机器人【2023.8.25发布】

场景：集安全风险发现、大模型访问控制、数据泄露管控、违法违规行为溯源、大模型应用分析等为一体

（6）安恒科技---AI恒脑【2023.8.28发布】

场景：威胁情报分析和事件响应

（7）绿盟科技安全大模型SecLLM---风云卫大模型【2023.9.1发布】

场景：安全运营、检测响应、攻防对抗、知识提供等

以绿盟安全行业大模型为例介绍其具体的应用：

白皮书链接：《安全行业大模型SecLLM技术白皮书》

（1）SecLLM所需能力：

安全意图理解：安全意图理解技术可以帮助模型更好地理解用户和攻击者的意图。这有助于模型更准确地分析行为，识别潜在的威胁，并区分正常行为和异常行为。
安全辅助决策:安全辅助决策技术能够为决策提供有力支持，通过模型的分析和推荐，帮助安全专业人员做出更明智的决策。这有助于快速应对安全威胁和风险。
安全日志解析:安全日志解析技术能够自动解析和分析大量的安全日志，从中提取关键信息。这有助于快速发现异常情况和潜在威胁，加强安全监控和分析能力。
告警分析研判:告警分析研判技术使模型能够对告警事件进行深入分析和判断。通过模型的辅助，可以快速确定告警的严重性、可信度和应对措施，提高响应效率。
机协同学习:人机协同学习技术能够将人类专业知识和模型的分析能力相结合，实现双方的互补。这有助于提高模型的可解释性、可信度，同时使人类专家能够从模型中获得更深入的洞察

（2）SecLLM应用举例:

FAQ 安全知识库：SecLLM可以构建一个FAQ 安全知识库，用于回答用户的安全问题用户可以查询关于网络安全、隐私保护等方面的问题，并从模型的回答中获取专业的安全信息和建议。
安全运营助手：SecLLM可以作为安全运营助手，协助安全运营人员监测网络活动识别潜在的威胁，生成告警和报告，并提供针对威胁的响应建议。这有助于提高安全运营的效率和准确性。
安全Copilot：SecLLM 可以作为一个协作式工具置入已有系统中，担任团队的“安全副驾驶员”。安全Copilot可被用于分析大量的安全数据，为安全团队提供决策支持威胁情报分析和事件响应建议，帮助团队更好地应对安全挑战。

（3）SecLLM案例举例: