日志存档及解析

news2024/11/26 2:53:30

网络中的每个设备都会生成大量日志数据,日志数据包含有关网络中发生的所有活动的关键信息,存储所有这些数据并对其进行管理对组织来说是一项挑战,因此,这些日志文件被压缩并存储在效率较低的存储介质中,无法轻松检索。这些文件称为非活动日志文件。

日志存档是通过压缩、存档和索引压缩文件以供保留和将来使用,从而有效地存储所有这些非活动日志文件的过程。

在日志存档期间,日志文件将从当前日志路径或镜像日志路径传输到另一个位置,这样可以释放存储当前日志所需的空间,同时使您能够无限期地存储存档日志,意外删除存档文件的可能性较小,因为员工不会定期访问它们。

存储大量数据将有助于满足审计和监管要求,当对网络攻击进行调查时,并确保业务连续性。但是,存储和维护日志文件所需的资源往往会变得昂贵,超过了上述好处。

这是组织必须在安全性和存储需求之间取得平衡的地方。

归档日志并对其进行维护有助于您进行有效的风险管理,提高安全性,并通过恢复归档日志来防止数据丢失。

构建日志存档要考虑的因素

构建和维护日志归档需要相当大的存储空间,因为即使是简单的网络架构也会立即生成大量日志数据,因此,在开始存档过程之前考虑这些问题至关重要。

  • 可以存储多少日志数据?
  • 应该如何组织它们?
  • 需要多久更新一次存档的日志数据,以及检索数据的速度有多快?

应该在日志存档中存储什么

保存有关网络安全和性能的信息的日志应优先存储。以下是您需要存储的一些重要日志事件:

  • 记录符合法规要求所需的事件
  • 管理员活动
  • 用户操作,如登录名和命令
  • 错误、异常和警告

为什么要存档日志

  • 遵守法规:全球监管机构都要求将日志数据保留至少一年,例如,HIPAA 合规性要求组织将日志存储长达 6 年,SOX 法规要求组织将审计日志存储 7 年,等等。一些国家/地区还制定了重要的数据保护法,对违反客户数据保护规定的组织处以巨额罚款。
  • 防止数据丢失:存档的日志文件存储在单独的位置,以保护它们免受任何数据丢失,由于存档文件很少被访问并使用安全 paswords 进行保护,因此意外删除数据的可能性要小得多。
  • 降低成本:活动日志存储在昂贵的存储介质上,例如 SSD,这些介质旨在提高性能,即速度和可用性。存档的日志文件不经常使用,因此可以对其进行压缩并存储在具有成本效益和存储效率的系统中,从而为组织节省大量成本。
  • 提高安全性:存档的日志数据有助于提高网络的安全性。在发生网络攻击时,可以从存档中检索和恢复日志数据,以执行取证分析。进行取证分析是为了确定攻击的证据、数据恢复,并找到允许攻击发生的漏洞,通过对存档日志进行取证分析,可以准确确定网络攻击发生的时间和方式。

在这里插入图片描述

什么是日志解析

日志解析是拆分非结构化日志数据并将其转换为结构化格式的过程,这样可以更轻松地理解、分析和存储日志。

日志解析工具会分析日志并将其拆分为不同的字段,例如日期和时间、事件 ID、类型、级别、源、计算机名称、用户、任务类别和消息,以便于理解。

日志分析的类型

有两种方法可以解析日志:正则表达式(RegEx)和 分隔符日志解析。

正则表达式日志解析

正则表达式(RegularEx)是正则表达式(Regular Expressions)的缩写,它是一种用于模式搜索和替换的领域特定语言。

正则表达式允许您使用将从日志事件中提取数据的模式创建自定义查询。它可以帮助您从非结构化数据中提取日期、时间和日志类型等唯一字段,从而更轻松地对它们进行排序、筛选和处理。

日志解析工具可帮助您在复杂的内置模块的帮助下无缝创建正则表达式模式。

分隔符日志解析

日志在一行中由不同的信息组成,例如日志类型、日期、时间和错误。我们可以借助逗号 (,)、分号 (;)、大括号 ({}) 和竖线 (|) 等分隔符来拆分这些数据。这种类型的分析使对所需数据进行排序和筛选的过程更加高效。

使用分隔符时,不必依赖文本中的固定宽度,分隔符允许您在正确的位置断开日志中的信息,即使信息不对称或遵循某种模式,也有助于对数据进行排序和筛选。

在处理复杂数据时,将带分隔符的字符串转换为数据集的能力非常有益。

日志解析的用途

  • 分析来自单个存储库的日志:从日志文件分析或调试问题是一个繁琐的过程。使用日志解析器,您可以快速组织日志并解决问题。
  • 使用取证分析发现安全漏洞:功能强大的日志解析应用程序可以使用取证分析来搜索大量日志数据,包括通配符、短语和布尔运算符,以及分组搜索和范围搜索。
  • 系统日志分析:更好地理解日志,更好地理解和结构化分类日志将简化日志分析过程。

日志管理工具(EventLog Analyzer)可以自动存档从Windows、Unix或Linux系统、网络设备、数据库、应用程序、服务器等收集的所有事件日志和系统日志。并具有强大的解析功能,可以简化从日志中提取所有相关信息的过程,并帮助管理员轻松了解网络事件。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1219520.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

联想Win11系统的任务栏格式调整为居中或居左

一 .目的 联想Win11系统的任务栏格式调整为居中或居左 二 .方法 2.1 鼠标任意放到电脑桌面位置,点击鼠标右键,显示后县级【显示设置】 2.2 个性化→任务栏→任务栏行为→对其方式:按需或个人习惯进行选择【靠左】 2.3 成功调整&#x…

基于plc的柔性制造系统供料检测单元的设计(论文+源码)

1.系统设计 本次基于plc的柔性制造系统供料检测单元的设计,其系统结构框图如图2.1所示,系统采用西门子S7-200 型号的PLC作为主控制器,并结合温度传感器,重量传感器,限位开关,变频器等器件来构成整个系统&a…

超详细的Monkey测试介绍

前言 Monkey 是Android SDK提供的一个命令行工具, 可以简单,方便地运行在任何版本的Android模拟器和实体设备上。 Monkey会发送伪随机的用户事件流,适合对app做压力测试 。 环境搭建 安装Android SDK 并配置环境变量 什么是Monkey 顾名…

Figma快速指南:3点核心技巧助你迅速掌握!

Figma确立了在线设计工具的形式,在国际上具有不可低估的影响力。Figma颠覆了传统的设计模式,不仅是为了设计师,也是为了设计本身。从产品经理到研究人员,从开发人员到营销人员,设计过程需要很多团队角色的参与&#xf…

element-china-area-data使用问题

使用CodeToText报错,下载的时候默认下载最新版本的, 稳定版本5.0.2版本才可以 npm install element-china-area-data5.0.2 -S

基于SpringBoot的SSMP整合案例(业务层基础开发与快速开发)

业务层基础开发 接口类public interface BookService {boolean save(Book book);boolean update(Book book);boolean delete(Integer id);Book getById(Integer id);List<Book> getAll();IPage<Book> getByPage(int currentPage,int pageSize);IPage<Book> …

c语言学习记录 c语言本身有什么

这里写自定义目录标题 欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题&#xff0c;有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants 创建一个自定义列表如何创建一个…

Docker容器启动时初始化MySQL数据库

1.前言   Docker在开发中使用的越来越多了&#xff0c;最近搞了一个Spring Boot应用&#xff0c;为了方便部署将Mysql也放在Docker中运行。那么怎么初始化 SQL脚本以及数据呢? 我这里有两个传统方案。 第一种方案是在容器启动后手动导入&#xff0c;太low了不行。第二种在Sp…

骨传导能保护听力吗?骨传导耳机是智商税吗?

先说答案&#xff0c;骨传导耳机是可以保护听力的&#xff01;并且骨传导耳机也不是智商税&#xff01;甚至在某些场景下&#xff0c;骨传导耳机比其他耳机更适合。 为什么说骨传导耳机会保护听力呢&#xff1f;因为骨传导耳机跟入耳式耳机的传递声音方式是不一样的&#xff0c…

将Agent技术的灵活性引入RPA,清华等发布自动化智能体ProAgent

近日&#xff0c;来自清华大学的研究人员联合面壁智能、中国人民大学、MIT、CMU 等机构共同发布了新一代流程自动化范式 “智能体流程自动化” Agentic Process Automation&#xff08;APA&#xff09;&#xff0c;结合大模型智能体帮助人类进行工作流构建&#xff0c;并让智能…

十大热门骨传导蓝牙耳机排行榜,精选最佳的五款骨传导蓝牙耳机

排行榜十大热门骨传导耳机&#xff0c;哪些才是综合实力最强的骨传导耳机&#xff1f; 近年来&#xff0c;骨传导耳机越来越受欢迎。由于骨传导耳机不需要插入耳朵&#xff0c;用户能够同时感知周围环境的声音&#xff0c;不会完全隔绝外界&#xff0c;增加了使用时的安全性。…

Hive Lateral View explode列为空时导致数据异常丢失

一、问题描述 日常工作中我们经常会遇到一些非结构化数据&#xff0c;因此常常会将Lateral View 结合explode使用&#xff0c;达到将非结构化数据转化成结构化数据的目的&#xff0c;但是该方法对应explode的内容是有非null限制的&#xff0c;否则就有可能造成数据缺失。 SE…

cocos----刚体

刚体&#xff08;Rigidbody&#xff09; 刚体&#xff08;Rigidbody&#xff09;是运动学&#xff08;Kinematic&#xff09;中的一个概念&#xff0c;指在运动中和受力作用后&#xff0c;形状和大小不变&#xff0c;而且内部各点的相对位置不变的物体。在 Unity3D 中&#xff…

拼多多百亿补贴商品详情API接口系列

拼多多API接口是拼多多网提供的一种应用程序接口&#xff0c;允许开发者通过程序访问拼多多网站的数据和功能。通过拼多多API接口&#xff0c;开发者可以开发各种应用程序&#xff0c;如店铺管理工具、数据分析工具、购物比价工具等。在本章中&#xff0c;我们将介绍拼多多API接…

pdb restore in ADG database

Effect of PITR on Dataguard Environment (Standby MRP Crashed with ORA-39873) (Doc ID 1591492.1)​编辑To Bottom In this Document Symptoms Cause Solution APPLIES TO: Oracle Database Cloud Exadata Service - Version N/A and later Oracle Database Cloud Servic…

“轻松实现文件复制备份,自动编号轻松管理

在日常工作中&#xff0c;我们经常需要复制文件到另一个文件夹进行备份或整理。然而&#xff0c;手动复制粘贴不仅效率低下&#xff0c;还容易出错。为了解决这个问题&#xff0c;我们推出了一款全新的文件工具——【文件批量改名高手】&#xff0c;让你轻松搞定文件复制备份&a…

生命在于学习——主板跳线的学习

一、前言 好吧&#xff0c;又是一个我之前没接触过的东西&#xff0c;秉持遇到什么就学什么的精神&#xff0c;来学&#xff01; 我一发小来找我&#xff0c;问我关于跳线的事情&#xff0c;我就一个表情&#xff1a; 好吧&#xff0c;我承认&#xff0c;纵观我23岁&#xf…

拼多多商家私信群发脚本,按键精灵版工具,源码分享

也是用按键精灵写的&#xff0c;实现的功能就是通过图色识别拼多多商品列表然后逐个对商家客服进行私信&#xff0c;私信内容可以在脚本里面提前配置好&#xff0c;代码怎么部署&#xff1f;回答&#xff1a;粘贴到你的按键精灵就行了&#xff0c;因为代码完全开源。 UI界面&a…

⑩① 详解Linux安装 MySQL 8.0【保姆级教程】

个人简介&#xff1a;Java领域新星创作者&#xff1b;阿里云技术博主、星级博主、专家博主&#xff1b;正在Java学习的路上摸爬滚打&#xff0c;记录学习的过程~ 个人主页&#xff1a;.29.的博客 学习社区&#xff1a;进去逛一逛~ Linux - MySQL8.0安装 ⑩①【Linux】MySQL8.0安…

谷歌浏览器F12/打开开发者工具网络就无法连接报错

刷新页面就出现提示&#xff1a; 原因&#xff1a;浏览器网络设置的问题&#xff0c;网络设置了离线状态&#xff0c;切换回3G即可。