IT运维:使用数据分析平台监控PowerStore存储

news2024/11/26 16:53:36

概述

存储在企业中一直承担着重要的角色,保证数据的安全性更是重中之重。存储的运行是否正常?我们的数据是否安全?存储管理人员的操作是否规范?这些都是企业需要关注的问题。那么该如何确保这些问题能够有效的解决?我们的选择是鸿鹄数据平台。通过鸿鹄将存储的安全日志,操作日志,告警日志集中的存储,利用其搜索功能,可以快速的定位问题,并且可以通过其丰富的报表功能进行展示。

监控目标

监控安全事件,如用户登录

监控操作事件,如用户的操作行为

监控告警事件,如存储运行状态的告警

实现以上监控的图表展示

安装vector

Vector作为数据采集器,可以接收设备的syslog日志,并转发鸿鹄平台。Vector配置方法参考下文:

安装Vector

图片

查看安装后vector版本,确认安装成功

vector安装好后,直接执行vector 时,系统首先会去/usr/bin下寻找命令,如果不在这个目录中,就会找不到了。这个时候我们就需要为这些找不到的命令建立一个链接文件,链接到/usr/bin下  

图片

(详细代码请至文末扫码加入鸿鹄交流群,获取鸿鹄知识库)

登录鸿鹄平台,数据管理>新建数据集

图片

图片

编辑数据源名称,选择数据集范围为上面创建的“switch”,此时会启用

图片

创建syslog.toml脚本,需要调整字段

address = "0.0.0.0:514":0.0.0.0表示接收所有主机发送过来的syslog,514表示接收的端口(syslog默认为514)

mode = "udp":表示接收syslog的协议syslog默认为udp)

._target_table = "switch" : 表示上文你创建的数据集名称

address = "172.20.6.111:9092":鸿鹄的IP和相应的端口

图片

运行修改的syslog脚本,注意保持运行状态。

图片

(详细代码请至文末扫码加入鸿鹄交流群,获取鸿鹄知识库)

登录设备触发syslog(注:登录设备会自动触发syslog)。登录鸿鹄平台查看数据是否导入到switch数据集。如下图事件计数已经显示数据导入成功

图片

查询下通过vector导入到switch数据集的数据,比如这里我查看下存储的日志

图片

图片

配置PowerStore syslog

登录到PowerStore存储,Setting>Remote Logging>ADD

Host/IP Address 填写鸿鹄的地址

协议:默认是udp(与上文syslog.toml里一致)

端口号:默认514(与上文syslog.toml里一致)

Audit Type:全选

图片

SEND TEST MASSEGE,发送测试一个日志信息测试下鸿鹄是否收到

图片

在鸿鹄上查询下日志,发现已经收到存储发送的测试日志,至此配置syslog完成

图片

字段抽取

通常情况下,存储发送过来的日志是由多种类型的,比如登录相关日志,配置相关日志,这些日志的格式在鸿鹄中会先进行一次字段抽取,我们可以在看到默认抽取的字段,如果这些字段已经包含了你需要的,那么可以直接使用。如果有些字段并未抽取,那么就需要你自己抽取,鸿鹄支持正则表达式的方式抽取字段。

以下面的日志为例,我们进行正则表达式的编写

图片

我们可以将日志复制到正则表达式测试网站上来编写,这样能随时知道哪里写错了。以下是我使用的测试网站https://regex101.com/

图片

正则表达式如下

\w+\s\d+\s\d{2}:\d{2}:\d{2}\s\w+-\w+\s\[\d+]:\s\d+-\d+-\d+\w+\d+:\d+:\d+.\d+\s\w+-\w+\s\w+\s\w+@(?\w+)\s(?\w+)\s\[\w+@\w+\s\w+="(?\d+)"\s\w+="(?\w+)"\s\w+="(?\w+)"\s\w+="(?\w+)"\s\w+=(?"[^"]*")\s\w+=(?"[^"]*")\s\w+=(?"[^"]*")]\s(?.+)

ps_syslog,这里是需要新建的视图名称

switch._time 脚本中由第六行开始switch均指的需要抽取数据的原数据集,这里需要根据你的数据集名称替换

where contains( switch._message, 'powerstore') 'powerstore'指的是你要搜索到这个写日志特定的字段,通过powerstore可以限定日志里所有包含powerstore的日志

图片

(完整代码请至文末扫码加入鸿鹄交流群,获取鸿鹄知识库)

在高阶查询中运行,成功

图片

我们运行下搜索语句测试下,可以看到我们抽取出来的字段

图片

图表创建

在进行图表展示前有一个重要的点需要提一下,一般存储在没有触发其日志时,是不会生成日志的。我们需要图表展示,那么就需要尽可能多的日志数据。我们可以在存储上进行一些操作,比如登录、创建测试卷、删除测试卷等,以便丰富日志数据。

仪表板>新建仪表板

图片

创建完成

图片

图表创建方法1

这里我会介绍两种创建图表的方式,一般建议采用第二种方式。鸿鹄支持多种图表的样式,只要搜索语句能够正常生成结果数据,那么就可以选择对应的图表。本文不会介绍所有图表的样式,只针对创建方式进行描述。第一种就是在仪表板内创建图表,方法如下:

新建图表>设备数量
选择图表类型:单值趋势图
查询语句:这个语句可以先在查询里验证,确认查找的结果是想要的
时间范围:选择30天,可以根据自己的情况调整

图片

图片

生成图表

图片

图表创建方法2

图表创建第二种是先搜索,后使用搜索的数据生成图表添加到对应的仪表盘,方法如下:

在查询里输入搜索语句

图片

图片

在查询语句运行完后,点击新建图表

图表类型:可以从各种图表类型中根据需求选择

标题:操作行为统计

选择仪表板:意思是将该图表保存到哪个仪表板

图片

添加后可以在仪表板里看到添加的图表

图片

以上两种方法大家可以根据情况选择,第二种更加直观简单。图表的展示这里我不详细展示,将搜索语句列出,可以给大家参考。

搜索语句

以下列出所有本文中的搜索语句,供参考

小提示:搜索语句命令部分会调用抽取的字符段,如果未抽取字符段,会出现报错

图片

(完整代码请至文末扫码加入鸿鹄交流群,获取鸿鹄知识库)

效果展示

图片

图片

延伸项

按照上文的图表创建,都是在图表生成时选择好图表的时间,比如30天,或者1天的数据展示,在实际场景中,如果我们查看图表时,想要所有的图表可以根据选择灵活的显示该怎么做,比如我想看1天的,想看7天的,那么这时候我们可以做一个”时间项“,方法如下:

创建时间选择

编辑

图片

添加输入

图片

输入类型:选择时间

标记名称:time_range(这个用于给图表调用)

显示标签:这个时间项显示的名字

默认标记值:这里根据自己的情况选择,我一般选择相对时间,设置成30天

图片

确定后会生成一个时间选择的项

图片

调用时间选择

选择想要调用的图表,选择编辑查询

图片

将查询时间范围改为时间标记值,标记名称time_range(上文创建的时间选择时填写的标记名称)

图片

保存后就可以在”时间选择“里选择想要查看的时间,点击应用,图表就会根据时间变化了

图片

总结

通常来讲,存储设备本身会提供自己的日志审计功能,它本身也能够支持查看,简单的搜索,但是我们再深入下看待这个事情,如果我们有1套存储,存储本身的功能能够支撑,但如果我们有10台,甚至更多的存储呢?利用鸿鹄我们可以通过syslog的方式,将存储的数据统一的存储,并且利用其搜索语句进行快速的搜索,并生成相应的图表展示,这样可以大大节省我们的运维工作。

后续工作

本次针对存储只是基于现有的日志数据进行初步的展示,后续随着日志的丰富,我们还会需要进一步的进行优化,大致方向包含

  • 多套存储设备监控,比如我们有10套存储,我们应该能够灵活的选择查看具体每套存储的情况,图表会根据我们选择的存储进行变化

  • 硬件故障监控,比如硬盘故障、控制器故障、链路故障

  • 监控的告警,在某些error事件时,主动的触发邮件的告警

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/858931.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

STM32基于CubeIDE和HAL库 基础入门学习笔记:蓝牙 WIFI STM32连接阿里云

文章目录: 一:蓝牙模块 1.蓝牙模块透传收发测试程序 bt.h bt.c usart.c main.c 2.蓝牙模块AT指令发送与回复判断程序 usart.c main.c 3.蓝牙模块APP按钮控制应用程序 main.c 4.蓝牙模块APP专业调试测试程序(操控界面:按…

2023国赛 高教社杯数学建模ABCDE题思路汇总分析

文章目录 0 赛题思路1 竞赛信息2 竞赛时间3 建模常见问题类型3.1 分类问题3.2 优化问题3.3 预测问题3.4 评价问题 4 建模资料 0 赛题思路 (赛题出来以后第一时间在CSDN分享) https://blog.csdn.net/dc_sinor?typeblog 1 竞赛信息 全国大学生数学建模…

进样顺序对列排斥能的影响

( A, B )---3*30*2---( 1, 0 )( 0, 1 ) 让网络的输入有3个节点,训练集AB各由6张二值化的图片组成,让AB中各有1个1,排列组合所有可能 ,统计迭代次数并排序。 差值结构 A-B 迭代次数 36组平均迭代次数 - 2 1 1*0*0*0*0*0-2*…

qt在vs中编译出现link2001时,不会生成moc文件了

现象: 解决方法: 在对应头文件-属性-配置属性-常规-项类型-改为Qt Meta-Object Compiler (moc) 即可。 有时候不知道啥原因头文件类型变成普通C头文件

深入解析中国供应商API:关键字搜索接口对接与商品数据交互指南

随着电商行业的快速发展,越来越多的企业开始与中国供应商进行合作。而为了实现有效的数据交换和协作,接口对接成为了不可或缺的一环。本文将深入探讨中国供应商API,介绍如何高效地进行接口对接与数据交互,并提供实用的Python示例代…

构建之法 - 软件工程实践教学:每天都向前推进一点点

作者:福州⼤学 汪璟玢⽼师 汪老师:每次都向前推进一点点,哪怕只有一点点,也好过什么都不做。 ​邹老师:对,几个学期下来,就已经超过那些“空想”的团队很远了。坚持下去! 汪老师&…

以商业大数据技术助力数据合规流通体系建立,合合信息参编《数据经纪从业人员评价规范》团标

经国务院批准,由北京市人民政府、国家发展和改革委员会、工业和信息化部、商务部、国家互联网信息办公室、中国科学技术协会共同主办的2023 全球数字经济大会于近期隆重召开。由数交数据经纪(深圳)有限公司为主要发起单位,合合信息…

『C语言初阶』第七章 -初识指针

前言 时隔多日小羊又来给铁汁们更新C语言之初识指针,指针是C语言中一个关键且强大的概念,理解和掌握指针对于编写高效、灵活的程序至关重要。本文将详细解释C语言中的指针,帮助初学者迈出掌握编程世界的第一步。 一、指针是什么?…

无涯教程-Perl - int函数

描述 此函数返回EXPR的整数元素,如果省略则返回$_。 int函数不进行舍入。如果需要将值四舍五入为整数,则应使用sprintf。 语法 以下是此函数的简单语法- int EXPRint返回值 此函数返回EXPR的整数部分。 例 以下是显示其基本用法的示例代码- #!/usr/bin/perl$int_valint…

PromQL实现Actuator获取的JVM指标的Full GC次数监控

Spring Boot 版本需要2.0.0或更高版本。 添加Micrometer Prometheus registry依赖: <dependency><groupId>io.micrometer</groupId><artifactId>micrometer-registry-prometheus</artifactId> </dependency>在application.properties中开…

哪个牌子的运动耳机好、最好的运动耳机推荐

在当今快节奏的生活中&#xff0c;运动已经成为许多人追求健康与活力的重要组成部分。而在运动过程中&#xff0c;一款出色的运动耳机不仅能为我们提供激励和动力&#xff0c;还能让我们沉浸在音乐的世界中&#xff0c;享受极致的运动体验。然而&#xff0c;市场上琳琅满目的运…

[LeetCode - Python] 278.第一个错误的版本(Easy)

题目&#xff1a; 278.第一个错误的版本&#xff08;Easy&#xff09; 代码&#xff1a; # 常用的 左闭右开&#xff0c;二分法&#xff0c;要当心判断条件 到底是True还是False # The isBadVersion API is already defined for you. # def isBadVersion(version: int) -&g…

【Spring security 解决跨域】

security 跨域 概述方案方案一方案二方案三方案四 主页传送门&#xff1a;&#x1f4c0; 传送 概述 Spring Security是一个功能强大且高度可定制的&#xff0c;主要负责为Java程序提供声明式的身份验证和访问控制的安全框架。其前身是Acegi Security,后来被收纳为Spring的一个…

hcip的BGP实验

题目 拓扑图 思路&#xff1a; 1、给各个设备配置IP地址及环回接口 2、配置R2、R3、R4&#xff0c;三个设备的OSPF环境 3、将R1、R2、R3、R4、R5建立BGP对等体关系 4、建临时&#xff0c;将源地址也修改为环回接口 5、宣告时&#xff0c;将BGP路由传递给本地的邻居时修改下…

mysql一些统计实用函数

文章目录 一对多&#xff0c;多的一端只查询最新数据YEAR 年份函数MONTH 月份函数QUARTER 季度函数往前递推十年往后递推十年查询去年12月份统计身份证户籍所在地人数 一对多&#xff0c;多的一端只查询最新数据 ROW_NUMBER() over(PARTITION BY evt_id ORDER BY evt_node_rec…

挖洞小技巧

挖洞小技巧 1. Google语法1.1. 基础语法1.2. 操作符 2. 寻找漏洞2.1. SQL注入2.1.1. 不带公司2.1.2. 带公司2.1.3. 如何测试 2.2. 后台管理漏洞2.2.1. 查询单个网站2.2.2. 常见后台管理路径 2.3. 支付漏洞2.4. 文件上传漏洞2.5. 查找文件类型2.6. 敏感信息泄露 3. 刷分 1. Goog…

分享讨论学习IT上培训班有用吗?个人感悟

不知不觉一入行2年有余&#xff0c;回顾自己转行的学习历程&#xff0c;历历在目。我对培训机构好感度为0&#xff01; IT分行业发展未来&#xff0c;前景还是很好的&#xff0c;但是入门方向很重要&#xff0c;要选择什么方向去学学完才有钱景&#xff0c;需要自己 &#xff0…

直接在html中引入Vue.js的cdn来实现Vue3的组合式API

Vue3的组合式API是使用setup函数来编写组件逻辑的。setup函数是Vue3中用于替代Vue2的选项API&#xff08;如data、methods等&#xff09;的一种方式。在setup函数中&#xff0c;你可以访问到一些特殊的响应式对象&#xff0c;并且可以返回一些可以在模板中使用的数据、方法等。…

[计算机入门] 使用输入法

2.12 使用输入法 输入法是一种计算机软件&#xff0c;它允许用户通过键盘在计算机上输入文字和符号。输入法主要用于处理中文、日语、韩语等语言中较为复杂的字形和字音&#xff0c;使用户能够快速、方便地输入这些文字。 在使用输入法时&#xff0c;用户可根据输入法提供的提…

百数私有云模式

百数私有云模式是百数低代码平台中带有独立服务器的模式 简介&#xff1a;百数的私有化部署是搭建在真正的“私有云”上&#xff0c;拥有独立的服务器&#xff0c;ip&#xff0c;存储&#xff0c;可用企业自己的域名&#xff0c;使用企业自己的Logo&#xff0c;通过企业自身设…