k8s学习--基于k8s的ELK日志收集的详细过程

news2024/11/26 9:28:36

文章目录

    • Filebeat
      • Filebeat主要特点
      • Filebeat使用场景
  • ELK简介
    • Elasticsearch简介
      • Elasticsearch主要特点
      • Elasticsearch使用场景
    • Logstash简介
      • Logstash主要特点
      • Logstash使用场景
    • Kibana简介
      • Kibana主要特点
      • Kibana使用场景
    • 简单理解
  • 环境
    • 一、ELK集群部署
      • 1.软件安装
      • 2.软件配置及启动
        • (1).kibana软件配置及启动
        • (2).elasticsearch软件配置及启动
        • (3).logstash软件配置及启动
        • (4).kibana访问
        • (5).编写logstash用于收集日志配置文件
        • (6).运行logstash
    • 二、收集k8s集群节点系统日志
      • 1.下载filebeat镜像
      • 2.创建filebeat资源清单文件
      • 3.应用filebeat资源清单文件
      • 4.验证结果
      • 5.在kibana中添加索引

本次部署的应用有Filebeat+ELK，让我们先简单了解一下

Filebeat

Filebeat 是一个轻量级的日志数据发送器，作为 ELK 堆栈的一个组件，主要用于从各种来源收集日志数据并将其发送到 Logstash 或 Elasticsearch。它是 Elastic Stack 中 Beats 产品家族的一部分。

Filebeat主要特点

轻量级：
Filebeat 设计简单，资源占用低，非常适合部署在边缘节点或资源受限的环境中。

多种输入源：
Filebeat 支持从文件、Docker 日志、容器日志、系统日志等多种来源收集日志数据。

日志传输：
Filebeat 可以将收集到的日志数据发送到多个目标，包括 Logstash、Elasticsearch、Kafka 等。

日志处理：
Filebeat 具有基本的日志处理能力，可以通过模块化的方式实现常见的日志解析和处理。

可靠性：
具有保证至少一次传递的能力，确保日志数据在传输过程中不会丢失。

模块化：
Filebeat 提供了一系列预配置的模块，用于处理常见的日志格式，如 Nginx、Apache、MySQL、系统日志等。

Filebeat使用场景

集中式日志管理： 在分布式系统中集中收集各个节点的日志。
实时日志分析： 通过 Filebeat 将日志数据实时发送到 Elasticsearch，进行实时搜索和分析。
监控和报警： 结合 ELK 堆栈，实现日志数据的实时监控和报警。

ELK简介

ELK 是 Elasticsearch、Logstash 和 Kibana 三个开源工具的组合，常用于数据搜索、日志管理和数据可视化

Elasticsearch简介

Elasticsearch 是一个分布式搜索和分析引擎，基于 Apache Lucene 构建，主要用于存储、搜索和分析大量数据。

Elasticsearch主要特点

实时搜索和分析： 支持实时的数据存储和检索。
分布式： 能够在多个节点上分布数据，提供高可用性和扩展性。
全文搜索： 支持复杂的查询语法，能够进行高效的全文搜索。
RESTful API： 通过 RESTful API 进行数据操作，便于集成和扩展。

Elasticsearch使用场景

日志和事件数据分析： 集中管理和分析日志数据。
全文搜索： 如网站的搜索功能。
监控和报警： 实时监控数据变化并触发报警。

Logstash简介

Logstash 是一个数据收集引擎，能够从多个来源收集数据，进行过滤和转换，然后将数据发送到存储引擎（如 Elasticsearch）。

Logstash主要特点

数据收集： 支持从多种数据源（如文件、数据库、消息队列等）收集数据。
数据处理： 通过过滤器对数据进行处理和转换，如解析日志格式、添加字段等。
数据输出： 将处理后的数据发送到多个目标（如 Elasticsearch、文件、数据库等）。

Logstash使用场景

日志收集和处理： 收集和处理分布在不同系统和应用中的日志。
数据转换： 对原始数据进行格式转换、过滤和增强。

Kibana简介

Kibana 是一个数据可视化和分析平台，专为与 Elasticsearch 一起使用而设计。它提供强大的图形界面，帮助用户进行数据分析和可视化。

Kibana主要特点

**数据可视化：**通过图表、地图、表格等方式展示数据。
**仪表盘：**创建和共享动态仪表盘，实时监控数据变化。
**查询和分析：**通过简单的界面进行数据查询和分析。

Kibana使用场景

日志分析： 可视化分析日志数据，快速发现问题。
业务监控： 创建业务指标的实时监控仪表盘。
安全分析： 用于安全信息和事件管理（SIEM）解决方案。

简单理解

看不懂上面的，没关系，看懂下面就行
Filebeat: 部署在个节点,收集日志
Logstash: 过滤，格式化日志
Elasticsearch: 存储、搜索、分析日志
Kibana: 图形化界面，展示日志、监控系统状态

环境

虚拟机

Ip主机名cpu内存硬盘
192.168.10.11master012cpu双核4G100G
192.168.10.12worker012cpu双核4G100G
192.168.10.13worker022cpu双核4G100G
192.168.10.17ELK1cpu双核4G40G

版本 centos7.9
已部署k8s-1.27

注:如果有条件，可以ELK分别放在三台主机上,我这里是资源有限,所以才全放在一台主机上了

一、ELK集群部署

elk主机部署

1.软件安装

安装jdk
可考虑使用openjdk也可以使用oracle jdk

yum -y install java-11-openjdk

安装kibana

wget https://artifacts.elastic.co/downloads/kibana/kibana-7.17.2-x86_64.rpm
yum -y install kibana-7.17.2-x86_64.rpm

安装elasticsearch

wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.17.2-x86_64.rpm
yum -y install elasticsearch-7.17.2-x86_64.rpm

安装logstash

wget https://artifacts.elastic.co/downloads/logstash/logstash-7.17.2-x86_64.rpm
yum -y install logstash-7.17.2-x86_64.rpm

2.软件配置及启动

(1).kibana软件配置及启动
vim /etc/kibana/kibana.yml

修改如下内容
行号 + 修改后的结果
有的只需要去#号即可
有的不需要更改

     2  server.port: 5601
     7  server.host: "192.168.10.17"
    32  elasticsearch.hosts: ["http://192.168.10.17:9200"]
   115  i18n.locale: "zh-CN"

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
说明：
server.port 是开启kibana监听端口
server.host 设置远程连接主机IP地址，用于远程访问使用
elasticsearch.hosts 设置elasticsearch.hosts主机IP，用于连接elasticsearch主机，可以为多个值
i18n.locale 设置语言支持，不需要再汉化，直接修改后即可支持中文

启动服务并验证

systemctl enable kibana
systemctl start kibana
ss -anput | grep ":5601"

在这里插入图片描述

(2).elasticsearch软件配置及启动
vim  /etc/elasticsearch/elasticsearch.yml

同上

    17  cluster.name: k8s-elastic
    23  node.name: elastic
    33  path.data: /var/lib/elasticsearch
    37  path.logs: /var/log/elasticsearch
    56  network.host: 192.168.10.17
    61  http.port: 9200
    70  discovery.seed_hosts: ["192.168.10.17"]
    74  cluster.initial_master_nodes: ["192.168.10.17"]

在这里插入图片描述
在这里插入图片描述
说明
cluster.name 集群名称
node.name 节点名称
path.data 数据目录
path.logs 日志目录
network.host 主机IP
http.port 监听端口
discovery.seed_hosts 主机发现列表
cluster.initial_master_nodes 集群master节点

启动服务并验证

systemctl enable elasticsearch
systemctl start elasticsearch
ss -anput | grep ":9200"

在这里插入图片描述

curl http://192.168.10.17:9200

在这里插入图片描述

(3).logstash软件配置及启动
vim /etc/logstash/logstash.yml

同上

    19  node.name: logstash
    28  path.data: /var/lib/logstash
   133  api.http.host: 192.168.10.17
   139  api.http.port: 9600-9700
   280  path.logs: /var/log/logstash

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

启动服务
logstash进程不用预先启动，使用时启动即可
现在先不启动

验证logstash可用性

/usr/share/logstash/bin/logstash -e 'input {stdin{} } output {stdout {} }'

在这里插入图片描述
输入abc,查看输出内容

abc

在这里插入图片描述
ctrl +c 退出

使用logstash输入内容到elasticsearch验证

/usr/share/logstash/bin/logstash -e 'input { stdin{} } output { elasticsearch { hosts => ["192.168.10.17:9200"] index => "logstash-%{+YYYY.MM.dd}" } }'

输入

hello elasticsearch

此内容将会通过kibana页面中的索引看到，但是需要在kibana页面中添加索引
在这里插入图片描述

(4).kibana访问

宿主机浏览器访问
192.168.10.17:5601

在欢迎界面选择自己浏览后会进入主界面
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

(5).编写logstash用于收集日志配置文件

通过filebeat进行收集

vim /etc/logstash/conf.d/logstash-to-elastic.conf

input {
  beats {
    host => "0.0.0.0"
    port => "5044"
  }
}

filter {

}


output {
    elasticsearch {
      hosts => "192.168.10.17:9200"
      index => "k8s-%{+YYYY.MM.dd}"
    }
}
(6).运行logstash

如果不涉及多个配置文件，可以直接使用systemctl start logstash;如果有多个配置文件，只想启动一个配置文件，可以使用如下方法。
直接在后台运行

/usr/share/logstash/bin/logstash -f /etc/logstash/conf.d/logstash-to-elastic.conf --path.data /usr/share/logstash/data1 &

不输出内容后按两下回车
在这里插入图片描述
看看端口

netstat -lntp | grep :5044

在这里插入图片描述

二、收集k8s集群节点系统日志

通过在work节点以DaemonSet方法运行filebeat应用实现

1.下载filebeat镜像

所有worker节点
下载filebeat镜像

docker pull elastic/filebeat:7.17.2
docker images

在这里插入图片描述
master节点

2.创建filebeat资源清单文件

vim filebeat-to-logstash.yaml

apiVersion: v1
kind: ConfigMap
metadata:
  name: k8s-logs-filebeat-config
  namespace: kube-system

data:
  filebeat.yml: |
    filebeat.inputs:
      - type: log
        paths:
          - /var/log/messages
        fields:
          app: k8s
          type: module
        fields_under_root: true

    setup.ilm.enabled: false
    setup.template.name: "k8s-module"
    setup.template.pattern: "k8s-module-*"

    output.logstash:
      hosts: ['192.168.10.17:5044']
      index: "k8s-module-%{+yyyy.MM.dd}"

---

apiVersion: apps/v1
kind: DaemonSet
metadata:
  name: k8s-logs
  namespace: kube-system
spec:
  selector:
    matchLabels:
      project: k8s
      app: filebeat
  template:
    metadata:
      labels:
        project: k8s
        app: filebeat
    spec:
      containers:
      - name: filebeat
        image: docker.io/elastic/filebeat:7.17.2
        args: [
          "-c", "/etc/filebeat.yml",
          "-e",
        ]
        resources:
          requests:
            cpu: 100m
            memory: 100Mi
          limits:
            cpu: 500m
            memory: 500Mi
        securityContext:
          runAsUser: 0
        volumeMounts:
        - name: filebeat-config
          mountPath: /etc/filebeat.yml
          subPath: filebeat.yml
        - name: k8s-logs
          mountPath: /var/log/messages
      volumes:
      - name: k8s-logs
        hostPath:
          path: /var/log/messages
      - name: filebeat-config
        configMap:
          name: k8s-logs-filebeat-config

3.应用filebeat资源清单文件

kubectl apply -f filebeat-to-logstash.yaml

4.验证结果

kubectl get pod -n kube-system -o wide

在这里插入图片描述

5.在kibana中添加索引

宿主机浏览器访问192.168.10.17:5601
web页面操作
基本和上次一样
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
现在就能看到日志了
这是系统日志
后面还会写怎么看应用程序的日志
以及容器内部署的应用程序日志

写完已经快噶了
应该会隔一天
如果对您有帮助可以点下关注

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1897783.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

【python】PyQt5控件尺寸大小位置，内容边距等API调用方法实战解析

【python】PyQt5控件尺寸大小位置，内容边距等API调用方法实战解析

✨✨ 欢迎大家来到景天科技苑✨✨ 🎈🎈 养成好习惯，先赞后看哦~🎈🎈 🏆 作者简介：景天科技苑 🏆《头衔》：大厂架构师，华为云开发者社区专家博主，…
阅读更多...
Java毕业设计 基于SSM vue新生报到系统小程序 微信小程序

Java毕业设计 基于SSM vue新生报到系统小程序 微信小程序

Java毕业设计 基于SSM vue新生报到系统小程序 微信小程序 SSM 新生报到系统小程序 功能介绍 学生 登录 注册 忘记密码 首页 学校公告 录取信息 录取详情 师资力量 教师详情 收藏 评论 用户信息修改 宿舍安排 签到信息 在线缴费 教室分配 我的收藏管理 我要发贴 我的发贴 管理…
阅读更多...
STM32外扩SRAM及用法

STM32外扩SRAM及用法

一.概述 一般单片机有片内的RAM，但都不多，比如：STM32F407ZGT6 自带了 192K 字节的 RAM，对一般应用来说，已经足够了，不过在一些对内存要求高的场合，比如做华丽效果的 GUI，处理大量数据…
阅读更多...
ionic7 使用Capacitor打包 apk 之后，设置网络权限

ionic7 使用Capacitor打包 apk 之后，设置网络权限

报错处理 在打包的时候遇到过几个问题，这里记录下来两个 Visual Studio Code运行ionic build出错显示ionic : 无法加载文件 ionic 项目通过 android studio 打开报错 capacitor.settings.gradle 文件不存在 ionic7 项目初始化以及打包 apk 这篇文章讲到了如果安装…
阅读更多...
Java+前后端分离架构+ MySQL8.0.36产科信息管理系统 产科电子病历系统源码

Java+前后端分离架构+ MySQL8.0.36产科信息管理系统 产科电子病历系统源码

Java前后端分离架构 MySQL8.0.36产科信息管理系统 产科电子病历系统源码 产科信息管理系统—住院管理 数字化产科住院管理是现代医院管理中的重要组成部分，它利用数字化技术优化住院流程，提升医疗服务质量和效率。以下是对数字化产科住院管理的详细阐述…
阅读更多...
您的私人办公室！-----ONLYOFFICE8.1版本的桌面编辑器测评

您的私人办公室！-----ONLYOFFICE8.1版本的桌面编辑器测评

随时随地创建并编辑文档，还可就其进行协作 ONLYOFFICE 文档是一款强大的在线编辑器，为您使用的平台提供文本文档、电子表格、演示文稿、表单和 PDF 编辑工具。 网页地址链接： https://www.onlyoffice.com/zh/office-suite.aspxhttps://www…
阅读更多...
2个方法教你轻松移除pdf文件编辑限制

2个方法教你轻松移除pdf文件编辑限制

PDF是一种常见的办公文档格式，常用于文件共享和保护。然而，有时候我们需要编辑PDF文件中的内容，但受到了编辑限制。本文将介绍一些有效的方法，帮助您解除PDF的编辑限制，轻松进行编辑和修改。 一、通过密码取消PDF“限制…
阅读更多...
运维锅总详解计算机缓存溢出

运维锅总详解计算机缓存溢出

本文尝试从缓存溢出、如何平衡防止缓存溢出和OOM、conntrack缓存满载影响及优化措施、TCP/IP协议栈缓存满载影响及优化措施等方面对计算机缓存溢出进行详细分析，最后给出一些缓存满载的Prometheus告警规则。希望对您有所帮助！ 一、计算机缓存溢出简介 …
阅读更多...
卫星轨道平面简单认识

卫星轨道平面简单认识

目录 一、轨道平面 1.1 轨道根数 1.2 应用考虑 二、分类 2.1 根据运行高度 2.2 根据运行轨迹偏心率 2.3 根据倾角大小 三、卫星星座中的轨道平面 四、设计轨道平面的考虑因素 一、轨道平面 1.1 轨道根数 轨道平面是定义卫星或其他天体绕行另一天体运动的平面。这个平…
阅读更多...
通过端口和进程pid查找启动文件/脚本

通过端口和进程pid查找启动文件/脚本

今天审计一个程序又让GPT给我上了一课，记一下笔记： 1、首先该程序开启了8080端口，使用如下命令得到pid为1817 netstat -tunlp|grep 80802、使用pid得到父进程 pstree -ps 1817输出结果如下： 3、看出程序是由systemd启动的&…
阅读更多...
nginx安装演示（离线安装，直接安装在Linux中）

nginx安装演示（离线安装，直接安装在Linux中）

文章目录 1、创建文件夹 tool / nginx2、把安装文件放到 /opt/tool/nginx 目录下面3、yum install gcc4、yum install gcc-c5、tar -zxvf pcre-8.37.tar.gz6、./configure7、make8、make install9、tar -zxvf openssl-1.0.1t.tar.gz10、./config11、/config 1、创建文件夹 tool…
阅读更多...
python绘制领域矩形

python绘制领域矩形

问题描述： 使用python书写代码实现以下功能：给定四个点的坐标，调用一个函数，可以使原来的四个点分别向四周上下左右移动15距离，分别记录下移动后的坐标，然后画出内侧矩形和外侧矩形 代码： im…
阅读更多...
电脑为什么会提示丢失msvcp140.dll？怎么修复msvcp140.dll文件会靠谱点

电脑为什么会提示丢失msvcp140.dll？怎么修复msvcp140.dll文件会靠谱点

电脑为什么会提示丢失msvcp140.dll？其实只要你的msvcp140.dll文件一损坏，然而你的电脑程序需要运用到这个msvcp140.dll文件的时候，就回提示你丢失了msvcp140.dll文件！因为没有这个文件，你的很多程序都用不了的。今天我…
阅读更多...
Purple Pi OH 更改SDK的编译选项

Purple Pi OH 更改SDK的编译选项

本文适用于在Purple Pi OH开发板更改SDK编译选项。触觉智能的Purple Pi OH鸿蒙开源主板，是华为Laval官方社区主荐的一款鸿蒙开发主板。 该主板主要针对学生党，极客，工程师，极大降低了开源鸿蒙开发者的入门门槛，具有以下…
阅读更多...
数据为基 全面布局｜美创再入《2024年中国网络安全市场全景图》

数据为基 全面布局｜美创再入《2024年中国网络安全市场全景图》

近日，网络安全行业研究机构数说安全正式发布《2024年中国网络安全市场全景图》（以下简称全景图）。 美创科技凭借以数据为中心的全面安全产品布局和领先能力，入榜数据库安全(数据库审计/数据库漏扫/数据库防火墙/数据库加密)、数据…
阅读更多...
震撼发布！4M-21：苹果多模态AI巨擘，一键解锁21种模态

震撼发布！4M-21：苹果多模态AI巨擘，一键解锁21种模态

前沿科技速递🚀 来自洛桑联邦理工学院（EPFL）与苹果科研巨擘的强强联手，震撼发布全新跨时代成果——4M-21模型！这一革命性单一模型，突破性地覆盖了数十种高度多样化的模态，通过大规模多模态数据集…
阅读更多...
空状态页面设计的艺术与科学

空状态页面设计的艺术与科学

空状态界面是用户在网站、APP中遇到的因无数据展示而中断体验的界面，这个界面设计对于解决用户疑惑有着很大的帮助。那么我们应该如何设计空状态界面呢？空状态是指在界面设计中，没有内容或数据时所显示的状态。它可能出现在各种情况下&#x…
阅读更多...
Docker拉取失败，利用 Git将 Docker镜像重新打 Tag 推送到阿里云等其他公有云镜像仓库里

Docker拉取失败，利用 Git将 Docker镜像重新打 Tag 推送到阿里云等其他公有云镜像仓库里

目录 一、开通阿里云容器镜像服务 二、Git配置 三、去DockerHub找镜像 四、编写images.txt文件 ​五、演示 六、其他注意事项 最近一段时间 Docker 镜像一直是 Pull 不下来的状态，想直连 DockerHub 是几乎不可能的。更糟糕的是，很多原本可靠的国内…
阅读更多...
EasyExcel 单元格根据图片数量动态设置宽度

EasyExcel 单元格根据图片数量动态设置宽度

在使用 EasyExcel 导出 Excel 时&#xff0c;如果某个单元格是图片内容&#xff0c;且存在多张图片&#xff0c;此时就需要单元格根据图片数量动态设置宽度。 经过自己的研究和实验&#xff0c;导出效果如下&#xff1a; 具体代码如下&#xff1a; EasyExcel 版本 <depen…
阅读更多...
Linux 内核 GPIO 用户空间接口

Linux 内核 GPIO 用户空间接口

文章目录 Linux 内核 GPIO 接口旧版本方式&#xff1a;sysfs 接口新版本方式&#xff1a;chardev 接口 gpiod 库及其命令行gpiod 库的命令行gpiod 库函数的应用 GPIO&#xff08;General Purpose Input/Output&#xff0c;通用输入/输出接口&#xff09;&#xff0c;是微控制器…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023