Loki+Grafana(外)采集Kubernetes(K8s)集群(基于containerd)

news2024/9/30 15:24:13

一、Loki简介

1、简介

Loki Loki是一个开源、分布式的日志聚合系统，由Grafana Labs推出。Loki的设计目标是为了高效地处理大规模的日志数据，并具有良好的可扩展性。Loki的最大优点是它具有低资源占用和高效的查询速度。这是因为Loki不需要在处理日志数据时进行索引，而是将数据存储在类似于散列表的内存数据结构中，可以快速地定位和检索日志数据。此外，Loki可以与Prometheus集成，实现更强大的监控功能。

2、组件

  • distributor：是负责获取日志数据并将其转发给ingester的无状态组件。Distributor对数据进行预处理，检查其有效性，并确保其来自已配置的租户，这有助于系统扩展并保护其免受潜在的Dos攻击。这里Grafana很好地解释了Promtail(推荐的分发代理)如何处理数据。
  • ingester：是Loki架构的关键组件。从distributors接收到的数据由ingester写入云云原生存储服务。ingesters还与查询协作，返回内存中的数据以响应读请求。
  • Queriers：负责解析LogQL查询请求，并从ingesters或持久化存储中获取数据。
  • query fronted：可选组件-提供API接口，可用于加速读处理。该组件通过将读请求排队、将大请求拆分为多个小请求以及缓存数据来优化读处理。

在这里插入图片描述

二、实验环境

1、k8s环境

版本v1.26.5，容器为containerd
二进制安装Kubernetes(K8s)集群(基于containerd)—从零安装教程（带证书）

主机名IP系统版本安装服务
master0110.10.10.21rhel7.5nginx、etcd、api-server、scheduler、controller-manager、kubelet、proxy
master0210.10.10.22rhel7.5nginx、etcd、api-server、scheduler、controller-manager、kubelet、proxy
master0310.10.10.23rhel7.5nginx、etcd、api-server、scheduler、controller-manager、kubelet、proxy
node0110.10.10.24rhel7.5nginx、kubelet、proxy
node0210.10.10.25rhel7.5nginx、kubelet、proxy

2、Prometheus+Grafana环境

Prometheus+Grafana监控系统

主机名IP系统版本安装服务
jenkins10.10.10.10rhel7.5docker、Prometheus、Grafana

三、Loki安装

https://github.com/grafana/loki/releases
https://grafana.com/docs/loki/latest/installation/docker/

1、下载镜像

[root@jenkins ~]# docker pull grafana/loki:2.8.2
[root@jenkins ~]# docker pull grafana/promtail:2.8.2

push到本地harbor：

[root@jenkins ~]# docker tag grafana/loki:2.8.2 harbor.wielun.com/library/grafana/loki:2.8.2
[root@jenkins ~]# docker tag grafana/loki:2.8.2 harbor.wielun.com/library/grafana/promtail:2.8.2
[root@jenkins ~]# docker push harbor.wielun.com/library/grafana/loki:2.8.2
[root@jenkins ~]# docker push harbor.wielun.com/library/grafana/promtail:2.8.2

2、启动loki

[root@jenkins ~]# mkdir -p /etc/loki/conf
[root@jenkins ~]# wget https://raw.githubusercontent.com/grafana/loki/v2.8.2/cmd/loki/loki-local-config.yaml -O loki-config.yaml
[root@jenkins ~]# mv loki-config.yaml /etc/loki/conf/
[root@jenkins ~]# docker run -d --name loki \
--privileged=true \
--restart always -p 3100:3100 \
-v /etc/loki/conf:/mnt/config \
grafana/loki:2.8.2 \
-config.file=/mnt/config/loki-config.yaml

[root@jenkins ~]# cat /etc/loki/conf/loki-config.yaml
auth_enabled: false

server:
  http_listen_port: 3100
  grpc_listen_port: 9096

common:
  instance_addr: 127.0.0.1
  path_prefix: /tmp/loki
  storage:
    filesystem:
      chunks_directory: /tmp/loki/chunks
      rules_directory: /tmp/loki/rules
  replication_factor: 1
  ring:
    kvstore:
      store: inmemory

query_range:
  results_cache:
    cache:
      embedded_cache:
        enabled: true
        max_size_mb: 100

schema_config:
  configs:
    - from: 2020-10-24
      store: boltdb-shipper
      object_store: filesystem
      schema: v11
      index:
        prefix: index_
        period: 24h

ruler:
  alertmanager_url: http://localhost:9093

# By default, Loki will send anonymous, but uniquely-identifiable usage and configuration
# analytics to Grafana Labs. These statistics are sent to https://stats.grafana.org/
#
# Statistics help us better understand how Loki is used, and they show us performance
# levels for most users. This helps us prioritize features and documentation.
# For more information on what's sent, look at
# https://github.com/grafana/loki/blob/main/pkg/usagestats/stats.go
# Refer to the buildReport method to see what goes into a report.
#
# If you would like to disable reporting, uncomment the following lines:
#analytics:
#  reporting_enabled: false

3、启动promtail

[root@jenkins ~]# wget https://raw.githubusercontent.com/grafana/loki/v2.8.2/clients/cmd/promtail/promtail-docker-config.yaml -O promtail-config.yaml
[root@jenkins ~]# mv promtail-config.yaml /etc/loki/conf/
[root@jenkins ~]# docker run -d --name promtail \
  --privileged=true \
  --restart always \
  -v /etc/loki/conf/:/mnt/config \
  -v /var/log:/var/log \
  grafana/promtail:2.8.2 \
  -config.file=/mnt/config/promtail-config.yaml

[root@jenkins ~]# cat /etc/loki/conf/promtail-config.yaml
server:
  http_listen_port: 9080
  grpc_listen_port: 0

positions:
  filename: /tmp/positions.yaml

clients:
  - url: http://10.10.10.10:3100/loki/api/v1/push

scrape_configs:
- job_name: system
  static_configs:
  - targets:
      - localhost
    labels:
      job: varlogs
      __path__: /var/log/*log

4、测试结果

http://10.10.10.10:3100/metrics
http://10.10.10.10:3100/ready

在这里插入图片描述
在这里插入图片描述

四、grafana查看

1、添加Loki数据源

在这里插入图片描述
在这里插入图片描述

2、查看本机日志

在这里插入图片描述
在这里插入图片描述

五、监控K8s日志

官网地址：https://grafana.com/docs/loki/latest/clients/promtail/installation/

1、上传镜像

发现使用2.8.2的镜像启动不成功，这里使用2.5.0版本

[root@jenkins ~]# docker pull grafana/promtail:2.5.0
[root@jenkins ~]# docker tag grafana/promtail:2.5.0 harbor.wielun.com/library/grafana/promtail:2.5.0
[root@jenkins ~]# docker push harbor.wielun.com/library/grafana/promtail:2.5.0

2、创建Endpoints

[root@master01 ~]# kubectl create ns logging
[root@master01 ~]# cat loki.yaml
apiVersion: v1
kind: Endpoints
metadata:
  name: loki
  namespace: logging
subsets:
  - addresses:
    - ip: 10.10.10.10
    ports:
    - port: 3100

---
apiVersion: v1
kind: Service
metadata:
  name: loki
  namespace: logging
spec:
  clusterIP: None
  ports:
  - name: mysql
    port: 3100
    protocol: TCP
    targetPort: 3100
  type: ClusterIP

[root@master01 ~]# kubectl apply -f loki.yaml

3、创建promtail

[root@master01 ~]# cat promtail.yaml
--- # Daemonset.yaml
apiVersion: apps/v1
kind: DaemonSet
metadata:
  name: promtail-daemonset
  namespace: logging
  labels:
    app: promtail
spec:
  selector:
    matchLabels:
      name: promtail
  template:
    metadata:
      labels:
        name: promtail
    spec:
      serviceAccount: promtail-serviceaccount
      containers:
      - name: promtail-container
        image: harbor.wielun.com/library/grafana/promtail:2.5.0
        imagePullPolicy: IfNotPresent
        args:
        - -config.file=/etc/promtail/promtail.yaml
        env:
        - name: 'HOSTNAME' # needed when using kubernetes_sd_configs
          valueFrom:
            fieldRef:
              fieldPath: 'spec.nodeName'
        volumeMounts:
        - name: logs
          mountPath: /var/log
        - name: promtail-config
          mountPath: /etc/promtail
        - mountPath: /var/lib/docker/containers
          name: varlibdockercontainers
          readOnly: true
      volumes:
      - name: logs
        hostPath:
          path: /var/log
      - name: varlibdockercontainers
        hostPath:
          path: /var/lib/docker/containers
      - name: promtail-config
        configMap:
          name: promtail-config
--- # configmap.yaml
apiVersion: v1
kind: ConfigMap
metadata:
  name: promtail-config
  namespace: logging
  labels:
    app: promtail
data:
  promtail.yaml: |
    server:
      http_listen_port: 9080
      grpc_listen_port: 0

    clients:
      - url: http://loki.logging.svc.cluster.local:3100/loki/api/v1/push

    positions:
      filename: /tmp/positions.yaml
    target_config:
      sync_period: 10s
    scrape_configs:
    - job_name: pod-logs
      kubernetes_sd_configs:
        - role: pod
      pipeline_stages:
        - docker: {}
      relabel_configs:
        - source_labels:
            - __meta_kubernetes_pod_node_name
          target_label: __host__
        - action: labelmap
          regex: __meta_kubernetes_pod_label_(.+)
        - action: replace
          replacement: $1
          separator: /
          source_labels:
            - __meta_kubernetes_namespace
            - __meta_kubernetes_pod_name
          target_label: job
        - action: replace
          source_labels:
            - __meta_kubernetes_namespace
          target_label: namespace
        - action: replace
          source_labels:
            - __meta_kubernetes_pod_name
          target_label: pod
        - action: replace
          source_labels:
            - __meta_kubernetes_pod_container_name
          target_label: container
        - replacement: /var/log/pods/*$1/*.log
          separator: /
          source_labels:
            - __meta_kubernetes_pod_uid
            - __meta_kubernetes_pod_container_name
          target_label: __path__

--- # Clusterrole.yaml
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
  name: promtail-clusterrole
  labels:
    app: promtail
  namespace: logging
rules:
  - apiGroups: [""]
    resources:
    - nodes
    - services
    - pods
    verbs:
    - get
    - watch
    - list

--- # ServiceAccount.yaml
apiVersion: v1
kind: ServiceAccount
metadata:
  name: promtail-serviceaccount
  labels:
    app: promtail
  namespace: logging

--- # Rolebinding.yaml
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
  name: promtail-clusterrolebinding
  labels:
    app: promtail
  namespace: logging
subjects:
    - kind: ServiceAccount
      name: promtail-serviceaccount
      namespace: default
roleRef:
    kind: ClusterRole
    name: promtail-clusterrole
    apiGroup: rbac.authorization.k8s.io

[root@master01 ~]# kubectl apply -f promtail.yaml

4、查看结果

[root@master01 ~]# kubectl get pod -n logging
NAME                       READY   STATUS    RESTARTS   AGE
promtail-daemonset-2r8sv   1/1     Running   0          56s
promtail-daemonset-f4p8q   1/1     Running   0          56s
promtail-daemonset-tddsf   1/1     Running   0          56s
promtail-daemonset-wdn47   1/1     Running   0          56s

在这里插入图片描述

5、dashboard使用

https://grafana.com/grafana/dashboards/?dataSource=loki

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/670388.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

工具篇6--kafka消息模型介绍

工具篇6--kafka消息模型介绍

前言：kafka 诞生于需要处理大数据量的背景下，在当前的开发中，数据量的量级也是不断的提高，所以就非常有必要去研究一下kafka 的模型了； kafka 的官网先放一下： 1 英文官网； 2 中文网站&#xf…
阅读更多...
Spring Boot 中使用 JSR-303 数据校验

Spring Boot 中使用 JSR-303 数据校验

Spring Boot 中使用 JSR-303 数据校验 在 Web 开发中，数据校验是一个非常重要的环节。它可以帮助我们在用户提交表单数据时验证数据的合法性，防止一些不必要的错误和漏洞。在 Spring Boot 中，我们可以使用 JSR-303 数据校验规范来实现数据校…
阅读更多...
黑马程序员前端 Vue3 小兔鲜电商项目——（三）Layout 首页页面布局

黑马程序员前端 Vue3 小兔鲜电商项目——（三）Layout 首页页面布局

文章目录 组件结构快速搭建首页组件结构Nav 组件Header 组件Footer 组件index.vue 中添加组件 字体图标渲染一级导航渲染封装接口函数渲染数据 吸顶导航交互实现安装 VueUser 插件组件静态结构添加组件实现吸顶交互 Pinia优化重复请求 组件结构快速搭建 首页组件结构 页面效果…
阅读更多...
字节跳动的项目经理，是什么神仙存在？

字节跳动的项目经理，是什么神仙存在？

早上好，我是老原。 要是说起项目经理的待遇天花板，你觉得会是什么样的？ 在2022年，虽然很多互联网大厂都在大裁员，同时也刺激了更多人想进大厂的心。 就从项目经理这个岗位来看，你说大小厂的工作内容差距…
阅读更多...
Win11的两个实用技巧系列之找不到项目的文件如何删除、无法用蓝牙耳机的多种解决办法

Win11的两个实用技巧系列之找不到项目的文件如何删除、无法用蓝牙耳机的多种解决办法

Win11 新预览版怎么恢复文件管理器经典功能? Win11 新预览版怎么恢复文件管理器经典功能？Win11最新版去掉了文件管理器经典功能，该怎么操作呢？下面我们就来看看详细的恢复方法 微软在日前发布的 Win11 Dev Build 23481 预览版更新中&#x…
阅读更多...
建筑中的智能照明系统

建筑中的智能照明系统

【摘要】：建筑智能照明工程中智能照明控制系统发展迅速，具有舒适性和节能性两方面优势。智能照明控制系统已经处于模块化高速发展阶段，如今更好的控制方案成为制约系统发展的瓶颈。文章在研究了国内外智能照明系统的基础上，从照明…
阅读更多...
Java 结合中文分词库 jieba 统计一堆文本中各个词语的出现次数【代码记录】

Java 结合中文分词库 jieba 统计一堆文本中各个词语的出现次数【代码记录】

文章目录 1、需求2、代码3、结果 1、需求 2、代码 package com.zibo.main;import com.huaban.analysis.jieba.JiebaSegmenter;import java.io.BufferedReader; import java.io.FileReader; import java.io.IOException; import java.util.HashMap; import java.util.List; imp…
阅读更多...
Picker, ColorPicker, DatePicker 的使用

Picker, ColorPicker, DatePicker 的使用

1. Picker 选择器的使用 1.1 实现 /// 选择器 struct PickerBootcamp: View {State var selection: String "Most Recent"let filterOptions:[String] ["Most Recent", "Most Popular", "Most Liked"]init(){UISegmentedControl.ap…
阅读更多...
Python基础（16）——Python集合（set）

Python基础（16）——Python集合（set）

Python基础（16）——Python集合（set） 文章目录 Python基础（16）——Python集合（set）目标一. 创建集合二. 集合常见操作方法2.1 增加数据2.2 删除数据2.3 查找数据 三. 总结 目标 创建…
阅读更多...
Python基础（17）——Python运算符、公共方法、类型转换

Python基础（17）——Python运算符、公共方法、类型转换

Python基础（17）——Python运算符、公共方法、类型转换 文章目录 Python基础（17）——Python运算符、公共方法、类型转换目标一. 运算符1.1 1.2 *1.3 in或not in 二. 公共方法2.1 len()2.2 del()2.3 max()2.4 min()2.5 range()2.6 e…
阅读更多...
4个重要的云安全方向

4个重要的云安全方向

导语 伴随着云计算的不断发展和成熟，云安全越来越受到重视，每一年云安全都有不同的重点话题值得关注，今天我们一起来看看2023非常重要4个云安全话题 云攻击路径发现和威胁建模 随着攻击面的扩大，企业云安全的复杂性也会增加。为您…
阅读更多...
一文搞懂 MySQL 中的常用函数及用法

一文搞懂 MySQL 中的常用函数及用法

0️⃣前言 MySQL是一种常用的关系型数据库管理系统，它提供了许多内置函数来处理数据。本文将介绍MySQL中的各种常用函数，包括字符串函数、日期函数、数学函数、聚合函数等。 文章目录 0️⃣前言1️⃣字符串函数1.1CONCAT函数1.2SUBSTRING函数1.3REPLACE函…
阅读更多...
测试用例常用方法和选择原则

测试用例常用方法和选择原则

目录 前言： 一、等价类划分法 等价类思考步骤： 二、边界值 边界值的方法小结： 三、因果图法 因果图中的符号： 利用因果导出测试用例需要经过以下几个步骤： 四、判定表法 组成部分： 书写步骤： 五…
阅读更多...
神经网络笔记

神经网络笔记

多分类问题 Softmax 高级优化算法 Adam Algorithm Intuition 每个参数有不同的学习率 卷积层 每个神经元只看前一层输入的一部分 原因： 1.更快的计算 2.需要更少的训练数据（不容易过度拟合） 模型评估 成本函数 分类 训练集用来训练…
阅读更多...
【Python】数据库（创建库 访问 连接 创建表 编辑记录 案例：客户管理实现）

【Python】数据库（创建库 访问 连接 创建表 编辑记录 案例：客户管理实现）

文章目录 * 库表与管理1.访问数据库1.1 连接与创建数据库1.2 创建表1.3 编辑表记录1.3.1 添加记录1.3.2 修改记录1.3.3 返回所有记录1.3.4 删除记录1.3.5 查询记录 1.4 案例：客户管理 SQLite 实现 * 库表与管理 1.访问数据库 SQLite 是 Python 自带的数据库管理模…
阅读更多...
SpringBoot 如何使用 Spring Cloud Stream 处理事件

SpringBoot 如何使用 Spring Cloud Stream 处理事件

SpringBoot 如何使用 Spring Cloud Stream 处理事件 在分布式系统中，事件驱动架构（Event-Driven Architecture，EDA）已经成为一种非常流行的架构模式。事件驱动架构将系统中的各个组件连接在一起，以便它们可以相互协作…
阅读更多...
【深度学习】5-4 与学习相关的技巧 - 正则化解决过拟合（权值衰减，Dropout）

【深度学习】5-4 与学习相关的技巧 - 正则化解决过拟合（权值衰减，Dropout）

机器学习的问题中，过拟合是一个很常见的问题。过拟合指的是只能拟合训练数据，但不能很好地拟合不包含在训练数据中的其他数据的状态。机器学习的目标是提高泛化能力，即便是没有包含在训练数据里的未观测数据也希望模型可以进行正确的识别。 …
阅读更多...
皓文电子 | 智能制造领先企业的安全服务经验分享

皓文电子 | 智能制造领先企业的安全服务经验分享

皓文电子是一家为客户提供设计、生产、销售高端开关电源及各类功率变换产品的国家级高新技术企业，是国内智能制造领域的代表企业。其核心产品能与国际主流电源厂商竞争，达到国内外领先水平，并在国家多个重点项目中批量生产装备。 遭遇安全事件…
阅读更多...
2023年湖北孝感初、中级工程师职称报名条件和要求是什么？启程别

2023年湖北孝感初、中级工程师职称报名条件和要求是什么？启程别

2023年湖北孝感初、中级工程师职称报名条件和要求是什么？启程别 初级职称对于找工作很有帮助。现在，学历越来越高，仅有学历已经不能满足应聘需求。初级职称的获得并不难，有了职称也会让自己在找工作时更有竞争力。威信公号搜一下启…
阅读更多...
2023年最新智能优化算法之——IBI逻辑优化算法(IBL)，附MATLAB代码

2023年最新智能优化算法之——IBI逻辑优化算法(IBL)，附MATLAB代码

今天给大家带来一个有意思的智能优化算法，IBL算法。 先说效果：在CEC2005函数集测试，基本上毫无压力，把把都能预测的很准确，而且速度极快。大家可以自行尝试哈。 为啥说这个算法有意思呢，大家看IBL的英文全…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023