Linux搭建Promtail + Loki + Grafana 轻量日志监控系统

news2024/11/24 10:28:28

一、简介

日志监控告警系统，较为主流的是ELK（Elasticsearch 、 Logstash和Kibana核心套件构成），虽然优点是功能丰富，允许复杂的操作。但是，这些方案往往规模复杂，资源占用高，操作苦难。很多功能往往用不上，大多数查询只关注一定时间范围和一些简单的参数（如host、service等），使用这些解决方案就有点杀鸡用牛刀的感觉了。

所以寻找更轻量级的日志监控系统，所以也就有了EFK（elasticsearch+kibana+filebeat），

搭建参考：EFK轻量级日志系统搭建

另外一种是Promtail + Loki + Grafana核心组件构成，简称PLG，这种是更轻量级的，配置要求也不高，功能简单，但是目的明确，就是日志采集。

Loki的架构也非常简单，使用了和prometheus一样的标签来作为索引，Loki 是受Prometheus启发的水平可扩展、高可用、多租户日志聚合系统。

组件：
promtail： 日志收集的代理，安装部署在需要收集和分析日志的服务器，promtail会将日志发给Loki服务。
Loki： 主服务器，负责存储日志和处理查询。
Grafana：提供web管理界面，数据展示功能。

二、服务器安装及配置

1.基础安装启动

安装方式大概有这么几种，二进制安装，yum安装、docker安装、helm安装。
因为是服务器端，我这里用docker安装，简单方便。

官方网站也提供了docker-compose文件供下载。
参考地址

#下载docker-compose文件
wget https://raw.githubusercontent.com/grafana/loki/v2.5.0/production/docker-compose.yaml -O docker-compose.yaml

下载的docker-compose文件如下，也是最简单基本的。

version: "3"

networks:
  loki:

services:
  loki:
    image: grafana/loki:2.5.0
    ports:
      - "3100:3100"
    command: -config.file=/etc/loki/local-config.yaml
    networks:
      - loki

  promtail:
    image: grafana/promtail:2.5.0
    volumes:
      - /var/log:/var/log
    command: -config.file=/etc/promtail/config.yml
    networks:
      - loki

  grafana:
    image: grafana/grafana:latest
    ports:
      - "3000:3000"
    networks:
      - loki

这时也可以正常启动即可，默认日志为/var/log的位置。

docker-compose -f docker-compose.yaml up

这时，基本的安装就完成了，但是有时候需要更改配置文件，如后续nginx反向代理访问，这时这个配置文件满足不了需求，所以需要自己改动grafana。还有就是docker-compose down掉，数据也是没了，需要重新添加。

2、升级配置启动

更改也很简单，无非就是启动后，把docker的配置文件夹拷贝出来本地，然后挂载上去即可。

以下就是我自己改的docker-compose文件，可以参考：

本人机器3000端口被占用，所以改用3030端口映射，按需设置。还有本人数据文件夹/var/lib/grafana/挂载后，账号进不去，所以先注释掉了，后续在慢慢测试。

version: "3"

networks:
  loki:

services:
  loki:
    image: grafana/loki:2.5.0
    restart: unless-stopped
    ports:
      - "3100:3100"
    volumes:
      - ./config/loki/:/etc/loki/
    command: -config.file=/etc/loki/local-config.yaml
    networks:
      - loki

  promtail:
    image: grafana/promtail:2.5.0
    volumes:
      - /var/log:/var/log
      - ./config/promtail/:/etc/promtail/
    command: -config.file=/etc/promtail/config.yml
    networks:
      - loki

  grafana:
    image: grafana/grafana-enterprise:8.5.2-ubuntu
    restart: unless-stopped
    ports:
      - "3030:3000"
    volumes:
      - ./config/grafana/:/etc/grafana/
#      - ./grafana-data:/var/lib/grafana/
#这行是数据挂载在本地，需要将数据拷贝出来
    networks:
      - loki

最后文件结构如下：除了grafana配置文件夹比较多文件，其他都只有一个。grafana我整个文件夹复制出来就行了。

├── config
│   ├── grafana
│   │   ├── grafana.ini
│   │   ├── ldap.toml
│   │   └── provisioning
│   │       ├── access-control
│   │       ├── dashboards
│   │       ├── datasources
│   │       ├── notifiers
│   │       └── plugins
│   ├── loki
│   │   └── local-config.yaml
│   └── promtail
│       └── config.yml
├── docker-compose.yaml
└── grafana-data
    ├── alerting [error opening dir]
    ├── csv [error opening dir]
    ├── grafana.db
    ├── plugins
    └── png [error opening dir]

loki的local-config.yaml参考配置文件：

auth_enabled: false

server:
  http_listen_port: 3100

common:
  path_prefix: /loki
  storage:
    filesystem:
      chunks_directory: /loki/chunks
      rules_directory: /loki/rules
  replication_factor: 1
  ring:
    kvstore:
      store: inmemory

schema_config:
  configs:
    - from: 2020-10-24
      store: boltdb-shipper
      object_store: filesystem
      schema: v11
      index:
        prefix: index_
        period: 24h

ruler:
  alertmanager_url: http://localhost:9093

# By default, Loki will send anonymous, but uniquely-identifiable usage and configuration
# analytics to Grafana Labs. These statistics are sent to https://stats.grafana.org/
#
# Statistics help us better understand how Loki is used, and they show us performance
# levels for most users. This helps us prioritize features and documentation.
# For more information on what's sent, look at
# https://github.com/grafana/loki/blob/main/pkg/usagestats/stats.go
# Refer to the buildReport method to see what goes into a report.
#
# If you would like to disable reporting, uncomment the following lines:
#analytics:
#  reporting_enabled: false

promtail的config.yml配置文件：

server:
  http_listen_port: 9080
  grpc_listen_port: 0

positions:
  filename: /tmp/positions.yaml

clients:
  - url: http://loki:3100/loki/api/v1/push

scrape_configs:
- job_name: system
  static_configs:
  - targets:
      - localhost
    labels:
      job: varlogs
      __path__: /var/log/*log

grafana的配置文件太长，就不复制了，自己拷贝出来即可。
拷贝完配置文件夹后，更改完后，直接启动即可。

sudo docker-compose up -d

浏览器输入ip端口即可访问，我这里配置为ip:3030端口访问。
在这里插入图片描述

3.grafana的反向代理nginx配置，域名访问

grafana配置完后，默认是IP:端口的方式访问，如果需要域名访问，则需要用到nginx方向代理。

官方文档配置参考：官网地址

需要更改的配置文件为grafana.ini，去掉下面三个前面的注释。

  • domain：你的域名，我这里为grafana.ywbj.cc
  • root_url：访问连接，官方文档是后面加了grafana/，默认是没有的，也可以不加，区别是，不加直接访问网址即可，加了就需要访问域名/grafana才能访问，如：grafana.ywbj.cc/grafana/ 才能访问。我这里配置就没有加。
  • serve_from_sub_path：去掉注释，将false改成true即可。
[server]
domain = grafana.ywbj.cc
root_url = %(protocol)s://%(domain)s:%(http_port)s/
serve_from_sub_path = true

grafana配置完成，下面就是配置nginx了。官方nginx配置文件：
注：如果上面root_url 后面加了grafana/，则location / 改为location /grafana/ 。

# this is required to proxy Grafana Live WebSocket connections.
map $http_upgrade $connection_upgrade {
  default upgrade;
  '' close;
}

server {
  listen 80;
  server_name  grafana.initcapp.com;
  root /usr/share/nginx/html;
  index index.html index.htm;

  location / {
    proxy_set_header Host $http_host;
    proxy_pass http://localhost:3000/;
  }

  # Proxy Grafana Live WebSocket connections.
  location /api/live {
    rewrite  ^/(.*)  /$1 break;
    proxy_http_version 1.1;
    proxy_set_header Upgrade $http_upgrade;
    proxy_set_header Connection $connection_upgrade;
    proxy_set_header Host $http_host;
    proxy_pass http://localhost:3000/;
  }
}

上面配置好了，然后启动，虽然可以访问，也可以添加资源，但是在实时查看日志流，会出现错误。
Query error Live tailing was stopped due to following error: undefined，如下图：
在这里插入图片描述
原因是websocket出错，即配置文件中location /api/live 这个区域。
根据另一篇官方文档：https://grafana.com/docs/grafana/latest/live/configure-grafana-live/
修改nginx配置文件，最后nginx配置文件为：

map $http_upgrade $connection_upgrade {
  default upgrade;
  '' close;
}

server {
  listen 80;
  server_name  	grafana.ywbj.cc;
  #root /usr/share/nginx/html;
  #index index.html index.htm;
  
  error_log  /var/log/nginx/nginx.localhost.error.log  warn;
  
  location / {
    proxy_http_version 1.1;
    proxy_set_header Upgrade $http_upgrade;
    proxy_set_header Connection $connection_upgrade;
    proxy_set_header Host $http_host;
    proxy_pass http://localhost:3030/;
    #默认为3000端口，我配置为3030，所以是3030.
  }

这样启动后，功能一切正常了。

三、客户端安装及配置

loki客户端，及需要收集日志的另一台机器，只需要安装promtail，也可以docker启动安装，也可以二进制安装。

由于本人收集日志有其他目录，如果用docker，需要配置挂载很多路径到docker，所以我在客户端直接用二进制启动即可，配置文件比较容易。

二进制官方下载地址：https://github.com/grafana/loki/releases
找到自己合适的版本promtail,我这里是这个。
在这里插入图片描述
下载后，解压即可，得到一个可执行文件promtail-linux-amd64。

root@web:/loki# ls
config.yaml  promtail-linux-amd64

还需要创建一个config.yaml文件，用于启动promtail。

sudo vim config.yaml

如果有多路径及目录，则添加多个job_name即可。
注意：clients中的url为你服务器的地址。

server:
  http_listen_port: 9080
  grpc_listen_port: 0

positions:
  filename: /tmp/positions.yaml

clients:
  - url: http://192.168.152.100:3100/loki/api/v1/push
  #服务器端loki的IP地址

scrape_configs:
- job_name: web
  static_configs:
  - targets:
      - localhost
    labels:
      job: web-varlogs
      __path__: /var/log/*log

- job_name: web
  static_configs:
  - targets:
      - localhost
    labels:
      job: nginx-logs
      __path__: /home/ubuntu/laradock/logs/nginx/*log

- job_name: web
  static_configs:
  - targets:
      - localhost
    labels:
      job: api-logs
      __path__: /home/ubuntu/api/storage/logs/*log

创建完配置文件，启动即可。

./promtail-linux-amd64 -config.file=./config.yaml

后台启动，并输入日志。

#输入日志到指定位置
nohup ./promtail-linux-amd64 -config.file=./config.yaml  > /var/log/promtail.log 2>&1 &
#不需要日志输入，直接为空。
nohup ./promtail-linux-amd64 -config.file=./config.yaml  > /dev/null 2>&1 &

启动后，用ps可查看进程是否启动

root@web:/loki# ps -ef|grep promtail
root     1466400 1450430  7 10:41 pts/0    00:00:00 ./promtail-linux-amd64 -config.file=./config.yaml
root     1466415 1450430  0 10:41 pts/0    00:00:00 grep --color=auto promtail

四、grafana使用添加loki

在浏览器输入域名访问，默认账号密码为admin/admin

然后在data sources，点击添加add data source，选择loki即可。
在这里插入图片描述
然后添加服务器loki的地址即可，地址为IP:3100，loki的默认端口为3100。
在这里插入图片描述
添加完成，没有报错，说明添加成功。
在explore，在 log browser中选择，即可查看刚才添加的日志，这里以job分类。
在这里插入图片描述
选择一个，show logs即可查看，右上角为实时流查看日志。
在这里插入图片描述
这里loki、promtail、Grafana日志系统就配置完了。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/792248.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

可视化时序输入与输出|python

可视化时序输入与输出|python

请帮我生成可视化图的python代码，输入是xxx变量，输出是xxx变量，横坐标是时间，输入用蓝线表示，输出用黄线表示，然后输入和输出在时间维度上是分别一个在前，一个在后。 import matplotlib.pyplot…
阅读更多...
安全狗深度参与编写的《云原生安全配置基线规范》正式发布！

安全狗深度参与编写的《云原生安全配置基线规范》正式发布！

7月25日，由中国信息通信研究院、中国通信标准化协会主办的2023可信云大会在北京顺利开幕。 作为国内云原生安全领导厂商，安全狗受邀出席此次活动。 厦门服云信息科技有限公司（品牌名：安全狗）成立于2013年&#xff0c…
阅读更多...
《算法竞赛·快冲300题》每日一题：“凹”

《算法竞赛·快冲300题》每日一题：“凹”

《算法竞赛快冲300题》将于2024年出版，是《算法竞赛》的辅助练习册。 所有题目放在自建的OJ New Online Judge。 用C/C、Java、Python三种语言给出代码，以中低档题为主，适合入门、进阶。 文章目录 题目描述题解C代码Java代码Python代码 “ 凹…
阅读更多...
Java SpringMvc

Java SpringMvc

0目录 java SpringMvc拓展 1.SpringMvc 创建工程，导入依赖 配置 web.xml文件 配置Spring配置文件，resources目录下新建applicationContext.xml 控制层配置 新建list.jsp并测试 Web.xml详解 如果required是true必须要传参 设置默…
阅读更多...
深度揭秘C++继承：理解面向对象编程的核心概念

深度揭秘C++继承：理解面向对象编程的核心概念

目录 一.继承1.继承与面向对象2.继承方式访问权限3.切片（赋值转换）4.作用域5.默认成员函数6.友元与静态函数7.解决菱形继承的二义性与数据冗余8.继承与组合 一.继承 1.继承与面向对象 我们知道C语言是面向过程的编程语言，C在C语言的基础上进…
阅读更多...
【TiDB理论知识06】PD架构与作用

【TiDB理论知识06】PD架构与作用

目录 一 PD的架构与功能 PD架构 PD作用 名词解释 路由功能 二 TSO的分配 概念 分配过程 性能问题 高可用问题 三 PD的调度原理 总流程 1 信息收集 2 生成调度 3 执行调度 四 Label的作用 Label的配置 给TiKV打标签 PD配置 一 PD的架构与功能 PD架构 PD集群…
阅读更多...
机器学习|学习类型-监督学习

机器学习|学习类型-监督学习

让我们来讨论什么是机器学习如下所示： 如果机器在给定任务中的性能随着经验的改善而改善，则可以说机器正在从过去的经验（数据馈入）中学习某些类别的任务。例如，假设一台机器必须预测客户今年是否会购买特定的产品&…
阅读更多...
指针进阶（三）

指针进阶（三）

指针进阶（三） 指针习题组： 01： int main() {int a[5] { 1, 2, 3, 4, 5 };int *ptr (int *)(&a 1);printf( "%d,%d", *(a 1), *(ptr - 1));return 0; }运行结果： 原因：这里a是数组名&a…
阅读更多...
点云拟合球体

点云拟合球体

前言：在很多情况下，需要根据点云来拟合球体，本博文主要介绍各种方法的拟合情况及优缺点，希望对各位小伙伴有所帮助！ 目录 1. vtkFitImplicitFunction进行球拟合 2. 四点求解球 1. vtkFitImplicitFunction进行球拟合 …
阅读更多...
汽车减震器弹簧阻尼模型及python代码

汽车减震器弹簧阻尼模型及python代码

U为主动减震施加的力。 通过python control库，可以得到在单位脉冲激励下X1的响应曲线 import control import matplotlib.pyplot as pltM1 2500 M2 320 K1 80000 K2 500000 b1 350 b2 15020s control.TransferFunction.sH (b1*b2*s*s (b1*K2b2*K1)*s K1*…
阅读更多...
foreverlasting and fried-chicken hdu7293

foreverlasting and fried-chicken hdu7293

Problem - 7293 题目大意&#xff1a;给出一个n个点&#xff0c;m条边的图&#xff0c;问其中包含了几个下面这样的子图 1<n<1000; 思路&#xff1a;我们要找两个点u,v&#xff0c;他们至少有4个公共点&#xff0c;且至少有一个点的度数至少为6&#xff0c;其中还要判断…
阅读更多...
【Nodejs】Koa基本使用

【Nodejs】Koa基本使用

1.简介 koa 是由 Express 原班人马打造的&#xff0c;致力于成为一个更小、更富有表现力、更健壮的 Web 框架。使用 koa 编写 web 应用&#xff0c;通过组合不同的 generator&#xff0c;可以免除重复繁琐的回调函数嵌套&#xff0c;并极大地提升错误处理的效率。koa 不在内核方…
阅读更多...
Python+Playwright自动化测试--标签页操作（tab）

Python+Playwright自动化测试--标签页操作（tab）

1.简介 标签操作其实也是基于浏览器上下文&#xff08;BrowserContext&#xff09;进行操作的&#xff0c;而且宏哥在之前的BrowserContext也有提到过&#xff0c;但是有的童鞋或者小伙伴还是不清楚怎么操作&#xff0c;或者思路有点模糊&#xff0c;因此今天单独来对其进行讲…
阅读更多...
msvcr71.dll丢失或(找不到)的解决办法

msvcr71.dll丢失或(找不到)的解决办法

在使用电脑有时候今天没有问题隔天我们再打开软件时候&#xff0c;就遇到电脑提示msvcr71.dll丢失的问题&#xff0c;完全不知道怎么回事跟怎么解决&#xff0c;今天本文章给大家详细介绍msvcr71.dll丢失的解决方法&#xff0c;跟丢失的原因。 1.是什么msvcr71.dll msvcr71.dl…
阅读更多...
windows 抓取网页视频的url

windows 抓取网页视频的url

fd抓视频链接 Filddler4官网&#xff1a; https://www.telerik.com/download/fiddler 复制 预先设置&#xff1a;打开 Fiddler&#xff0c;选择菜单栏 -> Tools -> Fiddler Options&#xff0c;在 HTTPS 选项卡中勾选 Decrypt HTTPS traffic&#xff0c;然后重启Fidd…
阅读更多...
【云原生系列】openstack搭建过程及使用

【云原生系列】openstack搭建过程及使用

目录 搭建步骤 准备工作 正式部署OpenStack 安装的过程 安装组件如下 登录页面 进入首页 创建实例步骤 上传镜像 配置网络 服务器配置 dashboard配置 密钥配置免密登录 创建实例 绑定浮动ip 免密登录实例 搭建步骤 准备工作 1.关闭防火墙和网关 systemctl dis…
阅读更多...
Ip-Limit: 轻量级注解式IP限流组件（二）

Ip-Limit: 轻量级注解式IP限流组件（二）

author: van , ggfanwentaogmail.comIp-Limit-Example: 轻量级注解式IP限流组件使用样例 项目简介 该项目为ip-limiter的使用示例项目。 ip-limiter地址&#xff1a; https://github.com/DDAaTao/ip-limiter 示例项目文件树 └─example├─handler│ └─BaseException…
阅读更多...
k8s部署高可用-redis

k8s部署高可用-redis

一、项目地址 ​GitHub - spotahome/redis-operator: Redis Operator creates/configures/manages high availability redis with sentinel automatic failover atop Kubernetes.​ 二、部署过程 一、部署operator控制器 1.把项目clone下来直接部署方便。 到这个目录下的这个…
阅读更多...
springboot整合ELK+kafka采集日志

springboot整合ELK+kafka采集日志

一、背景介绍 在分布式的项目中&#xff0c;各功能模块产生的日志比较分散&#xff0c;同时为满足性能要求&#xff0c;同一个微服务会集群化部署&#xff0c;当某一次业务报错后&#xff0c;如果不能确定产生的节点&#xff0c;那么只能逐个节点去查看日志文件&#xff1b;lo…
阅读更多...
MySQL体系结构及执行过程

MySQL体系结构及执行过程

一、MySQL体系结构 1、网络连接层 客户端连接器&#xff08;Client Cnnectors&#xff09;&#xff1a;提供支持与MySQL服务器建立连接。 建立连接命令&#xff1a;mysql -h -u -p -h指定MySQL服务的IP 若本地连接则不需要 每一个连接均会保存用户权限&#xff0c;中途修改权…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023