ELK日志(1)

news2025/1/15 17:30:49

Elasticsearch

开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful 风格接口,多数据源,自动搜索负载等。

RESTFUL特点包括:

1、每一个URI代表1种资源;

2、客户端使用GET、POST、PUT、DELETE4个表示操作方式的动词对服务端资源进行操作:GET用来获取资源,POST用来新建资源(也可以用于更新资源),PUT用来更新资源,DELETE用来删除资源;

3、通过操作资源的表现形式来操作资源;

4、资源的表现形式是XML或者HTML;

5、客户端与服务端之间的交互在请求之间是无状态的,从客户端到服务端的每个请求都必须包含理解请求所必需的信息。

官方网站:
https://www.elastic.co
中文社区:
https://elasticsearch.cn
官方参考文档:
https://www.elastic.co/guide/en/elasticsearch/reference/6.6/setup-configuration-memory.html
下载地址:
https://mirrors.tuna.tsinghua.edu.cn/elasticstack/6.x/yum/6.6.0/

elasticsearch-6.6.0.rpm 存储nosql非关系型数据库
filebeat-6.6.0-x86_64.rpm 从nginx服务日志中读取数据并发送给redis
kibana-6.6.0-x86_64.rpm 以图形化方式展示
logstash-6.6.0.rpm 负责将redis缓存中的数据收集并提交给elasticsearch
redis负责缓存数据库

前提条件

拓扑图如下:

前提环境:jdk-1.8.0

硬件要求:

主机

IP

内存

网络

node-1

192.168.8.1

4G

NAT

node-2

192.168.8.2

2/4G

NAT

node-3

192.168.8.3

2/4G

NAT

部署elasticsearch

  1. 安装elasticsearch:

[root@node-1 ~]# rpm -ivh /media/elk-6.6/elasticsearch-6.6.0.rpm 
  1. elasticsearch目录和文件

/etc/elasticsearch/elasticsearch.yml #配置文件
/etc/elasticsearch/jvm.options #java虚拟机
/etc/init.d/elasticsearch #服务启动脚本
/etc/sysconfig/elasticsearch #elasticsearch服务变量
/usr/lib/sysctl.d/elasticsearch.conf #设置elasticsearch用户使用的内存大小
/usr/lib/systemd/system/elasticsearch.service #添加系统服务文件
/var/log/elasticsearch/elasticsearch.log #日志文件路径
  1. 修改配置文件:

[root@node-1 ~]# vim /etc/elasticsearch/elasticsearch.yml
node.name: node-1                            #群集中本机节点名
path.data: /data/elasticsearch               #数据目录
path.logs: /var/log/elasticsearch            #日志目录
bootstrap.memory_lock: true                  #锁定内存,需要和/etc/elasticsearch/jvm.options关联
network.host: 192.168.8.1,127.0.0.1          #监听的ip地址
http.port: 9200                              #端口号
  1. 创建数据目录,并修改权限

[root@node-1 ~]# mkdir -p /data/elasticsearch 
[root@node-1 ~]# chown -R elasticsearch.elasticsearch /data/elasticsearch/
  1. 分配锁定内存:

实验环境一般默认就是1g,所以就不需要更改。

[root@node-1 ~]# vim /etc/elasticsearch/jvm.options
-Xms1g        #分配最小内存
-Xmx1g        #分配最大内存,官方推荐为物理内存的一半,但最大为32G
  1. 修改锁定内存后,无法重启,解决方法如下

[root@node-1 ~]# systemctl edit elasticsearch
[Service]
LimitMEMLOCK=infinity
    按键F2保存退出
[root@node-1 ~]# systemctl daemon-reload
[root@node-1 ~]# systemctl restart elasticsearch
    启动后稍等一会,需要启动时间,查看端口打开就完成了。
[root@node-1 ~]# netstat -anpt | grep 9200
tcp6       0      0 192.168.8.1:9200        :::*                    LISTEN      105678/java         
tcp6       0      0 127.0.0.1:9200          :::*                    LISTEN      105678/java   
  1. 查看主机

  • 查看单主机

http://192.168.8.1:9200/

  • 查看群集健康状态

http://192.168.8.1:9200/_cluster/health?pretty

查看整个群集状态信息

http://192.168.8.1:9200/_cluster/state?pretty

  1. 下载es-head插件

  • 插件下载地址

https://github.com/mobz/elasticsearch-head

  • 下载后,解压,复制crx目录下es-head.crx到桌面改名es-head.crx为es-head.crx.zip。

  • 解压es-head.crx.zip到es-head.crx目录,把目录es-head.crx,上传到谷歌浏览器更多工具→扩展程序。

  • 勾选开发者模式→加载已解压的扩展程序→选择刚解压的文件即可。

  • 打开后修改左上角的IP为本机IP,连接成功即可图形化的显示集群状态,后面配置好集群后就可以查看整个集群的图形化状态。

  1. 创建索引:vipinfo,类型:users,序号:1,数据部分:...

[root@node-1 ~]# curl -XPUT '192.168.8.1:9200/vipinfo/users/1?pretty&pretty' -H 'Content-Type: application/json' -d '{"name": "guofucheng","age": "45","job": "mingxing"}'

选项说明:

XPUT 创建

XDELETE 删除

扩展内容

curl命令是个功能强大的网络工具,可用来模拟客户端请求,抓取网页、网络监控等。

curl常见用法

get请求:curl url
post请求:curl -d ‘xxx’ -X POST $url
proxy使用:curl -x ‘ http://127.0.0.1:8080’ $url :指定 HTTP 请求通过 http://127.0.0.1:8080

具体参数

-H: “Content-type: application/json” 添加 HTTP 请求头 curl -H 'Content-type: application/json' $url
-G: 把data数据当成get请求的参数发送,用来构造 URL 的查询字符串,与–data-urlencode结合使用
-X:指定 HTTP 请求的方法 curl -X POST $url
-d: 发送post请求数据,@file表示来自于文件
--data-urlencode:发送post请求数据,会对内容进行url编码
-u: username:password用户认证
-o: 写文件,将服务器的响应保存成文件
-v: verbose,打印更详细日志
-s, --silent: 关闭一些提示输出,不输出错误和进度信息。
-S:只输出错误信息
-k:使用SSL时允许不安全的服务器连接
-L:跟随跳转链接

XML与YAML

YAML 是一种较为人性化的数据序列化语言,可以配合目前大多数编程语言使用。

YAML的语法比较简洁直观,特点是使用空格来表达层次结构,其最大优势在于数据结构方面的表达,所以 YAML 更多应用于编写配置文件,其文件一般以 .yml 为后缀。

一、 json与xml的相同点

1. json与xml是一种远程数据传输交换格式。

2. json是轻量级的,xml标记电子文件具有结构性的语言。

二、json与xml的不同点

1.xml缺点:xml是远程数据传输,交换格式数据庞大,比较占宽带,解析异常复杂,不易于维护,同时在不同服务器中的解析格式不同,造成大量数据重复。

2. json优点:因为文件格式压缩,格式简单,占宽带小,易于维护

实例比较

XML和JSON都使用结构化方法来标记数据,下面来做一个简单的比较。

  1. XML

用XML表示中国部分省市数据如下:

<?xml version="1.0" encoding="utf-8"?>
<country>
    <name>中国</name>
    <province>
        <name>黑龙江</name>
        <cities>
            <city>哈尔滨</city>
            <city>大庆</city>
        </cities>
    </province>
    <province>
        <name>广东</name>
        <cities>
            <city>广州</city>
            <city>深圳</city>
            <city>珠海</city>
        </cities>
    </province>
    <province>
        <name>台湾</name>
        <cities>
            <city>台北</city>
            <city>高雄</city>
        </cities>
    </province>
    <province>
        <name>新疆</name>
        <cities>
            <city>乌鲁木齐</city>
        </cities>
    </province>
</country>
  1. JSON

{
    "name": "中国",
    "province": [{
        "name": "黑龙江",
        "cities": {
            "city": ["哈尔滨", "大庆"]
        }
    }, {
        "name": "广东",
        "cities": {
            "city": ["广州", "深圳", "珠海"]
        }
    }, {
        "name": "台湾",
        "cities": {
            "city": ["台北", "高雄"]
        }
    }, {
        "name": "新疆",
        "cities": {
            "city": ["乌鲁木齐"]
        }
    }]
}

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/162531.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

MES系统之工控

MES系统之工控 要控制MES系统首先要对他有个了解。MES系统最早由1990年&#xff0c;由美国先进制造研究中心AMR提出的&#xff0c;当时中文意思叫制造执行系统概念。直到1997年&#xff0c;MESA(制造执行系统协会)提出了MES功能组件和继承模型&#xff0c;到20世纪90年代初期&a…

动态内存管”家“

&#x1f40b;动态内存管理&#x1f996;动态内存分配存在的意义&#x1f996;动态内存函数的介绍&#x1f424;malloc和free&#x1f424;calloc&#x1f424;realloc&#x1f996;常见动态内存错误&#x1f424;对空指针的解引用操作&#x1f424;对动态开辟空间的越界访问&a…

springMVC的响应

SpringMVC接收到请求和数据后&#xff0c;进行一些了的处理&#xff0c;当然这个处理可以是转发给Service&#xff0c;Service层再调用Dao层完成的&#xff0c;不管怎样&#xff0c;处理完以后&#xff0c;都需要将结果告知给用户。 对于响应&#xff0c;主要就包含两部分内容&…

关于 sensor hdr 模式下不出图/出图异常的排查方法

1、问题背景&#xff1a;有项目调试过 ov02k10&#xff08;1920*1080&#xff09;和 sc301IoT&#xff08;2048*1536&#xff09;两款 sensor, 都有出现 hdr 模式下出图异常或者不出图的问题&#xff0c;总结下排查过程及注意事项&#xff1b;2、问题现象&#xff1a;a、ov02k1…

Odoo 16 企业版手册 - 库存管理之寄售

寄售 使用“「设置」”菜单下提供的「寄售」选项&#xff0c;可以对库存中储存的产品设置所有者。产品将由零售商销售&#xff0c;但产品的实际所有权将由供应商持有&#xff0c;直到产品出售给客户。通过这种方法&#xff0c;您可以轻松地将未售出的产品退还给供应商。在寄售的…

java对接阿里云短信服务详解(验证码,推广短信,通知短信)

前言 小前提&#xff1a; - java&#xff1a;springboot框架&#xff0c;maven版本管理。 - 阿里云&#xff1a;有账号&#xff0c;已经进行实名认证。 java对接阿里云短信服务详解&#xff08;验证码&#xff0c;推广短信&#xff0c;通知短信&#xff09;前言1. 登录阿里云进…

基于servlet+mysql+jsp实现体育用品商城

基于servletmysqljsp实现体育用品商城一、系统介绍1、系统主要功能&#xff1a;2、环境配置二、功能展示1.主页(客户)2.登陆&#xff08;管理员&#xff09;3.主页&#xff08;管理员&#xff09;4.订单管理&#xff08;管理员&#xff09;5.客户管理&#xff08;管理员&#x…

linux系统结构

目录 0.前言 1.系统结构图 1.1.操作系统工作方式 1.2.高版本和低版本内核区别 0.前言 本专栏&#xff0c;是记录内核学习的&#xff0c;参考b站linux内核源码分析&#xff0c;以及linux内核艺术图解。后面的文章将记录个人的学习&#xff0c;源码注释&#xff0c;源码理解…

ANSYS Products 2020 R1 Linux64版本安装

fluent系列 占位 fluent2020R1版本安装fluent系列前言一、基础环境二、安装准备1.图形化环境准备2.路径准备3.挂载安装用iso4.拷贝安装文件三、开始安装1.进入图形化界面2.开始安装3.试运行fluent四、替换破解版的license总结前言 在centos7环境下安装使用fluent的部署记录。…

不用if else if 如何 解决文末尾问题

根据条件判断发送axios所携带的参数&#xff0c;这是搜索的2个条件&#xff0c;如果为空就按照空这个条件来搜索&#xff0c;所以为空携带参数就不能有他&#xff0c;导致if else if 的连续判断 开始来没有思路&#xff0c;随便尝试尝试&#xff0c;来打开自己的思路 期间尝…

【学习经验分享NO.20】代码报错(可帮助远程调试代码)

本博客会整理分享一些报错问题以及解决办法&#xff0c;本文会不断进行更新。有需求的朋友可以关注私信我&#x1f618;进行远程调试。&#x1f349;1.报错1问题nn.functional.sigmoid is deprecated. Use torch.sigmoid instead.解决办法将项目中的F.sigmoid修改为torch.sigmo…

【docker16】Docker-Compose容器编排

1.是什么 Docker-Compose是Docker官方的开源项目&#xff0c;负责实现对Docker容器集群的快速编排。 Compose是Docker公司推出的一个工具软件&#xff0c;可以管理多个Docker容器组成一个应用&#xff0c;你需要定义一个YAML格式的配置文件docker-compose.yml&#xff0c;写好…

JAVA导出Excel通用工具——第二篇:使用EasyExcel导出excel的多种情况的例子介绍

JAVA导出Excel通用工具——第二篇&#xff1a;使用EasyExcel导出excel的多种情况的例子介绍1. 前言2. 依赖3. 导出简单例子3.1 ① 基础入门例子3.1.1 核心代码3.1.2 效果展示3.2 ② 注解的简单使用3.2.1 ExcelIgnore3.2.2 ExcelProperty3.2.2.1 一般效果&#xff08;表头合并等…

MySQL高级【InnoDB引擎】

1&#xff1a;InnoDB引擎1.1&#xff1a;逻辑存储引擎 InnoDB的逻辑存储结构如下图所示: 1). 表空间 表空间是InnoDB存储引擎逻辑结构的最高层&#xff0c; 如果用户启用了参数 innodb_file_per_table(在 8.0版本中默认开启) &#xff0c;则每张表都会有一个表空间&#xff08…

【iOS】—— 初识block

block 文章目录block什么是block&#xff1f;block语法Block变量截获自动变量值__block说明符截获的自动变量block的三种存储类型NSGlobalBlockNSStackBlockNSMallocBlockblock的父类block循环引用未完待续什么是block&#xff1f; Blocks是带有自动变量&#xff08;局部变量&…

React--》初识React框架及其基本使用

目录 React React的安装与使用 JSX语法及使用 模块与组件 React开发者工具的安装 面向组件编程 React React是一个用于构建用户界面的JavaScript库。用户界面:HTML页面(前端)。React主要用来写HTML页面&#xff0c;或构建Web应用。 如果从 MVC的角度来看&#xff0c;…

第一天总结之后端登录功能的实现

第一天总结之后端登录功能的实现 一、 前端页面 从图片 很明显知道 两个intput输入框 一个输入username 一个输入password 从前端的页面代码 可以找到form表单 根据form表单的action属性了解到 点击登录跳转到 controller 层的 LoginServlet 二、controller 层 创建一个 Log…

2023年跨境电商新趋势,新手小白还有出路吗?

跨境电商一直位于我国对外开放的最前沿&#xff0c;当下已经成为我国进出口贸易的关键组成部分之一&#xff0c;是外贸企业顺利开展进出口业务的重要保障&#xff0c;更是拥有庞大发展潜力以及活力的贸易新业态。在经济全球化趋势下&#xff0c;充分发挥出跨境电商的战略新通道…

Java 包的使用详解

文章目录1. 概念2. 导入包中的类2.1 使用类的全路径2.2 导入包2.3 静态导入包3. 自定义包4. 包的访问权限控制5. 常用的包Java编程基础教程系列1. 概念 在开发过程中&#xff0c;会定义很多的类&#xff0c;随着类的定义越来越多&#xff0c;难免会出现类名重复的情况&#xf…

mac 安装redis

文章目录mac 安装redis使用Homebrew安装Redis1.搜索redis版本2.使用Homebrew安装命令3.查看是否安装完成4.启动redis服务5.查看redis服务进程6.redis-cli连接redis服务7.检测 redis 服务是否启动8.修改密码mac 安装redis 使用Homebrew安装Redis 首先这里需要安装homebrew 1.搜…