kibana设置ILM

news2024/11/27 12:33:52

kibana设置ILM

1. 背景

kibana version: v7.9.3

2. 设置ILM

2.1 创建索引生命周期策略

2.1.1 热阶段

首先需要先创建索引生命周期策略,在索引模板中可以引用创建好的索引生命周期策略。

  • 策略名称: 引用该策略是需要用,例如设置为:filebeat-index-ilm

  • 最大索引大小:设置单个索引最大字节数,此处为50千兆字节,即50G.

  • 最大文档数:设置单个索引所内容乃的最大文档数,超过该数则创建新的索引。

  • 最大存在时间: 指的是索引在温热阶段中可以存在的最长时间。一旦索引达到这个时间限制,它将被自动转移到冷却阶段,并最终被归档或删除。

    "最大存在时间"是一个可选的参数,你可以根据实际需求来决定是否设置这个参数。如果你没有设置这个参数,索引将会一直保持在温热阶段,直到你手动将其转移到冷却阶段或删除。

    在设置"最大存在时间"时,你可以选择一个固定的时间长度,例如30天。这意味着索引在温热阶段中最多存在30天,之后它将被自动转移到冷却阶段。这个参数可以帮助你控制索引的生命周期,避免过多的旧索引占用存储空间和资源。

    需要注意的是,具体的索引生命周期策略还受到其他参数的影响,例如滚动布署的频率、索引模板、索引生命周期策略等。因此,在实际应用中,需要根据具体的业务需求和数据量来调整和优化这些参数。

2.1.2 温阶段和冷阶段

温阶段和冷阶段不再设置,解释一下这两个阶段:

在 Kibana 中创建索引生命周期策略时,warm phase和Cold phase的存在有意义,它们适用于不同的场景。

  1. Warm phase(温阶段): Warm phase是索引生命周期的中间阶段,适用于处理活跃但不再频繁更改的数据。在这个阶段,索引被用于的搜索和查询操作较多,因此需要保持良好的搜索性能。在温阶段,索引可以被滚动更新,以保持其当前的索引结构、映射和设置。

    温阶段适用于以下场景:

    • 数据检索:如果您的应用程序需要从历史数据中检索信息,并且这些数据已经过了一段时间但仍然活跃,那么可以将索引设置为在温阶段。
    • 数据归档和分析:如果您的应用程序需要将数据存储一段时间以便进行进一步的分析、报告或可视化,那么可以将索引设置为在温阶段。
  2. Cold phase(冷阶段): Cold phase是索引生命周期的后期阶段,适用于处理不再活跃的数据。在这个阶段,索引被用于的搜索和查询操作较少,因此可以降低存储成本和索引维护开销。在冷阶段,索引可以被归档和压缩,以进一步降低存储成本。

    冷阶段适用于以下场景:

    • 数据归档:如果您的应用程序需要长期存储数据,并且这些数据不再被频繁地搜索和查询,那么可以将索引设置为在冷阶段。
    • 数据保留策略:如果您的应用程序需要保留某些数据一段时间后将其删除,那么可以将索引设置为在冷阶段,并在达到保留期限时自动删除索引。

    综上所述,温阶段和冷阶段的存在意义在于进一步优化索引生命周期的管理。通过将索引分阶段管理,可以更好地平衡性能、存储成本和维护开销,以满足不同的业务需求。

2.1.3 删除阶段

  • 删除倒计时: 设置日志多久之后删除。

2.2 创建索引模板

  • 名称:索引模板名

  • 索引模式: 用来匹配应用于哪些索引,例如匹配filebeat-开头的索引;filebeat-*

  • 优先级:是一个整数值,用于确定索引模板的优先级。较高的优先级值表示该索引模板具有更高的优先级。当多个索引模板匹配到同一个索引时,优先级最高的索引模板将被应用。

  • 版本:是一个整数值,用于跟踪索引模板的版本号。你可以根据需要为每个索引模板设置一个唯一的版本号。当索引模板需要更新时,你可以增加版本号以确保新版本的索引模板被应用。

  • _meta 字段:_meta 字段是一个 JSON 对象,用于存储与索引模板相关的元数据。你可以在 _meta 字段中添加自定义的键值对,例如索引模板的创建时间、作者等信息。这些元数据可以在使用 Elasticsearch API 管理索引模板时进行访问和操作。

  • 选择组件: 引用已经创建好的组件模板

  • 索引设置: 图中设置了生命周期相关内容,lifecycle:指的就是索引的生命周期,这里就是我们之前创建的索引生命周期;rollover_alias:滚动别名,当我们配置了索引大小,超过这个大小后,会以这个名称命名。
  1. 映射字段:
    映射字段是指将文档中的字段与特定的数据类型和属性进行映射。在创建索引模板时,可以手动添加映射字段,以便在索引文档时将字段映射为指定的数据类型和属性。例如,可以添加一个名为 "message" 的映射字段,将其映射为文本类型,并设置其分析器为 "standard"。

映射字段适用于以下场景:

  • 数据类型已知且固定的场景:当文档中的字段类型固定且已知时,可以手动添加映射字段,以确保索引的准确性和性能。

  • 需要自定义数据类型的场景:当文档中存在自定义的数据类型时,可以手动添加映射字段,并将其映射为相应的数据类型,以便在查询和聚合时能够正确地处理数据。

  1. 动态模板:
    动态模板是指根据文档中的字段名、数据类型等动态地设定字段类型。在创建索引模板时,可以定义动态模板规则,以便根据文档的实际情况动态地设定字段类型。例如,可以定义一个名为 "text" 的动态模板,将所有以 "message" 开头的字段映射为文本类型。

动态模板适用于以下场景:

  • 数据类型未知或动态变化的场景:当文档中的字段类型未知或动态变化时,可以使用动态模板来自动识别字段类型,并将其映射为相应的数据类型。

  • 需要灵活处理不同数据类型的场景:当文档中存在多种数据类型时,可以使用动态模板来根据字段名、数据类型等信息动态设定字段类型,以便在查询和聚合时能够正确地处理数据。

  1. 高级选项:
    高级选项是指在创建索引模板时可以配置的一些高级设置,例如索引分片数、索引副本数、分析器等。这些设置可以优化索引的性能和存储效率。

高级选项适用于以下场景:

  • 需要优化索引性能的场景:可以通过配置索引分片数和索引副本数来优化索引的性能,提高查询和聚合的速度。
  • 需要优化存储效率的场景:可以通过配置存储设置和分析器来优化索引的存储效率,减少存储空间的使用.。

  • 设置索引别名

    1. 方便对多个索引进行查询:如果你有许多索引并且经常需要同时查询这些索引,使用别名可以方便地将这些索引组合在一起进行查询。
    2. 简化索引引用:在查询时,只需要引用别名,而不需要写出完整的索引名称,这使得查询语句更加简洁。
    3. 方便索引的版本控制:如果你在系统中对索引进行更新或替换,使用别名可以使得对已有查询的影响最小化。例如,你可以创建一个别名,使其始终映射到最新的索引版本,这样在更新索引时,不需要更改所有查询。

    在 Elasticsearch 中创建别名的方法是通过使用 "alias" API。例如,如果你有一个索引 "test-20190120",并想为其创建一个别名 "test",你可以使用以下的请求:

    bash复制代码PUT /_aliases  {    "actions": [      {        "add": {          "index": "test-20190120",          "alias": "test"        }      }    ]  }

    在上述请求中,"add" 动作告诉 Elasticsearch 将别名 "test" 添加到索引 "test-20190120" 上。之后,你可以使用别名 "test" 来查询该索引的内容。

完成模板创建。

3. 生效

创建索引生命周期之前的创建的索引不会受索引生命周期影响,之后创建的索引会进入到索引生命周期的策略管理中。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/976534.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【LeetCode75】第四十七题 迷宫中离入口最近的出口

目录 题目: 示例: 分析: 代码: 题目: 示例: 分析: 题目给我们一个数组形式的地图,让我们找出离入口最近的出口,出口就是地图的边界。 那么这道题可以使用DFS也可以…

Vue+elementUI 导出word打印

import JSZipUtils from "jszip-utils"; import JSZip from "pizzip"; import Docxtemplater from "docxtemplater"; npm安装以上依赖 首先维护个word模板 导出方法 //导出wordskipOutWord(row) {var printData rowconst data JSON.parse(JS…

作品集(陆续上传中)

智能家居---不断完善中 家居-CSDN直播 家居 语音刷抖音 --- 基于串口和adb 基于守护进程的语音刷抖音-CSDN直播 基于守护进程的语音刷抖音 海天一色项目 --- 船舶靠港零碳排加热器 FTP云盘 --- 多进程和socket FTP云盘-CSDN直播 FTP云盘

JS 删除数组中的第一项和最后一项

JS 删除数组中的第一项和最后一项 需求分析 需求 JS 删除数组中的第一项和最后一项 分析 删除数组第一个元素 array.shift() /* 1. shift() 方法用于把数组的第一个元素从其中删除。 2. 返回值: 被删除的元素(即数组原来的第一个元素的值)。…

Unity——LitJSON的安装

一、LitJSON介绍 特点 LitJSON是一个轻量级的C# JSON库,用于在Unity游戏开发中进行JSON数据的序列化和反序列化操作。它提供了简单而高效的接口,帮助开发者处理JSON数据。 以下是LitJSON库的一些主要特点和功能: 1. 高性能:Lit…

死锁是什么?死锁的字节码指令了解?

用幽默浅显的言语来说死锁 半生:我已经拿到了机考的第一名,就差笔试第一名了 小一:我已经拿到了笔试的第一名,就差机考第一名了 面试官:我很看好你俩,继续"干", 同时拿到2个的第一名才能拿到offe…

华为云云服务器评测|基于云服务器的minio部署手册

华为云云服务器评测|基于云服务器的minio部署手册 【软件安装版本】【集群安装(是)(否)】 版本 创建人 修改人 创建时间 备注 1.0 jz jz 2023.9.2 minio华为云耀服务器 一. 部署规划与架构 1. 规…

降低LLM的幻觉风险:实用策略与技术

一、前言 近年来,大语言模型的快速发展为构建更智能和更人性化的AI系统提供了很多可能性。像GPT-3.5、GPT-4、Bard、Claude 2和LLaMa 2等大语言模型 (LLM) 在个人助理或聊天机器人应用领域展示了强大的潜力,可以生成流畅而令人惊叹的响应来回答用户的问…

新学期第一篇博客

文章目录 一、加入QQ群(一)QQ群号(二)加群要求 二、加入云班课三、使用思维导图(一)下载XMind软件(二)安装XMind软件(三)创建思维导图1、选择模板&#xff08…

【C++】拷贝对象时,编译器的偷偷优化

你知道吗?对于连续的”构造拷贝构造“,编译器其实是会默默做出优化的。👻 如果你不知道这个知识点的话,那下面这道笔试题就要失分了😵。 本篇分享一个关于编译器优化的小知识,看完本篇,你就能…

阿里云服务器退款规则_退款政策全解析

阿里云退款政策全解析,阿里云退款分为五天无理由全额退和非全额退订两种,阿里云百科以云服务器为例,阿里云服务器包年包月支持五天无理由全额退订,可申请无理由全额退款,如果是按量付费的云服务器直接释放资源即可。阿…

C++ Primer Plus 第六章笔记

目录 if 语句 if else语句 if else if else结构 逻辑运算符--&&,||和! cctype字符函数库 条件运算符(三目运算符) switch语句 continue和break语句 基本文件输入/输出 总结:本文主要介绍了分支语句和if判断语句,运算符和简…

vue 浏览器记住密码后,自动填充账号密码错位

亲测有效!!! 遇到的场景: 浏览器记住密码后,登录时自动填充账号密码,由于登录时只需要这两个字段所以没问题,见图一,但注册时,账号密码不在一处,见图二 原本账号应该在…

浅谈JVM内存模型与GC垃圾回收

目录 1. 摘要 2. JVM 简单介绍 3. 线程私有的有哪些? 4. 线程共享的有哪些? 5. JVM 栈中程序是如何操作数据的? 6. 内存泄露是什么意思? 7. 堆内存的分配规则 8. 垃圾回收算法 8.1 垃圾回收机制简单概括 8.2 标记清理算法…

UNIAPP之js/nvue混淆探索

因项目需要对UNIAPP的js混淆做了一些调研 混淆教程: https://uniapp.dcloud.net.cn/tutorial/app-sec-confusion.html 按照教程配置进行打包正式包进行混淆 下载正式包将 .ipa改为.zip 解压获取到HBuilder.app 右键显示包内容 获取到混淆的key 不同时间进行打包混淆同一文…

谷器数据被认证为全国信标委软工分委会全权成员单位

8月23日,全国信息技术标准化技术委员会软件与系统工程分技术委员会(简称:全国信标委软工分委会,SAC/TC28/SC7)批准通过新一批成员单位,北京谷器数据科技有限公司被成功授牌为全权成员单位。 全国信标委软件…

高校消防安全存在的问题与解决方案介绍 安科瑞 许敏

摘要 :本文分析了当前高校消防安全存在的问题,现有消防系统突出问题表现形式,提出高校智慧消防安全预警防控体系构建,并对智慧消防安全预警平台主要功能进行了简介,对高校智慧消防安全预警系统功能设计具有一定的指导意…

0基础学习VR全景平台篇 第96篇:VR电子楼书

大家好,欢迎观看蛙色VR官方系列课程——VR电子楼书! 作为2021年底全新上线的行业解决方案,是专门针对地产、园区数字化营销的一站式VR解决方案,为行业潜在客户提供优质的7x24小时线上看房体验。 本期教程将通过功能介绍后台操作&…

koa2快速2分钟搭建web服务器

koa简介: Koa是一个基于Node的web服务web服务器开发框架。类似于Express。 Koa1它的主要特点是,使用了ES6的Generator函数。 koa2依赖Node.js 7.6.0或者更高版本。 koa不在内核方法中绑定任何中间件,它仅仅是一个轻量级的函数库,几…

【QT】QMessageBox消息框的使用(16)

在实际项目中,弹出消息框是一个很常见的操作,包含错误信息提示、警告信息提示、关于信息提示、还包括判断信息选择等操作,那么今天通过这一节来好好了解下消息框的使用方法。 一.环境配置 1.python 3.7.8 可直接进入官网下载安装&#xf…