【CDP】CDP集群修改solr 存储路径 引发组件的ranger-audit 大量报错的解决方案

news2025/1/9 12:18:09

前言

我们生产上公司是使用的CDP集群,一次管理员通知,Solr 组件的数据存放路径磁盘空间不够。

我们的solr 组件时为 Ranger 服务提供日志审计功能,

在我们更改了磁盘路径,并重启了Solr 组件,然后发现相关组件,如 HDFS, Kafka 等会报相关的报错。具体如下:

报错

在重启 Solr 后,有大量的404报错,无法找到 ranger_audit 这个索引。
在这里插入图片描述
由于换了新的存储路径,那么索引肯定时找不到了,于是我们决定重启相关受影响的组件,这样的话,可能索引就会新建。

也正是这一步,让我们一错再错。

重启

在重启相关受影响组件后,发现 404 的报错是没了,变成了 403 的报错。

并且新的路径下,solr 的shard 数据也没有生成。

报错如下图:

在这里插入图片描述
到这里,才反应过来,这个问题和其余的组件的关系不太,主要根源是,更改了新的路径后,solr 集群之间,solr 与 zk 之间的联系出了问题。

解决方案

1. 停止solr 组件

集群 -> CDP INFRA SOLR -> 操作 -> 停止。

在这里插入图片描述

2. 更换新的路径

这部之前已经操作过了,所以跳过。

3. zookeeper znode 清理

由于我们的zk 有jaas 认证,所以需要先导入环境变量

export JVMFLAGS="-Djava.secury.auth.login.conf=jaas.conf"

进入zookeeper

zookeeper-client -server `hostname -f`

删除节点

rmr /solr-infra/collections/ranger_audits
rmr /solr-infra/configs/ranger_audits

4. 优化审计索引存储时间,副本数(可跳过)

这一步骤不是必须操作,只是对 ranger_audit 该索引进行一些优化。如 TTL,副本数,shard个数 等等。这个因人而异,配置符合自己集群性能才是关键。

修改最大shard 个数。
在这里插入图片描述

shard 个数在这里插入图片描述

副本数
在这里插入图片描述

5. 启动Solr

集群 -> CDP INFRA SOLR -> 操作 -> 启动。

6. 重启ranger

集群 -> Ranger -> 实例 -> ranger admin -> 重启。

在这里插入图片描述

到此,问题应该是可以解决了,如果相关受影响组件仍在报错。继续执行第七步。

7. 进入solr web ui 修改索引

  1. 跳转KNOX WEB UI

集群 -> KNOX -> KNOX GATEWAY HOME -> Solr
在这里插入图片描述
在这里插入图片描述

  1. 删除collection

进入 solr web ui -> Collections > Delete collection -> 输入要删除的collection 名字
在这里插入图片描述

此处输入 ranger_audit,然后点击 Delete 按钮。
在这里插入图片描述

  1. 新增collection

Add Collection -> 内容如下:

keyvalue
nameranger_audit
config setranger_audit
numsShards4
replicationFact1
maxShardsPer10

在这里插入图片描述

此时观察日志,发现已经恢复。问题解决。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/336756.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

立创eda专业版学习笔记(6)(pcb板移动节点)

先要看一个设置方面的东西: 进入设置-pcb-通用 我鼠标放到竖着的线上面,第一次点左键是这样选中的: 再点一次左键是这样选中的: 这个时候,把鼠标放到转角的地方,点右键,就会出现对于节点的选项…

关于VSCode安装go插件问题

比较常见的go开发编辑工具有VSCode、GoLand等,其中,使用VSCode需要下载相关的go语言插件。但是大多数情况都会下载失败,因为有些资源需要翻墙的原因,有时候翻墙了还是会报错。   本文将介绍一种帮助大家成功下载go插件的方法&am…

流水线使用(测试->构建->部署上线)

流水线介绍(可直接查阅云效中流水线介绍) 流水线在项目中的使用 1、选择我的流水线—>新建流水线 2、选择流水线模板(可以根据需求选择不同模板) 3、流水线配置 ①选择代码源:我目前展示的是直接使用codeup中的代码…

apipost-一键压测

apipost新功能可实现一键压测接口压测实践使用场景对指定接口进行性能测试。实现方式为实现高性能的并发需求,使用自研的压测引擎,可以实现一万以上并发。项目已经开源,github地址:https://github.com/Apipost-Team/runnerGo压测结…

antd日期组件时间范围动态跟随

这周遇到了一个很诡异但又很合理的需求。掉了一周头发,死了很多脑细胞终于上线了。必须总结一下,不然对不起自己哈哈哈。 一、需求描述 默认当前日期时间不可清空。 功能 默认时间如下: 目的:将时间改为 2014-08-01 ~ 2014-08…

网络工程师测试命令排行榜,快来看一看吧! -ccie网络工程师

网络工程师测试命令排行榜,快来看一看吧! 01 Ping命令 ping命令的主要功能是用来检测网络的连通情况和分析网络运行速度。它是基于TCP/IP协议、通过发送和接收数据包来检测两台计算机间的连接状况。 网络工程师用 ping查看网络情况,主要…

【无标题】tcpdump 命令

tcp一款sniffer工具,是Linux上的抓包工具,嗅探器语法tcpdump (选项)选项-c: 指定要抓取的包数量。注意,是最终要获取这么多个包。例如,指定"-c 10"将获取10个包,但可能已经处理了100个包&#xf…

如何基于声网互动白板实现一个多人数独游戏

本文作者是声网社区的开发者“tjss”。他基于 Vue、声网的互动白板的代码模板,搭建出了一个支持多人互动的数独游戏。本文记录了他的实现过程,欢迎大家也可以尝试实现自己的小游戏或应用。 我基于声网互动白板的 SDK 与 Window Manager 开发了一个场景化…

第二十三周周报

学习内容: 修改ViTGAN代码 学习时间: 2.3-2.10 学习产出: 现在的效果 可以看到在700k左右fid开始上升,相比vitgan,改的vitgan鉴别器loss有所下降,但是fid没有降下来,最好为23.134&#xf…

Elasticsearch7.8.0版本进阶——分布式集群(水平扩容)

目录一、Elasticsearch集群的安装1.1、Elasticsearch集群的安装(win10环境)1.2、Elasticsearch集群的安装(linux环境)二、水平扩容(win10环境集群演示)三、想要扩容超过 6 个节点怎么办3.1、主分片和副分片…

IDEA合并分支(从开发分支到测试分支)

IDEA合并分支(从开发分支到测试分支) 1、先在当前分支拉去最新的代码且提交自己的修改到远程分支上 2、切换到目标分支(你要合并到的分支上),test测试分支 3、进行分支合并,这里其实有3个选项比较常用 ①Compare with ‘test’ 与当前分支(test)比较,这个比较回弹出个窗口…

刷爆网络的ChatGpt,给大家搞来了。

最近chatgpt可谓是顶上了热搜,之前写代码的同学们应该都知道出了一款插件叫做 Copilot,这是一款可以帮你自动写代码的插件,只要输入你想要写的代码,比如写一个js轮播图之类的,立马就可以帮你生成。不仅如此&#xff0c…

随着攻击者适应绕过零信任,公司在苦苦挣扎

商业情报公司 Gartner 表示,零信任安全方法有望减少威胁并降低成功攻击的破坏性,但公司不应期望实施零信任原则会很容易或阻止大多数攻击。 虽然对零信任架构的兴趣很高,但目前只有大约 1% 的组织拥有满足零信任定义的成熟程序。 该公司还估…

论文投稿指南——中文核心期刊推荐(石油、天然气工业 2)

【前言】 🚀 想发论文怎么办?手把手教你论文如何投稿!那么,首先要搞懂投稿目标——论文期刊 🎄 在期刊论文的分布中,存在一种普遍现象:即对于某一特定的学科或专业来说,少数期刊所含…

【火电机组、风能、储能】高比例风电电力系统储能运行及配置分析(Matlab代码实现)

目录 摘 要 0 目标函数和约束条件 1 第一题 2 第二题 3 第三题 4 第四题:含高比例风电电力系统最小供电成本模型 6 第六题: 7 第七题: 8 所有题代码及文章详细讲解 9 结论: 10 参考文献 摘 要 高比例风电电力系统储…

JVM——运行期优化

目录一、分层编译(TieredCompilation)即时编译器(JIT)与解释器的区别逃逸分析二、方法内联(Inlining)三、反射优化一、分层编译(TieredCompilation) JVM 将执行状态分成了 5 个层次…

宜家EDI IFTMBC运输预定确认详解

IFTMBC是宜家与其供应商之间传输的符合EDIFACT标准的报文,在此前的文章如何读懂EDIFACT报文中,我们已经对EDIFACT做了详细的解读。在供应商发给宜家IFTMBF运输预定请求后,宜家会回复IFTMBC运输预订确认给供应商。 本文将从供应商接收宜家发送…

【Java|golang】1798. 你能构造出连续值的最大数目

给你一个长度为 n 的整数数组 coins ,它代表你拥有的 n 个硬币。第 i 个硬币的值为 coins[i] 。如果你从这些硬币中选出一部分硬币,它们的和为 x ,那么称,你可以 构造 出 x 。 请返回从 0 开始(包括 0 )&a…

预处理和宏

1.预处理的基本概念 C语言对源程序处理的四个步骤:预处理、编译、汇编、链接。 预处理是在程序源代码被编译之前,由预处理器(Preprocessor)对程序源代码进行的处理。这个过程并不对程序的源代码语法进行解析,但它会把…

EL表达式

EL的概念JSP表达式语言(EL)使得访问存储在JavaBean中的数据变得非常简单。EL的作用用于替换作用域对象.getAttribute("name");3. EL的应用(获取基本类型、字符串)既可以用来创建算术表达式也可以用来创建逻辑表达式。在…