Openresty(二十二)ngx.balance和balance_by_lua终结篇

news2024/11/23 8:39:04

一  灰度发布铺垫

①  init_by_lua*

init_by_lua   

init_by_lua_block

特点: 在openresty 'start'、'reload'、'restart'时执行,属于'master init' 阶段

机制: nginx 'master' 主进程'加载配置文件'时,运行全局Lua VM级别上的参数指定的'Lua代码'

场景: 想对于应用'做一次全局性'的初始化

案例1: init阶段'已经加载'的模块会放在'package.loaded'中,供'后续阶段'直接使用

备注: 在'初始化时'候加载过了,已经在 package.loaded '表'里

案例2: ' lua_shared_dict' 和 'ngx.shared'的'set、get'方法结合使用

  

当配置重载时,init_by_lua* 不会清空其内的lua_shared_dict共享数据

注意事项: 只能使用'print'、'ngx.log' API 和 'lua_shared_dict' 指令

推荐: 在'init_by_lua'中调用'require()'来加载自己的模块文件

特点: 

 1) require()会在全局Lua注册的'package.loaded表'中缓存Lua模块

 2) 所以在'整个Lua虚拟机实例中'你的模块将'只会加载一次'

补充: 'init_by_lua*'中master进程'执行'lua代码

案例3: 阻塞'I/O'调,执行'shell'命令  --> '特殊场景'

 1、在这个'上下文'中,你可以保守使用'lua库'完成阻塞I/O调用

 2、因为在'master进程'的阻塞调用在服务的启动过程中是完全'没问题'的

 3、进一步说在'配置加载'阶段,Nginx核心就是'阻塞 I/O 方式'处理的

场景: 采用在'init阶段'调用'shell'命令

lua执行系统命令方法os.execute和io.popen      init_by_lua_file不能连接redis

注意: 此处的'content'是'字符串',需要自己重新解析成字典,可以存入变量,也可以存在共享内存中

init_by_lua_file 

说明: '推荐'使用'init_by_lua_file'

②  init_worker_by_lua*

说明: ​官方对'init_worker_by_lua*'并没有'API'的限制

init_worker_by_lua

init_worker_by_lua_block

1、在'每个'nginx worker进程启动时调用'指定'的lua代码

2、用于启动一些'定时'任务:比如'心跳'检查,定时'拉取'服务器配置等等

强调:此处的任务是'跟Worker进程数量'有关系的,不要'重复'了,那么如何'避免'重复呢?

 ngx.worker.id判断某个worker进行初始化

说明: 使用ngx.timer可以'突破' init_worker_by_lua 中'不能使用 cosocket' 的限制

如何在 init_worker_by_lua 阶段连接redis/mysql/dns    redis连接池封装

③   lua_shared_dict

④   ngx.shared.DICT

ngx.shared共享内存操作

二   灰度发布案例

建议: 配置'指令'和'代码'解耦,这里暂时'不讲究'了

①  业务流程图

canary  --> gray  --> '灰度'

LBM: 做'配置下发'的时候,UI侧会有一个'gray灰度'开关按钮,在upstream生成对应的'代码'片段

形如:

  upstream {
     server 127.0.0.1:80;
     balance_by_lua 'lua/gray.lua'
  }

备注: 这里暂时'不讨论 upstream{}'内的健康检查
​
再次强调: 同一个'schema'集群内选举灰度节点,也即'集群内'灰度引流,而不是'集群间'引流

补充: 

 1、一般会将'灰度策略'先写入'DB',例如'mysql'中

 2、利用'bgr灰度插件'解析从'redis'拉取的'灰度'策略,返回'灰度节点'信息

 3、init_worker_by*的'功能'

  1) 从'redis'中拿灰度策略,放到'ngx.shared本地缓存'中

  2) 启动定时任务,定时'异步'拉取'灰度'策略

②  相关参考

openresty+Lua+Redis灰度发布     高性能软件负载OpenResty整合Reids集群配置

关于openresty的全局初始化问题   基于openresty/lua-resty-redis 二次封装的工具库

Lua Redis 使用   Java Redis 预热数据    openresty定时任务    限制定时任务耗尽资源

k8s灰度发布

+++++++++++++ "题外话" +++++++++++++

1、一般会'将nginx的配置信息'写到'数据库'中,然后通过nginx+consul-template 做'配置渲染'

假定: mysql中的 'region'、'集群名'能唯一的决定一个'集群'的配置信息

附加: 其中'upstream_id'是其一个'field'字段

2、利用每个'upstream_id'的schmea的'不能'重复的特性

应用: 根据'upstream_id'获取'后端服务器'列表

补充: 后端服务器列表的信息在'对应服务配置'注册LB,做'配置下发'的时候已经'写入'数据库

③  代码雏形1

说明: 通过'init_worker_by_block' + 'ngx.timer.every' 实现定时'拉取'redis配置数据

实现: 管理面将策略'下发'到redis后,openresty '定时[5min]'从redis中'拉取'数据  

遗留: redis'资源池'如何'复用'?

nacos能实现'灰度发布'吗?

灰度用户请求中'打上'标签: 'gray=true'

④  灰度策略管理面

说明: 一般会通过'UI'将策略下发到'redis'中,这里我们'模拟'手动将'key'写到缓存数据库中

关键: redis 'key' 组成,一般会通过':'分割,分割的'每一个字段'都是一个'维度'特征信息

模拟'key': 这里'假定'key是'uuid:ip'形式,讲解一种'简单'的形式,key的'组成'反映'特征'形式

常见: $upstream_id:$tenant  --> 保证这个'key'的唯一性

模拟'value': 'ip:port'形式,要'与'upstream关联[存储在'mysql'中],选取'某个server 节点'

补充: 业界喜欢称一个'upstream'为一个'schema'

后续设计: UI侧可以设置'多种灰度特征策略',然后选取'灰度'节点信息

也即: 在'后台管理系统中'添加'ip'、'用户名'灰度白名单后

+++++++++++++++  "典型案例"  +++++++++++++++

灰度策略配置'UI'侧设计:

 1、'region'、'集群名称'、LB类型 进行 '灰度'策略的下发

 2、对应'server'块的'域名'、'端口'、'location'信息

OpenResty的Redis模块踩坑记录   openresty操作redis,null处理    redis连接池

1、'遍历'key

2、key的'设计',到底是'hash'结构,还是'其它'数据结构?

⑤   灰度机制

1、'优先'从'本地缓存'中去取

local cacheip = cache_ngx:get('gray_key')

2、本地缓存中'不存在',去'redis缓存服务中'去取,然后加载到'本地'缓存

检查'redis缓存中的键'是否存在 --> if redis_client.exists(key):

if cacheip == "" or cacheip == nil or cacheip == ngx.null then

3、通过本地'ngx.shared 一级'缓存 和 redis'二级'缓存

高并发灰度策略    小破站诡异0问题    openresty最佳实践   灰度发布

⑥  代码雏形2

细节: balance_by_lua 会 '忽略' upstream中的'server'配置

用到的'两个'指令: ​​access_by_lua_file 和 ​​balancer_by_lua_file

 1、在'前一个指令'中获取'租户'信息选择'灰度'节点;

 2、在'第二个指令'中根据获取的信息'执行'负载均衡,进行'转发';

不依赖于balance_by_lua实现灰度发布

# 另外一种方式  --> 这种'不依赖'于'balance_by_lua'做判断

upstream  default_route {
   ...
}

location /gray {	
	set $backend 'default_route';
    rewrite_by_lua_file   'lua/gray.lua';  # 获取灰度节点的'逻辑'
	proxy_pass http://$backend;			
}	

强调: 如果使用 'content_by_lua' 这个命令,就'无法'在进行'proxy_pass'了,会'冲突'

openresty实现灰度发布 

利用 proxy_pass 及lua指令 set_by_lua 动态修改当前 upstream 变量实现灰度发布

ngx_balancer.set_more_tries设置不生效,导致无限重试

OpenResty balancer_by_lua负载均衡原理解析    Openresty专栏     跨域

OpenResty火焰图性能分析工具安装     Nginx调试工具Coredump    Lua性能优化

⑦   lua/gray.lua 灰度插件

考虑: 如果'不是灰度白名单',则要使用原来的'负载均衡'策略

--> '如何解决呢?' --> '重点'

最佳实践: 自定义'负载均衡'算法

引申:在'配置'注册的阶段,如果使用'灰度'策略,那么后续如何'取消'呢?

⑧  lua/gray_access.lua  灰度策略命中

重点: 从redis读取'租户'信息,如果有就'存'到 ​​ngx.ctx​​ 中

-- 太'累'了,九不往这里贴代码了,后续有时间再补充

⑨   测试

思考:用户如何将用户'特征'信息传递过来? --> 'request Header'、'查询参数'

⑩  题外话

local http = require("resty.http")  -->  http'相关'模块

深入理解ngx.log

 lua_code_cache

openresty 项目问题汇总

nginx主动加载配置文件

openresty性能对比 

lua_load_resty_core on|off

自v0.10.16版本起'该指令'就在本模块'失效'了

当前resty.core模块会在'Lua VM初始化'的时候被'强制加载',不需要再显示'require'加载

lua + nginx可以'作为网关'进行 '限流'、'流控'和'多级缓存'使用

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1021051.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

一文快速创建前端react项目

目前React是最受欢迎和广泛使用的JavaScript库之一。许多知名的公司和组织都在使用React来构建它们的Web应用程序,包括Facebook,Netflix等。学习好React将会使你能够获得更多的就业机会和职业发展机会。 要快速创建React项目,你可以使用Creat…

记录一次OSSClient使用不当导致的OOM排查过程

首发:公众号《赵侠客》 前言 最近线上有个比较边缘的项目出现OOM了,还好这个项目只是做一些离线的任务处理,出现OOM对线上业务没有什么影响,这里记录一下排查的过程 Dump日志查看 项目配置的主要JVM参数设置如下: …

SAP入门到放弃系列之QM质量检验流程概述

目录 一、流程概述二、操作步骤概述2.1 主数据维护2.2 业务操作 一、流程概述 质量检验流程-Inspection Process Flow,通常由于预先设定的一些规则条件自动触发或者手工触发,例如库存地之间的调拨、生产完工入库检验、采购入库的检验、客户交货前检验等等。另外还有…

GMS地下水数值模拟丨GMS各模块、三维地质模型构建及与MODFLOW耦合、地下水流动数值模拟及报告编制、地下水溶质运移模型、反应性溶质运移等

目录 第一部分 地下水数值模拟理论模块 第二部分 地下水数值模拟数据收集、准备及预处理 第三部分 GMS各模块实践 第四部分 三维地质模型构建及与MODFLOW耦合 第五部分 地下水流动数值模拟及报告编制 第六部分 地下水溶质运移模型 第七部分 反应性溶质运移 更多应用 以…

OpenHarmony ArkTS工程目录结构(Stage模型)

一、应用工程结构 图片来源:OpenHarmony官网 AppScope > app.json5:应用的全局配置信息。 entry:OpenHarmony工程模块,编译构建生成一个HAP包。 src > main > ets:用于存放ArkTS源码。 src > main > …

昔日顶流VC宠儿,如今“流血”上市!

今年全球最大IPO安谋控股(Arm Holdings)成功上市后,美国的IPO市场正在被激活。美国最大的杂货配送平台Instacart近日更新了招股书,将IPO目标价从原来的26-28美元每股上调至28-30美元,对应公司估值约77亿美元-82.8亿美元…

SpringSecurity 核心组件

文章目录 SpringSecurity 结构组件:SecurityContextHolder组件:Authentication组件:UserDetailsService组件:GrantedAuthority组件总结 SpringSecurity 结构 在SpringSecurity中的jar分为4个,作用分别为 jar作用spri…

idea配置tomcat项目,运行起来却无法访问项目

好长时间都没碰使用tomcat部署的老项目了 最近碰到一个tomcat老项目,都忘记怎么用idea配置了 按记忆配置好之后,启动tomcat,却怎么也访问不了项目 最后才发现根本没有启动编译后的项目代码 只需要右键项目,选择Open Module Se…

如何通过百度SEO优化提升网站排名(掌握基础概念,实现有效优化)

随着互联网的发展,搜索引擎优化(SEO)成为了网站优化中不可或缺的一部分。在中国,百度搜索引擎占据着主导地位,因此掌握百度SEO概念和优化技巧对网站的排名和曝光非常重要。 百度SEO排名的6个有效方法: 首…

福建企业可以申请泛域名https证书吗

https域名https证书中有一种比较特殊的https证书,可以用一张https证书保护主域名以及主域名下所有子域名,这种证书通常被称为通配符https证书或泛域名https证书。那么企业可以申请泛域名https证书吗?今天就随SSL盾小编了解泛域名https证书。 1.泛域名h…

共享门店模式:让你的连锁门店变成金鸡母

共享门店模式是一种创新的经营方式,它可以让门店的资源和收益与其他人共享,实现互利共赢。共享门店模式有两种主要形式:投资型和消费型。投资型共享门店模式需要股东投入一定的资金,用于锁客和获取分红收益。消费型共享门店模式则…

【免费内网穿透】cpolar从0开始使用

cpolar从0开始使用 具体步骤cpolar下载注册安装 安装启动创建或修改启动 公网远程访问内网web站点初步完成 最近学习到的新东西。 原理类似于使用cpolar的服务器进行跳转 具体步骤 下载CPOLAR 在您的机器上下载并运行cpolar客户端,并为其提供一个本地的网络服务的…

如何合并pdf?三种合并方法教会你

如何合并pdf?合并PDF文件可以将多个PDF文档合并为一个文件,提高文件管理的效率和便利性。无论是为了整理和归档文件,还是为了方便共享和传输文件,合并PDF都是非常实用的操作。通过合并PDF,可以将相关的文件整合在一起&…

项目管理:管理成果是控制还是天意?项目经理的责任是什么?

有人坚信管理具有决定性的作用,主张管理者需对组织的成功或失败负全责。 另一些人则认为,管理者对管理成果的影响其实相当有限,因为存在许多他们无法控制的因素。 组织的成功或失败往往更多地归因于这些无法控制的因素,而非管理者…

浏览器代理解决方案

当谈到网络浏览器, 浏览器 无疑是最受欢迎和广泛使用的选项之一。然而,你可能已经注意到, 浏览器并不原生支持 SOCKS5 代理协议。不过,别担心!在本文中,我将与你分享一些解决方案,让你能够在 浏…

黑马JVM总结(十三)

(1)软引用_引用队列 上面我们们使用软引用我们发现在内存不足时,会把软引用对应的Byte数组对象,进行一个释放,但是我们发现遍历lIst集合的时候一些软引用的对象已经是null了,这些没必要在把它们保存到List…

哨兵模式(sentinel)

为什么需要哨兵模式 redis的主从复制模式能够缓解“读压力”,但是存在两个明显问题。 主节点发生故障,进行主节点切换的过程比较复杂,需要人工参与,导致故障恢复时间无法保障主节点通过主从复制模式将读压力分散出去&#xff0c…

【算法】算法设计与分析 课程笔记 第一章 概述

第一章 算法概述 算法的性质 算法的四个性质:输入、输出、确定性和有穷性。 算法的时间复杂度 1. 常见的时间复杂度 常数阶 O(1) 对数阶 O(log n) 线性阶 O(n) 线性对数阶 O(nlog n) 平方阶 O(n^2) 立方阶 O(n^3) k 次方阶 O(n^k) 指数阶 O(2^n) 注&…

Prompt 策略:代码库 AI 助手的语义化搜索设计

在过去的一周里,为了更好的构建 AI Agent 框架 Chocolate Factory(以下简称 CF),我们加入了一个新的应用:代码库 AI 助手。 在设计时,为了更好的在框架底层提供这种能力,我们参阅了 Bloop 应用、…

科研小工具|慢性阻塞性肺疾病全球创议

简介 慢性阻塞性肺疾病全球创议(the Global Initiative for Chornic Obstructive Lung Disease,GOLD)是慢性阻塞性肺疾病(COPD)诊断、治疗与预防在全球范围内的标准。颁布GOLD的目的在于,增加医疗卫生工作…