10.9学习

news2024/12/24 8:47:47

1.数据库和Redis的一致性

全量缓存保证高效读取

ddf64a20ec164c1cbad1c0be5c73dfb3.jpg

 

 

所有数据都存储在缓存里,读服务在查询时不会再降级到数据库里,所有的请求都完全依赖缓存。此时,因降级到数据库导致的毛刺问题就解决了。但全量缓存并没有解决更新时的分布式事务问题,反而把问题放大了。因为全量缓存对数据更新要求更加严格,要求所有数据库已有数据和实时更新的数据必须完全同步至缓存,不能有遗漏。对于此问题,一种有效的方案是采用订阅数据库的 Binlog 实现数据同步

7b02a41ce1954b43a41a202952bd59e4.jpg

 

 

现在很多开源工具(如阿里的 Canal等)可以模拟主从复制的协议。通过模拟协议读取主数据库的 Binlog 文件,从而获取主库的所有变更。对于这些变更,它们开放了各种接口供业务服务获取数据。

3a6dde72de1c4ad9a7217a35dfd7f659.jpg

 

 

将 Binlog 的中间件挂载至目标数据库上,就可以实时获取该数据库的所有变更数据。对这些变更数据解析后,便可直接写入缓存里。优点还有:

①大幅提升了读取的速度,降低了延迟

②Binlog 的主从复制是基于 ACK 机制, 解决了分布式事务的问题

③如果同步缓存失败了,被消费的 Binlog 不会被确认,下一次会重复消费,数据最终会写入缓存中

缺点不可避免:

①增加复杂度

②消耗缓存资源

③需要筛选和压缩数据

④极端情况数据丢失

fe8f4c3f7ec14d69b2c5b6f08af157b5.jpg

 

 

可以通过异步校准方案进行补齐,但是会损耗数据库性能。但是此方案会隐藏中间件使用错误的细节,线上环境前期更重要的是记录日志排查在做后续优化,不能本末倒置。

2.cap可用性

①心跳检测

以固定的频率向其他节点汇报当前节点状态的方式。收到心跳,说明网络和节点的状态是健康的。心跳汇报时,一般会携带一些附加的状态、元数据,以便管理

周期检测心跳机制:超时未返回

累计失效检测机制:重试超次数

②多机房实时热备

c0dac739c3224faf968feea41d928a32.jpg

 

 

两套缓存集群可以分别部署到不同城市的机房。读服务也相应地部署到不同城市或不同分区。在承接请求时,不同机房或分区的读服务只依赖同样属性的缓存集群。此方案有两个好处。

a.提升了性能。读服务不要分层,读服务要尽可能地和缓存数据源靠近。

b.增加了可用。当单机房出现故障时,可以秒级将所有流量都切换至存活的机房或分区

 

此方案虽然带来了性能和可用性的提升,但代价是资源成本的上升。

 

③分区容错性

分布式系统对于错误包容的能力

通过限流、降级、兜底、重试、负载均衡等方式增强系统的健壮性

④日志复制

a.Leader把指令添加到日志中,发起 RPC 给其他的服务器,让他们复制这条信息

b.Leader会不断的重试,直到所有的 Follower响应了ACK并复制了所有的日志条目

c.通知所有的Follower提交,同时Leader该表这条日志的状态,并返回给客户端

⑤主备

主机宕机时,备机接管主机的一切工作,主机恢复正常后,以自动(热备)或手动(冷备)方式将服务切换到主机上运行,Mysql和Redis中常用。

MySQL之间数据复制的基础是二进制日志文件(binary log fifile)。它的数据库中所有操作都会以“事件”的方式记录在二进制日志中,其他数据库作为slave通过一个I/O线程与主服务器保持通信,并监控master的二进制日志文件的变化,如果发现master二进制日志文件发生变化,则会把变化复制到自己的中继日志中,然后slave的一个SQL线程会把相关的“事件”执行到自己的数据库中,以此实现从数据库和主数据库的一致性,也就实现了主从复制

⑥互备

指两台主机同时运行各自的服务工作且相互监测情况。在数据库高可用部分,常见的互备是MM模式。MM模式即Multi-Master模式,指一个系统存在多个master,每个master都具有read-write能力,会根据时间戳或业务逻辑合并版本。

⑦集群模式

​ 是指有多个节点在运行,同时可以通过主控节点分担服务请求。如Zookeeper。集群模式需要解决主控节点本身的高可用问题,一般采用主备模式。

 

3.分布式事务

①XA方案

两阶段提交 | 三阶段提交

准备阶段的资源锁定,存在性能问题,严重时会造成死锁问题

提交事务请求后,出现网络异常,部分数据收到并执行,会造成一致性问

②TCC方案

Try Confirm Cancel / 短事务

Try 阶段:这个阶段说的是对各个服务的资源做检测以及对资源进行锁定或者预留

Confirm 阶段:这个阶段说的是在各个服务中执行实际的操作

Cancel 阶段:如果任何一个服务的业务方法执行出错,那么就需要进行补偿/回滚

③Saga方案

事务性补偿 / 长事务

流程长、流程多、调用第三方业务

 

4.MQ最终一致性

e77b4db9ae794864b9e476a49e670c2e.jpg

 

 

比如阿里的 RocketMQ 就支持消息事务(核心:双端确认,重试幂等)

 

①A(订单)系统先发送一个 prepared 消息到 mq,prepared 消息发送失败则取消操作不执行了

②发送成功后,那么执行本地事务,执行成功和和失败发送确认和回滚消息到mq

③如果发送了确认消息,那么此时 B(仓储)系统会接收到确认消息,然后执行本地的事务

④mq 会自动定时轮询所有 prepared 消息回调的接口,确认事务执行状态

⑤B 的事务失败后自动不断重试直到成功,达到一定次数后发送报警由人工来手工回滚和补偿

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2200667.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

保姆级教程 | Adobe Illustrator调整颜色透明度

背景 由于课题需要,现需要在Adobe Illustrator里修改部分色块的颜色及透明度 步骤 1. 打开Adobe Illustrator软件,打开或创建一个AI文件: 2. 绘制一个色块: 3. 单击需要调整透明度的对象将其选中 4. 调整颜色的透明度&#xf…

AD中显示Selection includes locked items.Continue?

因为框选拖动组里包含锁定的元器件,所以出现如下提示; 可以单击锁定元器件,点击location的锁形标记即可显示解锁的状态。 解锁之后: 然后就可以拖动框选的元器件了。

C/C++语言的函数指针

C语言的一个函数指针示例 #include<stdio.h> typedef int(*Calc)(int a, int b); int Add(int a, int b) {int result a b;return result; } int Sub(int a, int b) {int result a - b;return result; } int main() {int x 100;int y 200;int z 0;// 原本C语言的写…

鸿蒙Next开发速成(持续更新)

整体概念 1、API涵盖应用框架、系统、媒体、图形、应用服务、AI六大领域。 应用框架相关Kit开放能力&#xff1a;Ability Kit&#xff08;程序框架服务&#xff09;、ArkUI&#xff08;方舟UI框架&#xff09;等。系统相关Kit开放能力&#xff1a;Universal Keystore Kit&…

专利申请成功后这些问题不能忽视

专利申请成功&#xff0c;无疑是创新者的一大成就&#xff0c;但这并非终点&#xff0c;而是一个新的开始。接下来&#xff0c;一系列的问题等待着我们去关注和应对&#xff0c;以确保专利的价值得以充分实现和持续保护。 专利申请成功后&#xff0c;需要注意以下几个重要问题&…

招联金融2025秋招倒计时

【投递方式】 直接扫下方二维码&#xff0c;或点击内推官网https://wecruit.hotjob.cn/SU61025e262f9d247b98e0a2c2/mc/position/campus&#xff0c;使用内推码 igcefb 投递&#xff09; 【招聘岗位】 后台开发 前端开发 数据开发 数据运营 算法开发 技术运维 软件测试 产品策…

自由学习记录(4)

网站域名的分级 而一级区域就是我们花钱钱买的 从一级区域bilibili开始就可以访问到对应的服务器了 儿子永远是儿子 我们既然可以免费得到人家的大域名给的儿子&#xff0c;那我们是不是在小域名里乱来&#xff0c;影响大服务器的服务&#xff1f;没这回事&#xff0c;虽然人…

PHP+MySQL组合开发的智能名片小程序源码系统 带完整的安装代码包以及搭建部署教程

系统概述 该系统采用PHP作为后端开发语言&#xff0c;MySQL作为数据库管理系统&#xff0c;通过Web技术实现数据的存储、处理和展示。前端则采用小程序框架&#xff0c;提供用户友好的交互界面。系统支持名片信息的快速录入、智能分类、搜索与分享&#xff0c;还支持名片数据的…

货币政策工具

本文为个人学习笔记&#xff0c;内容源于教材&#xff1b;整理记录的同时也作为一种分享。 1. 简介 货币政策工具作为央行实现货币政策目标的经济手段&#xff0c;以期达到最终目标&#xff0c;即物价稳定&#xff0c;充分就业&#xff0c;经济增长&#xff0c;国际收支平衡。…

高效开发最佳实践全面指南

学会表达 在写复杂表达式时&#xff0c;可使用一个变量将表达式用变量的方式表示函数、变量命名要语义化 学会复盘 花一些时间清理自己的代码尽量以函数式进行编程 拥抱变化 在开发功能时&#xff0c;要考虑变化的情况。该死的产品经理 在封装时要考虑能否封装成一个 js 模…

【斯坦福CS144】Lab5

一、实验目的 在现有的NetworkInterface基础上实现一个IP路由器。 二、实验内容 在本实验中&#xff0c;你将在现有的NetworkInterface基础上实现一个IP路由器&#xff0c;从而结束本课程。路由器有几个网络接口&#xff0c;可以在其中任何一个接口上接收互联网数据报。路由…

Expectation-Maximization Algorithm(EM算法)

EM算法&#xff08;Expectation-Maximization Algorithm&#xff0c;期望最大化算法&#xff09;是一种迭代优化算法&#xff0c;主要用于在含有隐变量&#xff08;未观测变量&#xff09;或不完全数据的概率模型中&#xff0c;估计参数的最大似然估计&#xff08;Maximum Like…

【Kubernetes】常见面试题汇总(五十七)

目录 125. K8S 创建服务 status 为 ErrlmagePull&#xff1f; 126.不能进入指定容器内部&#xff1f; 特别说明&#xff1a; 题目 1-68 属于【Kubernetes】的常规概念题&#xff0c;即 “ 汇总&#xff08;一&#xff09;~&#xff08;二十二&#xff09;” 。 题目 …

【时时三省】(C语言基础)指针笔试题7

山不在高&#xff0c;有仙则名。水不在深&#xff0c;有龙则灵。 ----CSDN 时时三省 笔试题7 a是一个数组 a每个元素的类型是char* 它是一个指针数组 它有三个字符串 初始化了三个字符串 这个时候会产生三个字符串的首地址 第二行代码 a数组名 相当于数组名 第一个首元素…

k8s的pod管理及优化

资源管理介绍 资源管理方式 命令式对象管理&#xff1a;直接用命令去操作kubernetes资源 命令式对象配置&#xff1a;通过命令配置和配置文件去操作kubernets资源 声明式对象配置&#xff1a;通过apply命令和配置文件去操作kubernets资源 命令式对象管理&#xff1a; 资源类…

Linux驱动---ADC驱动

文章目录 一、电路图二、将ADC标准驱动选配到内核三、修改设备树文件四、实验现象 一、电路图 由电路图可知&#xff0c;两个电路测量分别通过ANA0和ANA1两个ADC通道完成 查看芯片手册可知&#xff0c;ANA0可作为ADC1的通道0和通道1&#xff0c;或者ADC2的通道0和通道1. ANA1…

如何在 ONLYOFFICE 文档中,将插件添加到右侧面板

通过自定义工具&#xff0c;可以提高您的工作效率。最新更新后&#xff0c;ONLYOFFICE 插件提供了更大的灵活性。在上一篇文章中&#xff0c;我们演示了如何将插件显示为选项卡。您也可以将插件面板放置在编辑器的左侧或右侧。在这篇文章中&#xff0c;我们将深入探讨此功能&am…

选型工单管理系统,从原理到应用全面解读

工单管理系统提升客户支持效率&#xff0c;优化内部协作&#xff0c;强化数据分析。选型需明确需求&#xff0c;比较系统功能和特性&#xff0c;评估试用后选择最适合的系统。ZohoDesk凭其多渠道支持、智能分配、自动化工具、协作工具和数据分析能力&#xff0c;成为企业优选。…

C语言 | Leetcode C语言题解之第449题序列化和反序列化二叉搜索树

题目&#xff1a; 题解&#xff1a; #define MAX_NODE_SIZE 10000void postOrder(struct TreeNode *root, int *arr, int *pos) {if (root NULL) {return;}postOrder(root->left, arr, pos);postOrder(root->right, arr, pos);arr[(*pos)] root->val; }struct Tree…

界面控件DevExpress中文教程 - 如何拓展具有AI功能的文本编辑器(一)

本文重点介绍了DevExpress在近年来最热门领域——人工智能(AI)和自然语言处理(NLP)的改进&#xff01; NLP是人工智能的一个分支&#xff0c;它允许计算机与人类语言进行交互&#xff0c;这包括以有意义/有用的方式理解、解释、生成和回应文本(和语音)的能力。基于NLP的功能允…