Redis学习【1】之Nosql概述

news2024/11/15 8:56:15

文章目录

  • 一 从技术发展探究使用Nosql的原因
    • 1.1 单机Mysql时代
    • 1.2 Memcached(缓存)+ MySQL + 垂直拆分[读写分离]
    • 1.3 MySQL主从读写分离
    • 1.4 分表分库 + 水平拆分 + Mysql 集群
    • 1.5 如今时代
    • 1.6 使用NoSQL的原因
  • 二 Nosql初识
    • 2.1 NoSQL的特点【解耦】
  • 三 NoSQL的四大分类
  • 四 CAP + BASE
    • 4.1 ACID特性
    • 4.2 CAP(三进二)
    • 4.3 BASE 理论

一 从技术发展探究使用Nosql的原因

1.1 单机Mysql时代

mysql:服务器

  • mysql:代指服务器
  • 早期,一个网站的访问量一般不大,用单个数据库解决
  • 静态网页居多,动态交互类型的网站不多
  • 整个网站的瓶颈/数据存储的瓶颈
    1. 数据量的过多,一个机器无法存储
    2. 数据的索引(B+ Tree)过多,一个机器的内存放不下
    3. 访问量(读写混合),一个实例不能承受

1.2 Memcached(缓存)+ MySQL + 垂直拆分[读写分离]

在这里插入图片描述

  • mysql:代指服务器
  • 由于网站读的操作比较多,为减轻数据的压力,可以使用缓存保证效率!
  • 发展过程
    1. 优化数据结构和索引
    2. 文件缓存(IO)
    3. Memcached

1.3 MySQL主从读写分离

  • 由于数据库的写入压力增加,Memcached只能缓解数据库的读取压力,读写集中在一个数据库上让数据库不堪重负。
  • 大部分网站开始使用主从复制技术来达到读写分离,以提高读写性能和读库的可扩展性,MySQL的master-slave模式成为这个时候的网站标配。
    在这里插入图片描述

1.4 分表分库 + 水平拆分 + Mysql 集群

  • 在Memcached的高速缓存,MySQL的主从复制,读写分离的基础之上,这时MySQL主库的写压力开始出现瓶颈,而数据量的持续猛增,由于MyISAM使用表锁在高并发下会出现严重的锁问题大量的高并发MySQL应用开始使用InnoDB引擎代替MyISAM
  • MyISAM:表锁
  • InnoDB:行锁
  • MySQL虽然推出了还不太稳定的表分区,这也给一般的公司带来了希望。
  • MySQL推出了MySQL Cluster集群,但性能也不能很好满足互联网的需求,只是在高可靠性上提供了非常大的保证。
    在这里插入图片描述

1.5 如今时代

  • MySQL 的扩展性瓶颈
    • MySQL数据库也经常存储一些大文本的字段,导致数据库表非常的大,在做数据库恢复的时候就导致非常的慢,不容易快速恢复数据库。
    • 如果能把这些数据从MySQL省去,MySQL将变的非常的小,关系数据库很强大,但是它并不能很好的应付所有的应用场景,MySQL的扩展性差(需要复杂的技术来实现),大数据下IO压力大,表结构更改困难。
      在这里插入图片描述

1.6 使用NoSQL的原因

  • 今天可以通过第三方平台(如:Google,FaceBook等)可以很容易的访问和抓取数据【用户的个人信息,社交网络,地理位置】
  • 用户生成的数据和用户操作日志已经成倍的增加、如果要对这些用户数据进行挖掘,SQL数据库已经不适合,而NoSQL数据库的发展却能很好的处理这些大的数据。

二 Nosql初识

  • NoSQL = Not Only SQL【不仅仅是SQL】
  • NoSQL泛指非关系型的数据库
  • NoSQL数据库的产生就是为了解决大规模数据集合多种数据种类带来的挑战,尤其是大数据应用难题,包括超大规模数据的存储。(例如谷歌或Facebook每天为他们的用户收集万亿比特的数据)。这些类型的数据存储不需要固定的模式,无需多余操作就可以横向扩展。

2.1 NoSQL的特点【解耦】

  1. 方便拓展
    • 去掉关系数据库的关系型特性,数据之间没有关系,很好拓展
  2. 大数据量高性能
    • NoSQL数据库都具有非常高的读写性能。得益于它的非关系性,数据库的结构简单
    • NoSQL是一种细粒度的缓存,性能会比较高
  3. 数据模型多样
    • NoSQL无需事先为要存储的数据建立字段,随时可以存储自定义的数据格式,而在关系数据库里,增删字段是一件非常麻烦的事情。
  4. 传统的RDBMS VS NoSQL
    • 传统的关系型数据库 RDBMS
      • 高度组织化结构化数据
      • 结构化查询语言(SQL)
      • 数据和关系都存储在单独的表中
      • 数据操纵语言,数据定义语言
      • 严格的一致性
      • 基础事务
    • NoSQL
      • 代表着不仅仅是SQL
      • 没有声明性查询语言
      • 没有预定义的模式
      • 键值对存储,列存储,文档存储,图形数据库
      • 最终一致性,而非ACID属性
      • 非结构化和不可预知的数据
      • CAP定理和BASE(异地多活)
      • 高性能,高可用性 和 可伸缩性
  • 拓展:3V+3高
    • 大数据时代的3V [对问题的描述]
      • 海量 Volume
      • 多样 Variety
      • 实时 Velocity
    • 互联网需求的3高 [对程序的要求]
      • 高并发
      • 高可用
      • 高性能
  • 技术没有高低之分:Mysql和Nosql

三 NoSQL的四大分类

  • KV键值
  • 文档型数据库
    • MongoDB
      • 一个基于分布式文件存储的数据库。由 C++ 语言编写,主要处理大量文档
      • 一个介于关系数据库和非关系数据库之间的产品
      • 是非关系数据库当中功能最丰富,最像关系数据库的
  • 列存储数据库
    • HBase
    • 分布式文件系统
  • 图关系数据库
    • 存放的是关系
    • Neo4J, InfoGrid
      在这里插入图片描述

四 CAP + BASE

  • 关系型数据库遵循ACID规则,事务在英文中是transaction

4.1 ACID特性

  1. A (Atomicity) 原子性
    • 事务里的所有操作要么全部做完,要么都不做,事务成功的条件是事务里的所有操作都成功,只要有一个操作失败,整个事务就失败,需要回滚
    • 比如转账业务:转账双方的余额必须都进行正确的改变;否则不改变余额
  2. C (Consistency) 一致性
    • 事务前后数据的完整性必须保持一致
  3. I (Isolation) 隔离性
    • 并发的事务之间不会互相影响,如果一个事务要访问的数据正在被另外一个事务修改,只要另外一个事务未提交,它所访问的数据就不受未提交事务的影响
    • A账户转100元至B账户,在这个交易还未完成的情况下,如果此时B查询自己的账户,是看不到新增加的100元的
  4. D (Durability) 持久性
    • 一旦事务提交后,它所做的修改将会永久的保存在数据库上,即使出现宕机也不会丢失

4.2 CAP(三进二)

  • C : Consistency(强一致性)
  • A : Availability(可用性)
  • P : Partition tolerance(分区容错性)
  • CAP理论就是说在分布式存储系统中,最多只能实现上面的两点
  • 由于当前的网络硬件肯定会出现延迟丢包等问题,所以分区容错性是我们必须需要实现的,所以我们只能在一致性和可用性之间进行权衡,没有NoSQL系统能同时保证这三点。
  • 注意:分布式架构的时候必须做出取舍
    • 一致性和可用性之间取一个平衡。多余大多数web应用,其实并不需要强一致性。
      因此牺牲C换取P,这是目前分布式数据库产品的方向
  • 一致性与可用性的决择
    • 对于web2.0网站来说,关系数据库的很多主要特性却往往无用武之地
  • 数据库事务一致性需求
    • 很多web实时系统并不要求严格的数据库事务,对读一致性的要求很低, 有些场合对写一致性要求并不高。允许实现最终一致性。
  • 数据库的写实时性和读实时性需求
    • 对关系数据库来说,插入一条数据之后立刻查询,是肯定可以读出来这条数据的,但是对于很多web应用来说,并不要求这么高的实时性,比方说发一条消息之 后,过几秒乃至十几秒之后,我的订阅者才看到这条动态是完全可以接受的。
  • 对复杂的SQL查询,特别是多表关联查询的需求
    • 任何大数据量的web系统,都非常忌讳多个大表的关联查询,以及复杂的数据分析类型的报表查询,特别是SNS类型的网站,从需求以及产品设计角度,就避免了这种情况的产生。往往更多的只是单表的主键查询,以及单表的简单条件分页查询,SQL的功能被极大的弱化了。
  • CAP理论的核心
    • 一个分布式系统不可能同时很好的满足一致性,可用性和分区容错性这三个需求,最多只能同时较好的满足两个。因此,根据 CAP 原理将 NoSQL 数据库分成了满足 CA 原则、满足 CP原则和满足 AP 原则三 大类:
      • CA - 单点集群,满足一致性,可用性的系统,通常在可扩展性上不太强大。
      • CP - 满足一致性,分区容忍必的系统,通常性能不是特别高。
      • AP - 满足可用性,分区容忍性的系统,通常可能对一致性要求低一些
        在这里插入图片描述

4.3 BASE 理论

  • BASE理论是由eBay架构师提出的。BASE是对CAP中一致性和可用性权衡的结果,其来源于对大规模互联网分布式系统实践的总结,是基于CAP定律逐步演化而来。其核心思想是即使无法做到强一致性,但每个应用都可以根据自身业务特点,采用适当的方式来使系统达到最终一致性。
  • BASE就是为了解决关系数据库强一致性引起的问题而引起的可用性降低而提出的解决方案。
  • BASE详解
    • 基本可用(Basically Available):
      • 基本可用是指分布式系统在出现故障的时候,允许损失部分可用性,即保证核心可用。
      • 电商大促时,为了应对访问量激增,部分用户可能会被引导到降级页面,服务层也可能只提供降级服务。这就是损失部分可用性的体现。
    • 软状态(Soft State)
      • 软状态是指允许系统存在中间状态,而该中间状态不会影响系统整体可用性。
      • 分布式存储中一般一份数据至少会有三个副本,允许不同节点间副本同步的延时就是软状态的体现。MySQL Replication 的异步复制也是一种体现。
    • 最终一致性(Eventual Consistency)
      • 最终一致性是指系统中的所有数据副本经过一定时间后,最终能够达到一致的状态。弱一致性和强一致性相反,最终一致性是弱一致性的一种特殊情况。
  • 它的思想是通过让系统放松对某一时刻数据一致性的要求来换取系统整体伸缩性和性能上改观。这么说的原因就在于大型系统往往由于地域分布和极高性能的要求,不可能采用分布式事务来完成这些指标,要想获得这些指标,我们必须采用另外一种方式来完成,这里BASE就是解决这个问题的办法。
  • 解释:
    1. 分布式:不同的多台服务器上面部署不同的服务模块(工程),他们之间通过Rpc通信和调用,对外提供服务和组内协作。
    2. 集群:不同的多台服务器上面部署相同的服务模块,通过分布式调度软件进行统一的调度,对外提供服务和访问。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/175783.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

树状数组的原理和区间和

目录 一、前言 二、树状数组的原理 1、杂论 2、从二叉树到树状数组 3、神奇的 lowbit(x) 操作 4、tree[ ]数组:将一维信息转换为树形信息存储 5、基于 tree[ ] 的计算 6、tree[]的更新(要加lowbit) 三、树状数组的应用 1、单点修改…

流媒体方案之Nginx

1.Nginx可以作为流体服务器。2三种web服务器的比较3.推流端: FFmpeg使用RTMP协议向Nginx推流拉流端: •VLC播放器使用RTMP或HTTPFLV协议从Nginx拉流•浏览器使用HTTPFLV协议从Nginx拉流(安装flv.js)4.有两种方法:下载源码,手工编译使用Buildroot&#xf…

Redis分布式锁 | 黑马点评

目录 一、分布式锁概述 二、基于Redis的分布式锁 1、思路分析 2、初级版本 3、误删问题 4、改进分布式锁 5、原子性问题 6、使用Lua脚本解决原子性问题 7、setnx实现分布式锁存在问题 三、Redisson 1、Redisson快速入门 2、Redisson可重入锁原理 3、Redisson可重试…

从某一点出发沿任意一方向旋转矩阵计算思考与实现

欢迎关注更多精彩 关注我,学习常用算法与数据结构,一题多解,降维打击。 上期讲到 绕任一向量旋转矩阵计算思考与实现 点击前往 点击前往 问题提出 之前讲到绕任一向量旋转矩阵实现,原来的向量都是从原点出发,现在把…

Ajax面试题目

更多Ajax面试题目可以查看专栏内容 1.AJAX应用和传统Web应用有什么不同? 传统的web前端与后端的交互中,浏览器直接访问Tomcat的Servlet来获取数据。Servlet通过转发把数据发送给浏览器。当我们使用AJAX之后,浏览器是先把请求发送到XMLHttpR…

Swift之struct二进制大小分析

随着Swift的日渐成熟和给开发过程带来的便利性及安全性,京喜App中的原生业务模块和基础模块使用Swift开发占比逐渐增高。本次讨论的是struct对比Class的一些优劣势,重点分析对包体积带来的影响及规避措施。 一、基础知识 1、类型对比 引用类型&#xff…

独立看门狗与窗口看门狗

定义 看门狗的本质是一个定时器,在启动后,需要在一定时间内再给它一个信号,俗称“喂狗”,如果没有按时“喂狗”,说明MCU可能处于非正常状态,这时看门狗就向MCU发送个复位信号,使整个系统重启&a…

51单片机数码管显示

文章目录前言一、数码管简介二、数码管原理图三、数码管显示原理四、静态数码管代表编写五、动态数码管总结前言 这篇文章将介绍数码管的显示其中包含了动态数码管和静态数码管两种。 一、数码管简介 数码管其实就是由多个发光二极管封装在一起组成“8”字型的器件当分别点亮…

【数据结构】超详细——堆的实现

一、堆的概念及性质 1.1 什么是堆? 堆是一种完全二叉树(具体在下一章讲述),若二叉树的深度h,除了第h层外其余各层节点数满了,只有第h层缺额且该层结点靠左;任何一个数组可以看作完全二叉树&…

【14】C语言_函数简介

目录 1、C语言中函数的分类: 2、库函数 3、自定义函数 1、C语言中函数的分类: 1.库函数 2.自定义函数 2、库函数 为什么会有库函数? 1.我们知道在我们学习C语言编程的时候,总是在一个代码编写完成之后迫不及待的想知道结果,想把这个结果打印到我们的屏…

ESP32设备驱动-LX1972可见光传感器驱动

LX1972可见光传感器驱动 1、LX1972介绍 LX1972 是一款低成本硅光传感器,其光谱响应非常接近人眼。专利电路在 520nm 处产生峰值光谱响应,IR 响应小于峰值响应的 5%,高于 900nm。 光电传感器是一个 PIN 二极管阵列,具有线性、准确和非常可重复的电流传递函数。 芯片上的…

扫盲-从零开始搭建阿里云流媒体服务器/音视频编解码/

1.基础概念 2.简单模式-HTTP文件服务器 存储采用NAS,服务器配置 采用FASTDFS (192条消息) Linux新手入门系列:FastDFS单机部署一键安装脚本_IT小胖豆的博客-CSDN博客 有几个坑: 常用命令: tail -20f /usr/local/nginx/logs/er…

3小时精通opencv(三)图片裁剪与形状绘制

3小时精通opencv(三)图片裁剪与形状绘制 参考视频资源:3h精通Opencv-Python 文章目录3小时精通opencv(三)图片裁剪与形状绘制图片裁剪绘制形状绘制直线绘制矩形绘制圆形绘制文字整体代码图片裁剪 图片裁剪不需要使用opencv中特有的函数, 对于opencv中读取到的图像, 直接当做矩…

15. python数据类型转换

1. 隐式类型转换 - 自动完成 在隐式类型转换中,Python 会自动将一种数据类型转换为另一种数据类型,不需要我们去干预。 (1) 以下实例中,我们对两种不同类型的数据进行运算,较低数据类型(整数)就会转换为较…

java 探花交友项目day4 MongoDB

数据库表 接口定义 其他都比较简单 我们讲黑名单查询页面的设计 DubboService public class BlackListApiImpl extends ServiceImpl<BlackListMapper,BlackList> implements BlackListApi{Autowiredprivate BlackListMapper blackListMapper;Autowiredprivate UserInf…

Allegro如何输出坐标文件操作指导

Allegro如何输出坐标文件操作指导 PCB在SMT的时候会需要用坐标文件,Allegro支持输出坐标文件,如下图 具体操作如下 选择Tools选择report出现repor

LINUX学习之正则表达式(十二)

普通正则 元字符 元字符匹配描述.匹配除了换行符以外的任意单个字符*前导字符出现0次或连续多次.*任意长度字符^行首(以…开头)$行尾(以…结尾)^$空行[]匹配括号里任意单个字符或一组单个字符[^]匹配不包含括号里任一单个字符或一组单个字符^[]匹配以括号里任意单个字符或一组…

Python技能树-推导式

Python 列表推导式(1) Python 独步天下的推导式表达式&#xff0c;使用列表推导式过滤出偶数列表 # -*- coding: UTF-8 -*- if __name__ __main__:list [1, 2, 3, 4, 5, 6, 7, 8, 9, 10]print()print("# 使用列表推导式过滤出偶数")# TODO(you): 请在此实现过滤代…

Allegro如何添加平衡铜操作指导

Allegro如何添加平衡铜操作指导 PCB在加工的时候,工厂会添加平衡铜,Allegro支持自动加上平衡铜,如下图 具体操作如下 选择Manufacture点击Thieving

比较器: Comparable 与 Comparator 区别

比较器&#xff1a; Comparable 与 Comparator 区别 每博一文案 师父说: 人不能精得过火&#xff0c;太精明的人往往让人生厌&#xff0c;人也别傻的可怜&#xff0c;一腔热血付出却白忙一场。 太精明的人&#xff0c;凡事都想要争个明明白白&#xff0c;每一分钱都要和人计较…