优质博文:IT-BLOG-CN
一、建表规范
【1】表达是与否概率的字段,必须使用is_xxx
的方式命令,数据类型是tinyint
(1
表示是,0
表示否)
正例:表达逻辑删除的字段名is_active
,0
表示删除,1
表示未删除。
【2】表名、字段名必须使用小写字母或数字,禁止数字开头,禁止两个下划线中间只出现数字。数据库字段名的修改代价很大,因为无法进行预发布,所以字段名称需要慎重考虑。
MySQL
在Windows
下不区分大小写,但在Linux
下默认是区分大小写。因此,数据库名、表名、字段名,都不允许出现任何大写字母,避免节外生枝。
正例:aliyun_admin
,rdc_config
,level3_name
;
反例:AliyunAdmin
,rdcConfig
,level_3_name
;
【3】表名不使用复数名词:表名应该仅仅表示表里面的实体内容,不应该表示实体数量,对应于DO
类名也是单数形式,符合表达习惯。
正例:store
;
反例:stores
;
【4】禁用保留字,如desc
、range
、match
、delayed
等,请参考MySQL
官方保留字。
【5】主键索引名为pk_
字段名;唯一索引名为uk_
字段名;普通索引名则为idx_
字段名。
主键索引自动生成,名:PRIMARY
正例:uk_storeIdidx_storeId_vehicldId
;
【6】小数类型为decimal
,禁止使用float
和double
。
【7】如果修改字段含义或对字段表示的状态追加时,需要及时更新字段注释。
【8】varchar
是可变长字符串,不预先分配存储空间,长度不要超过5000
,如果存储长度大于此值,定义字段类型为text
,独立出来一张表,用主键来对应,避免影响其它字段索引效率。
由于公司规范不允许使用text
,推荐超过5000
使用多条记录拼接。
【9】表必备四字段:id
, (BigInt)datachange_createtime
,(Timestamp)catachange_lasttime
, (Timestamp)is_active (TinyInt)
。
【10】表的命名最好是遵循“业务名称_表的作用”:比如订单相关:表全部以订单开头。
【11】库名与应用名称尽量一致。
【12】字段允许适当冗余,以提高查询性能,但必须考虑数据一致。冗余字段应遵循:1.不是频繁修改的字段。2.不是唯一索引的字段。3.不是varchar
超长字段,更不能是text
字段。
【13】单表行数超过500
万行或者单表容量超过2GB
,才推荐进行分库分表。
如果预计三年后的数据量根本达不到这个级别,请不要在创建表时就分库分表
【14】合适的字符存储长度,不但节约数据库表空间、节约索引存储,更重要的是提升检索速度。
【15】如果存储的字符串长度几乎相等,使用char
定长字符串类型。
二、索引规约
【1】业务上具有唯一特性的字段,即使是组合字段,也必须建成唯一索引。不要因为唯一索引影响了insert
速度,这个速度损耗可以忽略,但提高查找速度是明显的;另外,即使在应用层做了非常完善的校验控制,只要没有唯一索引,根据墨菲定律,必然有脏数据产生。
【2】超过二个表禁止join
。需要join
的字段,数据类型保持绝对一致;多表关联查询时,保证被关联的字段需要有索引。即使双表join
也要注意表索引、SQL
性能。
【3】在varchar
字段上建立索引时,必须指定索引长度(推荐20
),没必要对全字段建立索引,根据实际文本区分度决定索引长度。 索引的长度与区分度是一对矛盾体,一般对字符串类型数据,长度为20
的索引,区分度会高达90%
以上,可以使用count(distinct left(列名, 索引长度))/count(*)
的区分度来确定。
【4】页面搜索严禁左模糊或者全模糊,如果需要请走搜索引擎来解决。索引文件具有B-Tree
的最左前缀匹配特性,如果左边的值未确定,那么无法使用此索引.
【5】如果有order by
的场景,请注意利用索引的有序性。order by
最后的字段是组合索引的一部分,并且放在索引组合顺序的最后,避免出现file_sort
的情况,影响查询性能。
正例:where a=? and b=? order by c
;索引:a_b_c
。索引如果存在范围查询,那么索引有序性无法利用,如:WHERE a>10 ORDER BY b
;索引a_b
无法排序。
【6】利用覆盖索引来进行查询操作,避免回表。如果一本书需要知道第11
章是什么标题,会翻开第11
章对应的那一页吗?目录浏览一下就好,这个目录就是起到覆盖索引的作用。能够建立索引的种类分为主键索引、唯一索引、普通索引三种,而覆盖索引只是一种查询的一种效果,用explain
的结果,extra
列会出现:using index
。
【7】利用延迟关联或者子查询优化超多分页场景:MySQL
并不是跳过offset
行,而是取offset+N
行,然后返回放弃前offset
行,返回N
行,那当offset
特别大的时候,效率就非常的低下,要么控制返回的总页数,要么对超过特定阈值的页数进行SQL
改写。
正例:先快速定位需要获取的id
段,然后再关联SELECT t1.* FROM 表1 as t1, (select id from 表1 where 条件 LIMIT 100000,20 ) as t2 where t1.id=t2.id
【8】SQL
性能优化的目标:至少要达到range
级别,要求是ref
级别,如果可以是consts
最好。
1)consts
单表中最多只有一个匹配行(主键或者唯一索引),在优化阶段即可读取到数据。
2)ref
指的是使用普通的索引normal index
。
3)range
对索引进行范围检索。
explain
表的结果,type=index
索引物理文件全扫描,速度非常慢,这个index
级别比较range
还低,与全表扫描是小巫见大巫。
【9】建组合索引的时候,区分度最高的在最左边。存在非等号和等号混合判断条件时,在建索引时,请把等号条件的列前置。如:where c>? and d=?
那么即使c
的区分度更高,也必须把d
放在索引的最前列,即建立组合索引idx_d_c
。如果where a=? and b=?
,a
列的几乎接近于唯一值,那么只需要单建idx_a
索引即可。
【10】防止因字段类型不同造成的隐式转换,导致索引失效。当操作符与不同类型的操作数一起使用时,会发生类型转换以使操作数兼容。则会发生转换隐式。
隐式类型转换规则:》如果一个或两个参数都是NULL
,比较的结果是NULL
,除了NULL
安全的<=>
相等比较运算符。对于NULL <=> NULL
,结果为true
。不需要转换》如果比较操作中的两个参数都是字符串,则将它们作为字符串进行比较。》如果两个参数都是整数,则将它们作为整数进行比较。》如果不与数字进行比较,则将十六进制值视为二进制字符串》如果其中一个参数是十进制值,则比较取决于另一个参数。 如果另一个参数是十进制或整数值,则将参数与十进制值进行比较,如果另一个参数是浮点值,则将参数与浮点值进行比较》如果其中一个参数是TIMESTAMP
或DATETIME
列,另一个参数是常量,则在执行比较之前将常量转换为时间戳。》在所有其他情况下,参数都是作为浮点数(实数)比较的。
正例:假如orderId
为varchar
类型:select * from order_main where order_id='1234'
反例:假如orderId
为varchar
类型:select * from order_main where order_id=1234
【11】创建索引时避免有如下极端误解:1)索引宁滥勿缺。认为一个查询就需要建一个索引。2)吝啬索引的创建。认为索引会消耗空间、严重拖慢记录的更新以及行的新增速度。3)抵制惟一索引。认为惟一索引一律需要在应用层通过“先查后插”方式解决。
【12】最左前缀匹配原则,非常重要的原则,mysql
会一直向右匹配直到遇到范围查询(>
、<
、between
、like
)就停止匹配,比如a = 1 and b = 2 and c > 3 and d = 4
如果建立(a,b,c,d)
顺序的索引,d
是用不到索引的,如果建立(a,b,d,c)
的索引则都可以用到,a,b,d
的顺序可以任意调整。
【13】=
和in
可以乱序,比如a = 1 and b = 2 and c = 3
建立(a,b,c)
索引可以任意顺序,mysql
的查询优化器会帮你优化成索引可以识别的形式。
【14】尽量选择区分度高的列作为索引,区分度的公式是count(distinct col)/count(*)
,表示字段不重复的比例,比例越大我们扫描的记录数越少,唯一键的区分度是1
,而一些状态、性别字段可能在大数据面前区分度就是0
,那可能有人会问,这个比例有什么经验值吗?使用场景不同,这个值也很难确定,一般需要join
的字段我们都要求是0.1
以上,即平均1
条扫描10
条记录。
【15】索引列不能参与计算,保持列“干净”,比如from_unixtime(create_time) = ’2014-05-29’
就不能使用到索引,原因很简单,b+
树中存的都是数据表中的字段值,但进行检索时,需要把所有元素都应用函数才能比较,显然成本太大。所以语句应该写成create_time = unix_timestamp(’2014-05-29’)
。
【16】尽量的扩展索引,不要新建索引。比如表中已经有a
的索引,现在要加(a,b)
的索引,那么只需要修改原来的索引即可。
【17】业务上具有唯一特性的字段,即使是组合字段,也必须建成唯一索引.
【18】合理使用索引,同时需要避免过多创建索引,浪费资源 。
美团一篇索引文章,讲的不错。
三、sql 语句
【1】不要使用count(列名)
或count(常量)
来替代count(*)
,count(*)
是SQL92
定义的标准统计行数的语法,跟数据库无关,跟NULL
和非NULL
无关。count(*)
会统计值为NULL
的行,而count(列名)
不会统计此列为NULL
值的行。
【2】count(distinct col)
计算该列除NULL
之外的不重复行数,注意count(distinct col1, col2)
如果其中一列全为NULL
,那么即使另一列有不同的值,也返回为0
。
【3】当某一列的值全是NULL
时,count(col)
的返回结果为0
,但sum(col)
的返回结果为NULL
,因此使用sum()
时需注意NPE
问题。
【4】使用ISNULL()
来判断是否为NULL
值。NULL
与任何值的直接比较都为NULL
。1)NULL<>NULL
的返回结果是NULL
,而不是false
。2)NULL=NULL
的返回结果是NULL
,而不是true
。3)NULL<>1
的返回结果是NULL
,而不是true
。
在SQL
语句中,如果在null
前换行,影响可读性。select * from table where column1 is null and column3 is not null
; 而ISNULL(column)
是一个整体,简洁易懂。从性能数据上分析,ISNULL(column)
执行效率更快一些。
【5】代码中写分页查询逻辑时,若count
为0
应直接返回,避免执行后面的分页语句。
【6】不得使用外键与级联,一切外键概念必须在应用层解决。(概念解释)学生表中的student_id
是主键,那么成绩表中的student_id
则为外键。如果更新学生表中的student_id
,同时触发成绩表中的student_id
更新,即为级联更新。外键与级联更新适用于单机低并发,不适合分布式、高并发集群;级联更新是强阻塞,存在数据库更新风暴的风险;外键影响数据库的插入速度。
【7】禁止使用存储过程,存储过程难以调试和扩展,更没有移植性。
【8】数据订正(特别是删除或修改记录操作)时,要先select
,避免出现误删除,确认无误才能执行更新语句。
【9】对于数据库中表记录的查询和变更,只要涉及多个表,都需要在列名前加表的别名(或表名)进行限定。对多表进行查询记录、更新记录、删除记录时,如果对操作列没有限定表的别名(或表名),并且操作列在多个表中存在时,就会抛异常。
正例:select t1.name from table_first as t1, table_second as t2 where t1.id=t2.id;
反例:在某业务中,由于多表关联查询语句没有加表的别名(或表名)的限制,正常运行两年后,最近在某个表中增加一个同名字段,在预发布环境做数据库变更后,线上查询语句出现出1052
异常:Column 'name' in field list is ambiguous
。
【10】in
操作能避免则避免,若实在避免不了,需要仔细评估in
后边的集合元素数量,控制在1000
个之内。
【11】SQL
语句中表的别名前加as
,并且以t1
、t2
、t3
、...
的顺序依次命名。1)别名可以是表的简称,或者是依照表在SQL
语句中出现的顺序,以t1
、t2
、t3
的方式命名。2)别名前加as
使别名更容易识别。
正例:select t1.name from table_first as t1,table_second as t2 where t1.id=t2.id;
【12】因国际化需要,所有的字符存储与表示,均采用utf8mb64
字符集,那么字符计数方法需要注意。SELECT LENGTH("轻松工作")
; 返回为12
。SELECT CHARACTER_LENGTH("轻松工作")
; 返回为4
如果需要存储表情,那么选择utf8mb4
来进行存储,注意它与utf8
编码的区别。
【13】TRUNCATE TABLE
比DELETE
速度快,且使用的系统和事务日志资源少,但TRUNCATE
无事务且不触发trigger
,有可能造成事故,故不建议在开发代码中使用此语句。TRUNCATE TABLE
在功能上与不带WHERE
子句的DELETE
语句相同。
四、orm映射
【1】在表查询中,一律不要使用*
作为查询的字段列表,需要哪些字段必须明确写明。1)增加查询分析器解析成本。2)增减字段容易与resultMap
配置不一致。3)无用字段增加网络消耗,尤其是text
类型的字段。
【2】更新数据表记录时,必须同时更新记录对应的data_last_time
字段值为当前时间。
【3】不要写一个大而全的数据更新接口。传入为POJO
类,不管是不是自己的目标更新字段,都进行update table set c1=value1,c2=value2,c3=value3;
这是不对的。执行SQL
时,不要更新无改动的字段,一是易出错;二是效率低;三是增加binlog
存储。
【4】@Transactional
事务不要滥用。事务会影响数据库的QPS
,另外使用事务的地方需要考虑各方面的回滚方案,包括缓存回滚、搜索引擎回滚、消息补偿、统计修正等。
五、事务使用规范
【1】一个事务里面,避免一次处理太多数据。
【2】在一个事务里面,尽量避免不必要的查询。
【3】在一个事务里面,避免耗时太多的操作,造成事务超时。一些非DB
的操作,比如rpc
调用,消息队列的操作尽量放到事务之外操作。