干货|大数据量惯用优化方法

优化人员工作时免不了要接触到大数据量的问题,下面就将平时收集的一些关于大数据量的优化方法整理记录一下,也是和大家一起共享哦。

1. 应尽量避免在 where 子句中对字段进行 null值判断,否则将导致引擎放弃使用索引而进行全表扫描,如

select id from t where numis null

可以在num上设置默认值0,确保表中num列没有null值,然后这样查询:

select id from t where num=0

2. 应尽量避免在 where 子句中使用!=或<>操作符,否则将导致引擎放弃使用索引而进行全表扫描。优化器将无法通过索引来确定将要命中的行数,因此需要搜索该表的所有行。

3. 应尽量避免在 where 子句中使用 or来连接条件,否则将导致引擎放弃使用索引而进行全表扫描,如:

select id from t where num=10or num=20

可以这样查询:

select id from t where num=10

union all

select id from t where num=20

4. in和 not in也要慎用,因为in会使系统无法使用索引,而只能直接搜索表中的数据。如

select id from t where numin(1,2,3)

对于连续的数值,能用 between就不要用 in了:

select id from t where numbetween 1 and 3

5. 尽量避免在索引过的字符数据中,使用非打头字母搜索。这也使得引擎无法利用索引。 见如下例子:

SELECT * FROM T1 WHERE NAME LIKE‘%L%’

SELECT * FROM T1 WHERESUBSTING(NAME,2,1)=’L’

SELECT * FROM T1 WHERE NAME LIKE‘L%’

即使NAME字段建有索引,前两个查询依然无法利用索引完成加快操作,引擎不得不对全表所有数据逐条操作来完成任务。而第三个查询能够使用索引来加快操作。

6. 必要时强制查询优化器使用某个索引,如在 where 子句中使用参数,也会导致全表扫描。因为SQL只有在运行时才会解析局部变量,但优化程序不能将访问计划的选择推迟到运行时;它必须在编译时进行选择。然而,如果在编译时建立访问计划,变量的值还是未知的,因而无法作为索引选择的输入项。如下面语句将进行全表扫描:

select id from t where

可以改为强制查询使用索引:

select id from t with(index(索引名)) where

7. 应尽量避免在 where 子句中对字段进行表达式操作,这将导致引擎放弃使用索引而进行全表扫描。如:

SELECT* FROM T1 WHERE F1/2=100

应改为:

SELECT* FROM T1 WHERE F1=100*2

SELECT *FROM RECORD WHERESUBSTRING(CARD_NO,1,4)=’5378’

应改为:

SELECT *FROM RECORD WHERE CARD_NO LIKE ‘5378%’

SELECTmember_number,first_name,last_name FROM members

WHEREDATEDIFF(yy,datofbirth,GETDATE())> 21

应改为:

SELECTmember_number,first_name,last_name FROM members

WHEREdateofbirth

即:任何对列的操作都将导致表扫描,它包括数据库函数、计算表达式等等,查询时要尽可能将操作移至等号右边。

8. 应尽量避免在where子句中对字段进行函数操作,这将导致引擎放弃使用索引而进行全表扫描。如:

select id from t where substring(name,1,3)=’abc’—name

以abc开头的id

select id from t wheredatediff(day,createdate,’2005-11-30′)=0–‘2005-11-30’

生成的id

应改为:

select id from t where name like ‘abc%’

select id from t where createdate>=’2005-11-30’and createdate<‘2005-12-1′

9. 在使用索引字段作为条件时,如果该索引是复合索引,那么必须使用到该索引中的第一个字段作为条件时才能保证系统使用该索引,否则该索引将不会被使用,并且应尽可能的让字段顺序与索引顺序相一致。

10. 很多时候用 exists是一个好的选择:

selectnum from a where num in(selectnum from b)

用下面的语句替换:

selectnum from a where exists(select 1 from b where num=a.num)

SELECTSUM(T1.C1)FROM T1 WHERE(

(SELECTCOUNT(*)FROM T2 WHERE T2.C2=T1.C2>0)

SELECTSUM(T1.C1) FROM T1WHERE EXISTS(

SELECT *FROM T2 WHERE T2.C2=T1.C2)

两者产生相同的结果,但是后者的效率显然要高于前者。因为后者不会产生大量锁定的表扫描或是索引扫描。

如果你想校验表里是否存在某条纪录,不要用count(*)那样效率很低,而且浪费服务器资源。可以用EXISTS代替。如:

IF (SELECTCOUNT(*)FROMtable_name WHEREcolumn_name= ‘xxx’)