|
|
一.概述
书写sql是我们程序猿在开发中必不可少的技能，优秀的sql语句，执行起来吊炸天，性能杠杠的。差劲的sql，不仅使查询效率降低，维护起来也十分不便。一切都是为了性能，一切都是为了业务，你觉得你的sql技能如何？所有的伟大来自于点滴的积累，不积跬步无以至千里，让sql性能飞起来吧！
二.sql初探
1.常见sql写法注意点
（1）字符类型建议采用varchar/nvarchar数据类型
- char
char是定长的，也就是当你输入的字符小于你指定的数目时，char(8)，你输入的字符小于8时，它会再后面补空值。当你输入的字符大于指定的数时，它会截取超出的字符。
nvarchar(n)
包含 n 个字符的可变长度 Unicode 字符数据。n 的值必须介于 1 与 4,000 之间。字节的存储大小是所输入字符个数的两倍。所输入的数据字符长度可以为零。
varchar[(n)]
长度为 n 个字节的可变长度且非 Unicode 的字符数据。n 必须是一个介于 1 和 8,000 之间的数值。存储大小为输入数据的字节的实际长度，而不是 n 个字节。所输入的数据字符长度可以为零。
[1]—CHAR。CHAR存储定长数据很方便，CHAR字段上的索引效率级高，比如定义char(10)，那么不论你存储的数据是否达到了10个字节，都要占去10个字节的空间。
[2]—VARCHAR。存储变长数据，但存储效率没有CHAR高。如果一个字段可能的值是不固定长度的，我们只知道它不可能超过10个字符，把它定义为 VARCHAR(10)是最合算的。VARCHAR类型的实际长度是它的值的实际长度+1。为什么“+1”呢？这一个字节用于保存实际使用了多大的长度。 从空间上考虑，用varchar合适；从效率上考虑，用char合适，关键是根据实际情况找到权衡点。
[3]—TEXT。text存储可变长度的非Unicode数据，最大长度为2^31-1(2,147,483,647)个字符。
[4]—NCHAR、NVARCHAR、NTEXT。这三种从名字上看比前面三种多了个“N”。它表示存储的是Unicode数据类型的字符。我们知道字符中，英文字符只需要一个字节存储就足够了，但汉字众多，需要两个字节存储，英文与汉字同时存在时容易造成混乱，Unicode字符集就是为了解决字符集这种不兼容的问题而产生的，它所有的字符都用两个字节表示，即英文字符也是用两个字节表示。nchar、nvarchar的长度是在1到4000之间。和char、varchar比较起来，nchar、nvarchar则最多存储4000个字符，不论是英文还是汉字；而char、varchar最多能存储8000个英文，4000个汉字。可以看出使用nchar、nvarchar数据类型时不用担心输入的字符是英文还是汉字，较为方便，但在存储英文时数量上有些损失。
所以一般来说，如果含有中文字符，用nchar/nvarchar，如果纯英文和数字，用char/varchar。
举例说明：
两字段分别有字段值：我和coffee
那么varchar字段占2×2+6=10个字节的存储空间，而nvarchar字段占8×2=16个字节的存储空间。
如字段值只是英文可选择varchar，而字段值存在较多的双字节（中文、韩文等）字符时用nvarchar
（2）金额货币建议采用money数据类型 （一般常用，最大四位小数）
（3）科学计数建议采用numeric数据类型-- （建议巨额资金交易用numeric）
（4）自增长标识建议采用bigint数据类型 (数据量一大，用int类型就装不下，那以后改造就麻烦了)
（5）时间类型建议采用为datetime数据类型
（6）禁止使用text、ntext、image老的数据类型（已过时）
（7）禁止使用xml数据类型、varchar(max)、nvarchar(max)
（8）禁止在数据库做复杂运算 （业务处理逻辑最好在代码层实现，不要让所有的代码逻辑存在于sql中，不便于后期的问题定位）
（9）禁止使用SELECT * （按需所取，查找自己所需要的列）
（10）禁止在索引列上使用函数或计算
例如：
我们查询注册时间在2015-11-11的店铺账号，找出它们进行活动奖励，我们如果不加注意，很可能写成这样：
select * from T_Account
where Convert(varchar(10,Regtime，121)='2015-11-11'
这样写的话，我们就无法命中索引字段Regtime，如果T_Account的数据量超大的时候，数据库查询分析器走表扫描，查询效率就降低了；要实现上面的查询结果，其实我们可以换一种写法：
select * from T_Account
where Regtime>='2015-11-11 00:00:00'
and Regtime<'2015-11-12 00:00:00'
（11）禁止使用游标
由于游标在处理大数据量的时候，占有的内存较大，效率低。可能造成其他的数据库查询堵塞的现象，除非是当你使用while循环,子查询，临时表，表变量,自建函数或其他方式都无法处理某种操作的时候，再考虑使用游标。
举例说明一下在实际运用中的一个游标处理：
--定义店铺ID
declare @accId int
set @accId=218424
--1.创建临时表并插入数据
select gsid,gid into #gidlist from T_Goods_Sku where accid=@accId and gid in (select gid from T_GoodsInfo where accid=@accId and isService=0 and IsExtend=1)
select gsId,gaVName into #gsidlist from T_Goods_Relation where gsid in (select gsid from T_Goods_Sku where accid=@accId and gid in (select gid from T_GoodsInfo where accid=@accId and isService=0 and IsExtend=1))
order by gsId
select a.gid gid,a.gsId gsId,b.gaVName gaVName into #tempgid from #gidlist a left join #gsidlist b
on a.gsId=b.gsId
drop table #gidlist
drop table #gsidlist
--2.开始事务
BEGIN TRANSACTION
--3.定义变量，累积事务执行过程中的错误
DECLARE @error INT
SET @error = 0
--4.声明游标
DECLARE goodsCursor CURSOR SCROLL
FOR
SELECT gid
,gsId
,gaVName
FROM #tempgid
--5.打开游标
OPEN goodsCursor
--6.声明游标提取数据所要存放的变量
DECLARE @gid INT
,@gsId INT
,@gaVName NVARCHAR(400)
,@gUnionKey NVARCHAR(400)
--7.定位游标到哪一行
FETCH First
FROM goodsCursor
INTO @gid
,@gsId
,@gaVName
--8.提取成功，对数据操作，进行下一条数据的提取操作
WHILE @@fetch_status = 0
BEGIN
SET @gUnionKey = ''
SELECT @gUnionKey = gUnionKey from T_GoodsInfo where accid=@accId and isService=0 and IsExtend=1 and gid=@gid
SELECT @gUnionKey=@gUnionKey+'|'+@gaVName
PRINT '-----start-------'
PRINT @gid
PRINT @gsId
PRINT @gaVName
PRINT @gUnionKey
--更新gUnionKey
update T_GoodsInfo
set gUnionKey=@gUnionKey
where accid=@accId and isService=0 and IsExtend=1 and gid=@gid
PRINT '-----end--------'
--移动游标
FETCH NEXT
FROM goodsCursor
INTO @gid
,@gsId
,@gaVName
END
--9.判读事务错误数，提交或回滚事务
IF @error <> 0 --有误
BEGIN
PRINT '回滚事务'
ROLLBACK TRANSACTION
END
ELSE
BEGIN
PRINT '提交事务'
COMMIT TRANSACTION
END
--10.关闭并删除游标，删除临时表
CLOSE goodsCursor
DEALLOCATE goodsCursor
drop table #tempgid
（12）禁止使用触发器
触发器在开发角度来讲，不知道具体什么时候执行，对于业务来讲不跟代码逻辑一样是显示的呈现，所以导致后期的维护比较困难，所以要处理触发器完成的服务，最好通过服务或者中间件去完成。
例如：
在微信收单的过程中，我们销售结账完成以后，需要通过短信向用户手机推送消费消息，这时候用触发器可能就是在结账以后，触发sql触发器，写入一条消息记录到短信表记录，走消息队列，将短信发送出去。
反之，我们采用中间件，就可以将结账以后的记录，发送给消息中间件EasyNetQ,中间件将记录异步写入记录，这样有问题的话，只用确认中间件消息接受和发送的问题。
（13）禁止在查询里指定索引
在sql里面指定索引索引是这样定义的：
SELECT 字段名表
FROM 表名表
WITH (INDEX(索引名))
WHERE 查询条件
如果在搜索的时候，指定了索引搜索，就会导致新建的索引无法生效，假如删除了指定的索引，会导致程序崩溃，所以建议不采用指定索引进行搜索。
（14）变量/参数/关联字段类型必须与字段类型一致
所谓的变量、参数、关联字段类型一致指的是，数据库中是什么类型，那么我们在成程序中传入参数的过程中，建议保持一直，避免在查询的时候，进行类型转换，在大批量数据处理过程中，可能影响性能。
图1类型：（程序中类型）
图二类型：（数据中类型）
图1、图2中字段类型保持一致。
（15）参数化查询
所谓的“参数化SQL”就是在应用程序设置SqlCommand.CommandText的时候使用参数（如：param1），然后通过SqlCommand.Parameters.Add来设置这些参数的值。这种做法会把你准备好的命令通过sp_executesql系统存储过程来执行，使用参数化，最直接的好处就是防止SQL注入。也就是说使用这种方法，主要是为了保证数据库的安全。禁止拼接sql语句。
另外参数化查询有利于数据库查询计划的复用，比如我们查询注册日期大于2015-12-12和注册日期大于2016-12-12不同的店铺记录，我们可能这样写：
select * from T_Account where Regtime>'2015-12-12'
select * from T_Account where Regtime>'2016-12-12'
上面两条语句，可以完成我们上面的查询结果集，但是sql查询计划会进行两次分析，导致查询计划不能够复用，如果用参数化查询，则可以复用查询计划：
declare @Regtime datetime;
set @Regtime='2015-12-12';
select * from T_Account where Regtime>@Regtime
set @Regtime='2016-12-12';
select * from T_Account where Regtime>@Regtime
只需要改变参数的值就可以了。
（16）限制JOIN个数
join表的次数不要过多，写代码的人，看到过多的join表记录都会懵逼，何况数据库了？会导致数据库执行错误的执行计划，影响性能。
（17）关闭影响的行计数信息返回
在sql语句中，可以设置Set NoAccount on，关闭查询受影响的行数，从而减少流量。
（18）除非必要SELECT语句都必须加上NOLOCK
这个是我们经常在开发中忽略的，加上nolock以后，在查询的时候，不锁表。不要只要自己爽，别人也要查询数据的，占这茅坑不拉shi是不好哦。这也是我们内部工程师的必修课提高的。
（19）使用UNION ALL替换UNION
使用union 的时候，必须满足两个表具体相同数目的列。
union all 包含全部的记录,union 包含去除重复后的结果集
Employees_China:
| E_ID| E_Name|
| :-------- | --------:|
| 01| Zhang, Hua|
| 02| Wang, Wei|
| 03| Carter, Thomas|
| 04| Yang, Ming|
Employees_USA:
E_ID
E_Name
01
Adams, John
02
Bush, George
03
Carter, Thomas
04
Gates,Bill
使用 UNION 命令
列出所有在中国和美国的不同的雇员名：
SELECT E_Name FROM Employees_China
UNION
SELECT E_Name FROM Employees_USA
结果集：
>
Zhang, Hua
Wang, Wei
Carter, Thomas
Yang, Ming
Adams, John
Bush, George
Gates, Bill
使用 UNION ALL 命令
列出在中国和美国的所有的雇员：
SELECT E_Name FROM Employees_China
UNION ALL
SELECT E_Name FROM Employees_USA
结果集：
>
Zhang, Hua
Wang, Wei
Carter, Thomas
Yang, Ming
Adams, John
Bush, George
Carter, Thomas
Gates, Bill
（20）查询大量数据使用分页或TOP
通过分页批量获取数据，避免全表扫描。
在.Net中，我们可以这样写来分页获取数据,通过分页获取图片数据，进行地址替换操作。
/// <summary> /// 批量替换图片地址
/// </summary>
/// <param name="index"></param>
/// <param name="size"></param>
public static void BatchReplaceImgAddress(int index, int> {
const string strSql =
"select>
as rownumber,id as> "from t_GoodsExtend (nolock) ) as T where rownumber
BETWEEN (@index-1)*@size+1 AND @size*@index";
var imgAddressesItems =
DapperHelper.Query<ImgAddressModel>(strSql, new
{
index = index,
size => }).ToList();
if (!imgAddressesItems.Any())
{
return;
}
try
{
Console.WriteLine("正在处理{0}~{1}条数据:", (index - 1)*size + 1, ((index - 1)*size) +> foreach (var item in imgAddressesItems)
{
var imgItem = item;
if (string.IsNullOrWhiteSpace(imgItem.ImgAddress)) continue;
var imgAddress = imgItem.ImgAddress;
const string targetReplaceStr = "baidu.com/umupload";
const string targetNewStr = "baidu.com/mobileweb/detail2";
if (imgAddress.Contains(targetReplaceStr))
{
var newImgAddress = imgAddress.Replace(targetReplaceStr, targetNewStr);
const string updateImgStrSql = "update t_GoodsExtend
set ge_Details = @ge_Details where> var updateResult = DapperHelper.Execute(updateImgStrSql, new
{
id = imgItem.Id,
ge_Details = newImgAddress,
});
if (updateResult > 0)
{
var message = string.Format("当前的店铺Id为：{0}，处理记录的Id为：{1}", imgItem.AccId,imgItem.Id);
Console.WriteLine(message);
SimpleLog.Instance.WriteLogForFile("批量替换图片地址日志", message);
}
}
}
}
catch (Exception ex)
{
SimpleLog.Instance.WriteLogForFile("批量替换图片地址异常", ex);
}
BatchReplaceImgAddress(index + 1,> }
（21）NOT EXISTS替代NOT IN
1、in和exists
in是把外表和内表作hash连接，而exists是对外表作loop循环，每次loop循环再对内表进行查询，一直以来认为exists比in效率高的说法是不准确的。如果查询的两个表大小相当，那么用in和exists差别不大；如果两个表中一个较小一个较大，则子查询表大的用exists，子查询表小的用in；
例如：表A(小表)，表B(大表)
select * from A where cc in(select cc from B) -->效率低，用到了A表上cc列的索引；
select * from A where exists(select cc from B where cc=A.cc) -->效率高，用到了B表上cc列的索引。
相反的：
select * from B where cc in(select cc from A) -->效率高，用到了B表上cc列的索引
select * from B where exists(select cc from A where cc=B.cc) -->效率低，用到了A表上cc列的索引。
2、not in 和not exists
not in 逻辑上不完全等同于not exists，如果你误用了not in，小心你的程序存在致命的BUG，请看下面的例子：
create table #t1(c1 int,c2 int);
create table #t2(c1 int,c2 int);
insert into #t1 values(1,2);
insert into #t1 values(1,3);
insert into #t2 values(1,2);
insert into #t2 values(1,null);
select * from #t1 where c2 not in(select c2 from #t2); -->执行结果：无
select * from #t1 where not exists(select c2 from #t2 where #t2.c2=#t1.c2) -->执行结果：1 3
正如所看到的，not in出现了不期望的结果集，存在逻辑错误。如果看一下上述两个select 语句的执行计划，也会不同，后者使用了hash_aj，所以，请尽量不要使用not in(它会调用子查询)，而尽量使用not exists（它会调用关联子查询）。如果子查询中返回的任意一条记录含有空值，则查询将不返回任何记录。如果子查询字段有非空限制，这时可以使用not in，并且可以通过提示让它用hasg_aj或merge_aj连接。
如果查询语句使用了not in，那么对内外表都进行全表扫描，没有用到索引；而not exists的子查询依然能用到表上的索引。所以无论哪个表大，用not exists都比not in 要快。
3、in 与 = 的区别
select name from student where name in('zhang','wang','zhao');
与
select name from student where name='zhang' or name='wang' or name='zhao'
的结果是相同的。
（22）尽量避免使用OR运算符
举例说明我们在查找当当前是行业版和高级版店铺的账号时，我们可能会这样写：
select>select accountId from T_Bussiness where aotjob=3 or aotjob=5
）
where后面使用了aotjob=3 or aotjob=5，这样会导致数据库查询无法命中索引，会走全表扫描。所以在这里我们使用in则会比较好：
select>select accountId from T_Bussiness where aotjob in （3，5）
）
(23)like的查询的索引
1.[Col1] like "abc%" --index seek 这个就用到了索引查询
2.[Col1] like "%abc%" --index scan 而这个就并未用到索引查询
3.[Col1] like "%abc" --index scan 这个也并未用到索引查询
我想从上而三个例子中，大家应该明白，最好不要在LIKE条件前面用模糊匹配，否则就用不到索引查询。
2.合理使用NULL属性
新加的表，所有字段禁止NULL
（新表为什么不允许NULL？
允许NULL值，会增加应用程序的复杂性。你必须得增加特定的逻辑代码，以防止出现各种意外的bug
三值逻辑，所有等号（“=”）的查询都必须增加isnull的判断。
Null=Null、Null!=Null、not(Null=Null)、not(Null!=Null) 都为unknown，不为true
举例来说明一下：
如果表里面的数据如图所示：
你想来找查找除了name等于aa的所有数据，然后你就不经意间用了
SELECT * FROM USERS WHERE NAME<>’aa’
结果发现与预期不一样，事实上它只查出了name=bb而没有查找出name=NULL的数据记录
那我们如何查找除了name等于aa的所有数据，只能用ISNULL函数了
SELECT * FROM USERS WHERE ISNULL(NAME,1)<>’aa’
但是大家可能不知道ISNULL会引起很严重的性能瓶颈 ,所以很多时候最好是在应用层面限制用户的输入，确保用户输入有效的数据再进行查询。
旧表新加字段，需要允许为NULL（避免全表数据更新 ，长期持锁导致阻塞）（这个主要是考虑之前表的改造问题）
3.理解执行计划
所谓的执行计划，就是数据库根据sql语句生成的一个执行顺序。先执行什么，再执行什么。类似于我们的工作计划，先做什么，后做什么，从而使我们的效率达到最高。所以合理的执行计划，会让数据库干正确的事，提高效率。
在我们使用sql查询的时候，通常是根据sql内部的查询计划来进行的，也就是说不同的sql语句生成的查询计划不同，所以要优化sql，我们写出的sql要让数据库能够生成正确执行计划，才能提高性能；反之写出的sql语句，不容易被数据库翻译成合理的执行计划，就容易导致性能瓶颈。
例如：
select>
select>
这两句查询语句我们可以看出只是from关键字大小的区别，但是查询分析器会认为是不同的语句，进行两次解析。所以针对同一个查询语句，在不同的地方我们应该保持一致，大小写一致，查找字段一致。在数据库中针对查询，数据库会缓存查询计划，如果查询的时候，存在已经解析的查询计划，就会按照存在的查询计划走，这样就节省了解析生成查询计划的时间，提高了查询性能。
三.总结
关于查询计划，准备细致的学习一下，明白不同查询计划具体的含义。从而可以进行对应的优化。上面讲到不对的地方，希望大家指出，一起学习，一起进步！ |
|
QQ群⑧：
窥视卡
雷达卡
发表于 2017-7-14 17:58:25
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡