本文共 6243 字，大约阅读时间需要 20 分钟。
Java技术栈
www.javastack.cn
关注阅读更多优质文章
❝领导让我
❞SQL优化，我直接把服务干挂了...
前言
MySQL大表加字段或者加索引，是有一定风险的。
大公司一般有DBA，会帮助开发解决这个痛点，可是DBA是怎么做的呢？
小公司没有DBA，作为开发我们的责任就更大了。那么我们怎么才能安全的加个索引呢？
今天，我们通过模拟案例以及原理分析，去弄清楚MySQL中DDL的风险，以及如何避免事故发生。
准备
软件以及项目
安装本地版本MySQL。
一个简单的增删改查项目。
使用JMeter进行并发请求测试。
创建表
# 如果存在user表则删除DROP TABLE IF EXISTS user;# 创建user表CREATE TABLE `user` ( `id` bigint NOT NULL AUTO_INCREMENT COMMENT '自增主键', `name` varchar(10) DEFAULT NULL COMMENT '姓名', `age` int(2) DEFAULT NULL COMMENT '年龄', `address` varchar(30) DEFAULT NULL COMMENT '地址', `description` varchar(100) DEFAULT NULL COMMENT '描述', `test_id` bigint DEFAULT NULL COMMENT '测试 id', `create_time` timestamp NULL DEFAULT NULL COMMENT '创建时间', `modify_time` timestamp NULL DEFAULT NULL COMMENT '修改时间', PRIMARY KEY (`id`)) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COMMENT='mysql ddl测试表';
创建存储过程
# 如果存在test存储过程则删除DROP PROCEDURE IF EXISTS `test`;# 创建无参存储过程，名称为testCREATE PROCEDURE test()BEGIN # 声明变量 DECLARE i INT; # 变量赋值 SET i = 0; # 结束循环的条件: 当i等于100万时跳出while循环 WHILE i < 1000000 DO # 往t_test表添加数据 INSERT INTO `test`.user (`name`, `age`, `address`, `description`, `test_id`, `create_time`, `modify_time`) VALUES ('iisheng', 26, '北京', '如逆水行舟', LAST_INSERT_ID() + 1, '2020-05-17 16:01:44', '2020-05-17 16:01:51'); # 循环一次, i加1 SET i = i + 1; # 结束while循环 END WHILE;END ❝下面的创建存储过程语句，是在
❞IDE内选择代码块执行的，如果在Terminal中执行，需要使用DELIMITER关键字，更改语句结束标志。
调用存储过程，生成百万数据
CALL test();
开启慢SQL日志
# 查看MySQL是否开启慢日志记录SHOW VARIABLES LIKE 'slow_query_log';# 开启慢SQL日志记录SET GLOBAL slow_query_log = 'ON';# 查看慢SQL日志位置SHOW VARIABLES LIKE 'slow_query_log_file';# 查看执行多久的SQL才算慢SQLSHOW VARIABLES LIKE 'long_query_time';# 设置慢SQL执行时间 只有新session才生效SET GLOBAL long_query_time = 1;
❝通常情况下这些会在MySQL的配置文件中配置，启动时生效。
❞
几个有用的SQL语句
# 展示哪些线程正在运行SHOW PROCESSLIST;# 查看正在执行的事务SELECT * FROM information_schema.INNODB_TRX;# 查看正在锁的事务SELECT * FROM information_schema.INNODB_LOCKS;# 查看正在等待锁的事务SELECT * FROM information_schema.INNODB_LOCK_WAITS;# 显示innodb存储引擎状态的大量信息，包含死锁日志SHOW ENGINE INNODB STATUS ;# 展示数据库最大连接数的配置SHOW VARIABLES LIKE 'max_connections';# 查看存在哪些触发器SELECT * FROM information_schema.TRIGGERS;# 查看MySQL版本SELECT VERSION();
❝后面我们会主要用前两条。
❞
事故现场
说明
我创建的
user表除了主键是没有其他索引的。测试的
user表数据量为一百万。测试
MySQL版本为5.7.28。测试项目的逻辑：随机get()、list()、update()、create()，每个操作都开启事务，并且休眠500毫秒。
步骤
❝运行测试项目
❞
这里我们可以看到，项目已经正常启动了。
❝❞
postman调用一下接口
这里我们随便测试一个接口，请求时间2秒左右。
❝执行JMeter的Test Plan，观察项目日志
❞
这里我们创建了四个线程组，每个线程组调用一个我们的接口。模拟10个人循环1000次的访问。
这里我们看到该请求频率下，日志无异常。
❝慢SQL日志
❞
这里我们看到，百万级的SQL，如果没加索引SQL执行时间还是比较长的，有的已经达到了2s。另外，关注公众号Java技术栈可以获取更多我整理的MySQL系列优化教程。
❝加个索引，再观察项目日志
❞
这里我们看到，项目已经开始报错了，大量的Connection is not available, request timed out after 30001ms。
❝❞
SHOW PROCESSLIST一下
这里我们看到，有大量的Waiting for table metadata lock。
❝❞
postman再次调用一下接口
这个时候，调用接口已经报错了，响应时间也比较久。此时，服务对用户来说，已经基本不可用了。
为什么会这样？
❝我就想加个索引，怎么就这么难？
❞
看吧，就因为我加了个索引，服务就挂了，我没加之前还是好好的。遇到问题，我们要冷静，不是我们的锅坚决不能背，真的是我们的问题，下次一定要记得改正。那么，此刻的服务为什么就不可用了呢？
首先我们要知道，在InnoDB事务中，锁是在需要的时候才加上的，但并不是不需要了就立刻释放，而是要等到事务结束时才释放。这个就是两阶段锁协议。
然后，在MySQL5.5版本中引入了MDL(Metadata Lock)，当对一个表做增删改查操作的时候，加MDL读锁；当要对表做结构变更操作的时候，加MDL写锁。
我们可以简单的尝试一下下面的情况。
Session A开启一个事务，执行了一个简单的查询语句。此时，Session B，执行另一个查询语句，可以成功。接着，Session C执行了一个DDL操作，加了个字段，因为Session A的事务没有提交，而且Session A持有MDL读锁，Session C获取不到MDL写锁，所以Session C堵塞等待MDL写锁。又由于MDL写锁获取优先级高于MDL读锁，因此Session D这个时候也获取不到MDL读锁，等待Session C获取到MDL写锁之后它才能获取到MDL读锁。
我们发现，DDL操作之前如果存在长事务，一直不提交，DDL操作就会一直被堵塞，还会间接的影响后面其他的查询，导致所有的查询都被堵塞。
这也就是为什么我们把服务干挂的原因了。
目前主流解决方案
针对上面出现的情况，我们怎么解决呢？
MySQL5.6的Online DDL
MySQL从5.6开始，支持Online DDL。类似于这种的语句ALTER TABLE user ADD INDEX idx_test_id (test_id), ALGORITHM=INPLACE, LOCK=NONE在普通的ALTER TABLE或者CREATE INDEX语句后面添加ALGORITHM参数和LOCK参数。
❝实际上，
❞ALTERT TABLE语句如果不加ALGORITHM参数，默认就会选择ALGORITHM=INPLACE的形式，如果执行的语句支持INPLACE，否则，会使用ALGORITHM=COPY。
以前写SQL只会ALTER TABLE不知道后面还可以加ALGORITHM参数，后来知道了Online DDL，知道了可以加ALGORITHM=INPLACE，结果两种写法有的时候是一样的...
这里顺便提一句，学习的途径有很多，但是官网，的确可以多看看。
使用pt-online-schema-change
❝简单说一下怎么安装这个东西
❞
首先官网下载，然后校验以及安装，执行下面命令
perl Makefile.PLmakemake install
然后使用CPAN安装相关依赖（适用Unix），CentOS下直接yum更简单
perl -MCPAN -e shellcpan> install DBIcpan> install DBD::mysql
❝我自己Mac安装没啥问题，公司Mac安装失败了，然后升级了一下Perl版本就可以了。
❞
语法
pt-online-schema-change --charset=utf8 --no-check-replication-filters --no-version-check --user=user --password=pass --host=host_addr P=3306,D=database,t=table --alter "ADD INDEX idx_name(field_name)" --execute
我的脚本添加索引
pt-online-schema-change --charset=utf8 --no-check-replication-filters --no-version-check --user=root --password=mGy6GAzdawFPTJ7R --host=127.0.0.1 P=3306,D=test,t=user --alter "add INDEX idx_test_id(test_id)" --execute
使用pt-osc测试
这里我们看到，pt-osc创建触发器的时候卡在那了。实际上这里也是在等待锁。
最终成功了，但是整个过程时间比较久。过程中我们也发现了一些死锁的日志。
其实，这个跟我的代码有一定的关系，我的测试代码随机数生成的范围是[0, 20000]，然后我根据生成的随机数，去查询数据库，锁的冲突会比较多。把范围修改为[0, 1000000]会好很多。
再看Online DDL
因为刚才我们发现了，自己代码写的有一些问题，所以我们刚才的结论也有一些影响。我们把随机数的范围改到100万，重新测试一遍。
这次Online DDL也成功了。但是也是有一些连接超时的日志。之前的测试如果一直执行下去，也会成功，只不过堵塞时间太长，对用户影响太大，我就停止算执行失败了。
❝实际效果跟机器性能也是有一些关系的，这里的关键点在于拿
❞MDL写锁的等待时间，这个时间稍微久一些就会对用户造成很大的影响。
pt-osc执行过程
创建一个和原表表结构一样的临时表(
_tablename_new)，执行alter修改临时表表结构。在原表上创建3个与
insertdeleteupdate对应的触发器，用于copy数据的过程中，在原表的更新操作，更新到新表。从原表拷贝数据到临时表，拷贝过程中在原表进行的写操作都会更新到新建的临时表。
rename原数据表为old表，把新表rename为原表名，并将old表删除。删除触发器。
这里面创建、删除触发器和rename表的时候都会尝试获取DML写锁，如果获取不到会等待。就是我们看到的Waiting for table metadata lock。
所以，这些时间段如果长时间获取不到锁，就会一直堵塞，还是会出现问题的。
Online DDL执行过程
拿
MDL写锁降级成
MDL读锁真正做
DDL升级成
MDL写锁释放
MDL锁
1、4如果没有锁冲突，执行时间非常短。第3步占用了DDL绝大部分时间，这期间这个表可以正常读写数据，因此称为online。
但是，如果拿锁的时候没拿到，或者升级MDL写锁不能成功，就会等待，我们又会看到Waiting for table metadata lock，然后就接着的一系列问题了。
总结
加个索引，说难也难，说不难也不难。如果数据量大，又存在长事务，加索引的过程又有用户访问，Online DDL和pt-osc都不能保证对业务没有影响。但是如果我们SQL的执行时间比较短，或者我们加索引的时候，对应的业务没有多少请求。那么我们就可以很快的加完索引。
加字段也是类似的过程，但是如果我们能保证没有慢SQL，那么就不会存在长事务，那么执行时间就会很快，对用户就可以做到几乎没有影响。至于选择Online DDL还是pt-osc就要看他们的一些限制以及自己的场景需求了。感兴趣的同学，自己尝试一下。
最后想说
当万丈高楼崩塌的时候，超人也不能将它复原。我们应该做的，是有一个好的规范，好的认知，好的监控，在问题没有出现的时候，就将问题扼杀在摇篮中。而不是让问题，日渐壮大，大到覆水难收...
参考文献：
[1]:《MySQL实战45讲》[2]: https://dev.mysql.com/doc/refman/5.7/en/[3]: https://www.percona.com/doc/percona-toolkit/3.0/pt-online-schema-change.html最近热文：
1、
2、
3、
4、
5、
6、
7、
8、
9、
10、
扫码关注Java技术栈公众号阅读更多干货。
点击「」获取面试题大全～
转载地址：https://javastack.blog.csdn.net/article/details/107649959 如侵犯您的版权，请留言回复原文章的地址，我们会给您删除此文章，给您带来不便请您谅解！
发表评论
最新留言
关于作者
