专栏名称: 数据分析与开发
伯乐在线旗下账号,分享数据库相关技术文章、教程和工具,另外还包括数据库相关的工作。偶尔也谈谈程序员人生 :)
目录
相关文章推荐
数据分析与开发  ·  为 DeepSeek 辟谣:五大误解与真相解读 ·  17 小时前  
数据中心运维管理  ·  2025年AI将改变数据中心建设的本质 ·  2 天前  
数据分析与开发  ·  取代数据岗,某司数据从业人员已集体转行.... ·  3 天前  
AustinDatabases  ·  ORACLE 最终会把 MySQL ... ·  3 天前  
数据中心运维管理  ·  机房巡检必须关注的指标 ·  4 天前  
51好读  ›  专栏  ›  数据分析与开发

MySQL 开发实践 8 问,你能 hold 住几个?

数据分析与开发  · 公众号  · 数据库  · 2017-08-19 21:19

正文

(点击 上方公众号 ,可快速关注)


来源:腾云阁 - 王昂

www.qcloud.com/community/article/233

如有好文章投稿,请点击 → 这里了解详情


最近研发的项目对DB依赖比较重,梳理了这段时间使用MySQL遇到的8个比较具有代表性的问题,答案也比较偏自己的开发实践,没有DBA专业和深入,有出入的请使劲拍砖!…


  1. MySQL读写性能是多少,有哪些性能相关的配置参数?


  2. MySQL负载高时,如何找到是由哪些SQL引起的?


  3. 如何针对具体的SQL做优化?


  4. SQL层面已难以优化,请求量继续增大时的应对策略?


  5. MySQL如何做主从数据同步?


  6. 如何防止DB误操作和做好容灾?


  7. 该选择MySQL哪种存储引擎,Innodb具有什么特性?


  8. MySQL内部结构有哪些层次?


1.MySQL读写性能是多少,有哪些性能相关的重要参数?


这里做了几个简单压测实验


机器:8核CPU,8G内存


表结构(尽量模拟业务):12个字段(1个bigint(20)为自增primary key,5个int(11),5个varchar(512),1个timestamp),InnoDB存储引擎。


实验1(写):insert => 6000/s


前提:连接数100,每次insert单条记录


分析:CPU跑了50%,这时磁盘为顺序写,故性能较高


实验2(写):update(where条件命中索引) => 200/s


前提:连接数100,10w条记录,每次update单条记录的4个字段(2个int(11),2个varchar(512))


分析:CPU跑2%,瓶颈明显在IO的随机写


实验3(读):select(where条件命中索引) => 5000/s


前提:连接数100,10w条记录,每次select单条记录的4个字段(2个int(11),2个varchar(512))


分析:CPU跑6%,瓶颈在IO,和db的cache大小相关


实验4(读):select(where条件没命中索引) => 60/s


前提:连接数100,10w条记录,每次select单条记录的4个字段(2个int(11),2个varchar(512))


分析:CPU跑到80%,每次select都需遍历所有记录,看来索引的效果非常明显!


几个重要的配置参数,可根据实际的机器和业务特点调整

max_connecttions:最大连接数


table_cache:缓存打开表的数量


key_buffer_size:索引缓存大小


query_cache_size:查询缓存大小


sort_buffer_size:排序缓存大小(会将排序完的数据缓存起来)


read_buffer_size:顺序读缓存大小


read_rnd_buffer_size:某种特定顺序读缓存大小(如order by子句的查询)


PS:查看配置方法:show variables like '%max_connecttions%';


2.MySQL负载高时,如何找到是由哪些SQL引起的?


方法:慢查询日志分析(MySQLdumpslow)


慢查询日志例子,可看到每个慢查询SQL的耗时:


# User@Host: edu_online[edu_online] @  [10.139.10.167]

# Query_time: 1.958000  Lock_time: 0.000021 Rows_sent: 254786  Rows_examined: 254786

SET timestamp = 1410883292 ;

select * from t_online_group_records ;


日志显示该查询用了1.958秒,返回254786行记录,一共遍历了254786行记录。及具体的时间戳和SQL语句。


使用MySQLdumpslow进行慢查询日志分析


MySQLdumpslow -s t -t 5 slow_log_20140819.txt


输出查询耗时最多的Top5条SQL语句


-s:排序方法,t表示按时间 (此外,c为按次数,r为按返回记录数等)


-t:去Top多少条,-t 5表示取前5条


执行完分析结果如下:


Count : 1076100 Time = 0.09s (99065s) Lock = 0.00s (76s) Rows = 408.9 (440058825), edu_online[edu_online]@28hosts

select * from t_online_group_records where UNIX_TIMESTAMP (gre_updatetime) > N

Count : 1076099 Time = 0.05s (52340s) Lock = 0.00s (91s) Rows = 62.6 (67324907), edu_online[edu_online]@28hosts

select * from t_online_course where UNIX_TIMESTAMP (c_updatetime) > N

Count : 63889 Time = 0.78s (49607s) Lock = 0.00s (3s) Rows = 0.0 (18), edu_online[edu_online]@[10x.213.1xx.1xx]

select f_uin from t_online_student_contact where f_modify_time > N

Count : 1076097 Time = 0.02s (16903s) Lock = 0.00s (72s) Rows = 52.2 (56187090), edu_online[edu_online]@28hosts

select * from t_online_video_info where UNIX_TIMESTAMP (v_update_time) > N

Count : 330046 Time = 0.02s (6822s) Lock = 0.00s (45s) Rows = 0.0 (2302), edu_online[edu_online]@4hosts

select uin,cid,is_canceled, unix_timestamp (end_time) as endtime, unix_timestamp (update_time) as updatetime

from t_kick_log where unix_timestamp (update_time) > N


以第1条为例,表示这类SQL(N可以取很多值,这里MySQLdumpslow会归并起来)在8月19号的慢查询日志内出现了1076100次,总耗时99065秒,总返回440058825行记录,有28个客户端IP用到。


通过慢查询日志分析,就可以找到最耗时的SQL,然后进行具体的SQL分析了


慢查询相关的配置参数


log_slow_queries:是否打开慢查询日志,得先确保=ON后面才有得分析


long_query_time:查询时间大于多少秒的SQL被当做是慢查询,一般设为1S


log_queries_not_using_indexes:是否将没有使用索引的记录写入慢查询日志


slow_query_log_file:慢查询日志存放路径


3.如何针对具体的SQL做优化?


使用Explain分析SQL语句执行计划


MySQL > explain select * from t_online_group_records where UNIX_TIMESTAMP (gre_updatetime) > 123456789;

+----+-------------+------------------------+------+---------------+------+---------+------+------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+------------------------+------+---------------+------+---------+------+------+-------------+

| 1 | SIMPLE | t_online_group_records | ALL | NULL | NULL | NULL | NULL | 47 | Using where |

+----+-------------+------------------------+------+---------------+------+---------+------+------+-------------+

1 row in set (0.00 sec)


如上面例子所示,重点关注下type,rows和Extra:


type:使用类别,有无使用到索引。结果值从好到坏:… > range(使用到索引) > index > ALL(全表扫描),一般查询应达到range级别


rows:SQL执行检查的记录数


Extra:SQL执行的附加信息,如”Using index”表示查询只用到索引列,不需要去读表等


使用Profiles分析SQL语句执行时间和消耗资源


MySQL > set profiling = 1; (启动profiles,默认是没开启的)

MySQL > select count (1) from t_online_group_records where UNIX_TIMESTAMP (gre_updatetime) > 123456789; (执行要分析的 SQL 语句)

MySQL > show profiles;

+----------+------------+----------------------------------------------------------------------------------------------+

| Query_ID | Duration | Query |

+----------+------------+----------------------------------------------------------------------------------------------+

| 1 | 0.00043250 | select count (1) from t_online_group_records where UNIX_TIMESTAMP (gre_updatetime) > 123456789 |

+----------+------------+----------------------------------------------------------------------------------------------+

1 row in set (0.00 sec)

MySQL > show profile cpu,block io for query 1; (可看出 SQL 在各个环节的耗时和资源消耗)

+----------------------+----------+----------+------------+--------------+---------------+

| Status | Duration | CPU_user | CPU_system | Block_ops_in | Block_ops_out |

+----------------------+----------+----------+------------+--------------+---------------+

...

| optimizing | 0.000016 | 0.000000 | 0.000000 | 0 | 0 |

| statistics | 0.000020 | 0.000000 | 0.000000 | 0 | 0 |

| preparing | 0.000017 | 0.000000 | 0.000000 | 0 | 0 |

| executing | 0.000011 | 0.000000 | 0.000000 | 0 | 0 |

| Sending data | 0.000076 | 0.000000 | 0.000000 | 0 | 0 |

...


SQL优化的技巧 (只提一些业务常遇到的问题)


最关键:索引,避免全表扫描。


对接触的项目进行慢查询分析,发现TOP10的基本都是忘了加索引或者索引使用不当,如索引字段上加函数导致索引失效等(如where UNIX_TIMESTAMP(gre_updatetime)>123456789)


+----------+------------+---------------------------------------+

| Query_ID | Duration | Query |

+----------+------------+---------------------------------------+

| 1 | 0.00024700 | select * from mytable where id = 100 |

| 2 | 0.27912900 | select * from mytable where id +







请到「今天看啥」查看全文