1.1 前言

     在进行MySQL的优化之前必须要了解的就是MySQL的查询过程,很多的查询优化工作实际上就是遵循一些原则让MySQL的优化器能够按照预想的合理方式运行而已。更多关于MySQL查询相关参照:http://www.cnblogs.com/clsn/p/8038964.html#_label6 系列文章。

1.2 优化的哲学

1.2.1 优化可能带来的问题

优化不总是对一个单纯的环境进行,还很可能是一个复杂的已投产的系统。

优化手段本来就有很大的风险,只不过你没能力意识到和预见到!

任何的技术可以解决一个问题,但必然存在带来一个问题的风险!

对于优化来说解决问题而带来的问题,控制在可接受的范围内才是有成果。

保持现状或出现更差的情况都是失败!

1.2.2 优化的需求

稳定性和业务可持续性,通常比性能更重要!

优化不可避免涉及到变更,变更就有风险!

优化使性能变好,维持和变差是等概率事件!

切记优化,应该是各部门协同,共同参与的工作,任何单一部门都不能对数据库进行优化!

所以优化工作,是由业务需要驱使的!!!

1.2.3 优化由谁参与

  在进行数据库优化时,应由数据库管理员、业务部门代表、应用程序架构师、应用程序设计人员、应用程序开发人员、硬件及系统管理员、存储管理员等,业务相关人员共同参与。 

1.3 优化思路

1.3.1 优化什么

在数据库优化上有两个主要方面:即安全与性能。

  安全 -–> 数据可持续性

  性能 -–> 数据的高性能访问

1.3.2 优化的范围有哪些

存储、主机和操作系统方面:

<p class="a">
  &nbsp;&nbsp;&nbsp; I/O规划及配置
</p>

<p class="a">
  &nbsp;&nbsp;&nbsp; Swap交换分区
</p>

<p class="a">
  &nbsp;&nbsp;&nbsp; OS内核参数和网络问题
</p>

应用程序方面:

<p class="a">
  &nbsp;&nbsp;&nbsp; SQL语句性能
</p>

<p class="a">
  &nbsp;&nbsp;&nbsp; 串行访问资源
</p>

<p class="a">
  &nbsp;&nbsp;&nbsp; 性能欠佳会话管理
</p>

<p class="a">
  &nbsp;&nbsp;&nbsp; 这个应用适不适合用MySQL
</p>

数据库优化方面:

<p class="a">
  &nbsp;&nbsp;&nbsp; 数据库结构(物理&逻辑)
</p>

<p class="a">
  &nbsp;&nbsp;&nbsp; 实例配置
</p>

    说明:不管是在,设计系统,定位问题还是优化,都可以按照这个顺序执行。

1.3.3 优化维度

数据库优化维度有四个:

    硬件、系统配置、数据库表结构、SQL及索引

   优化选择

<p class="a">
    优化效果:硬件<系统配置<数据库表结构<SQL及索引
</p>

1.4 优化工具有啥?

1.4.1 数据库层面

检查问题常用工具

不常用但好用的工具

     关于zabbix参考:http://www.cnblogs.com/clsn/p/7885990.html

1.4.2 数据库层面问题解决思路

一般应急调优的思路:

针对突然的业务办理卡顿,无法进行正常的业务处理!需要立马解决的场景!

<p class="a">
  2、explain&nbsp; select id ,name from stu where name='clsn'; # ALL &nbsp;id name age&nbsp; sex
</p>

<p class="a">
  &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; select id,name from stu&nbsp; where id=2-1 函数 结果集>30;
</p>

<p class="a">
      show index from table;
</p>

<p class="a">
  3、通过执行计划判断,索引问题(有没有、合不合理)或者语句本身问题
</p>

<p class="a">
  4、show status&nbsp; like '%lock%';&nbsp;&nbsp;&nbsp; # 查询锁状态
</p>

<p class="a">
    kill SESSION_ID;&nbsp;&nbsp; # 杀掉有问题的session
</p>

常规调优思路:

针对业务周期性的卡顿,例如在每天10-11点业务特别慢,但是还能够使用,过了这段时间就好了。

<p class="a">
  2、按照一定优先级,进行一个一个的排查所有慢语句。
</p>

<p class="a">
  3、分析top sql,进行explain调试,查看语句执行时间。
</p>

<p class="a">
  4、调整索引或语句本身。
</p>

1.4.3 系统层面

cpu方面

内存

IO设备(磁盘、网络)

vmstat 命令说明:

iostat****命令说明

1.4.4 系统层面问题解决办法

  你认为到底负载高好,还是低好呢?

    在实际的生产中,一般认为 cpu只要不超过**90%**都没什么问题 。

当然不排除下面这些特殊情况:

问题一:cpu负载高,IO负载

<p class="a">
  磁盘性能差
</p>

<p class="a">
  SQL问题&nbsp; ------>去数据库层,进一步排查sql问题
</p>

<p class="a">
  IO出问题了(磁盘到临界了、raid设计不好、raid降级、锁、在单位时间内tps过高)
</p>

<p class="a">
  tps过高: 大量的小数据IO、大量的全表扫描
</p>

问题二:IO负载高,cpu负载低

_大量小的IO _写操作:

  autocommit   ,产生大量小IO

  IO/PS,磁盘的一个定值,硬件出厂的时候,厂家定义的一个每秒最大的IO次数。

_大量大的IO _写操作

  SQL问题的几率比较大

问题三:IO和cpu负载都很高

硬件不够了或sql存在问题

1.5 基础优化

1.5.1 优化思路

定位问题点吮吸

  硬件 –> 系统 –> 应用 –> 数据库 –> 架构(高可用、读写分离、分库分表)

处理方向

  明确优化目标、性能和安全的折中、防患未然

1.5.2 硬件优化

主机方面:

<p class="a">
  &nbsp; 平衡内存和磁盘资源
</p>

<p class="a">
  &nbsp; 随机的I/O和顺序的I/O
</p>

<p class="a">
  &nbsp; 主机 RAID卡的BBU(Battery Backup Unit)关闭
</p>

cpu的选择:

<p class="a">
  &nbsp;&nbsp;&nbsp; 根据不同的业务类型进行选择:
</p>

<p class="a">
  &nbsp;&nbsp;&nbsp; cpu密集型:计算比较多,OLTP&nbsp;&nbsp;&nbsp; &nbsp;主频很高的cpu、核数还要多
</p>

<p class="a">
  &nbsp;&nbsp;&nbsp; IO密集型:查询比较,OLAP&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;核数要多,主频不一定高的
</p>

内存的选择:

<p class="a">
  &nbsp;&nbsp;&nbsp; OLTP类型数据一般内存是cpu核心数量的2倍到4倍,没有最佳实践。
</p>

存储方面:

<p class="a">
  配置合理的RAID级别(raid5、raid10、热备盘)
</p>

<p class="a">
  对与操作系统来讲,不需要太特殊的选择,最好做好冗余(raid1)(ssd、sas 、sata)
</p>

<p class="a">
  <span style="text-decoration: underline;"><strong><em>raid</em></strong><strong><em>卡:主机raid</em></strong><strong><em>卡选择:</em></strong></span>
</p>

<p class="a">
  &nbsp;&nbsp;&nbsp;   实现操作系统磁盘的冗余(raid1)
</p>

<p class="a">
     平衡内存和磁盘资源
</p>

<p class="a">
     随机的I/O和顺序的I/O
</p>

<p class="a">
     主机 RAID卡的BBU(Battery Backup Unit)要关闭。
</p>

网络设备方面:

    注意:以上这些规划应该在初始设计系统时就应该考虑好。

1.5.3 服务器硬件优化

  1、物理状态灯:

  2、自带管理设备:远程控制卡(FENCE设备:ipmi ilo idarc),开关机、硬件监控。

  3、第三方的监控软件、设备(snmp、agent)对物理设施进行监控

  4、存储设备:自带的监控平台。EMC2(hp收购了), 日立(hds),IBM低端OEM hds,高端存储是自己技术,华为存储

1.5.4 系统优化

Cpu:

内存:

SWAP:

<p class="a">
  阿里云的服务器中默认swap为0
</p>

IO :

Swap****调整(不使用swap__分区)

  当然,这个参数只能减少使用swap的概率,并不能避免Linux使用swap。

修改MySQL的配置参数innodb_flush_method,开启O_DIRECT****模式。

  这种情况下,InnoDB的buffer pool会直接绕过文件系统cache来访问磁盘,但是redo log依旧会使用文件系统cache。

  值得注意的是,Redo log是覆写模式的,即使使用了文件系统的cache,也不会占用太多

IO****调度策略

   永久修改

1.5.5 系统参数调整

Linux系统内核参数优化

用户限制参数(mysql可以不设置以下配置)

1.5.6 应用优化

  业务应用和数据库应用独立,

    防火墙:iptables、selinux等其他无用服务(关闭):

  安装图形界面的服务器不要启动图形界面  runlevel 3 

  另外,思考将来我们的业务是否真的需要MySQL,还是使用其他种类的数据库。用数据库的最高境界就是不用数据库。

1.6 数据库优化

SQL优化方向:

架构优化方向:

1.6.1 数据库参数优化

调整:

  实例整体(高级优化,扩展):

连接层(基础优化)

   设置合理的连接客户和连接方式

SQL层(基础优化)

1.6.2 存储引擎层(innodb基础优化参数)

1.7 参考文献

<p class="a">
  [2]&nbsp;&nbsp;<a href="https://www.jianshu.com/p/d7665192aaaf">https://www.jianshu.com/p/d7665192aaaf</a>
</p>

 

<li>
  <a href="#13">1.3 优化思路</a><ul>
    <li>
      <a href="#131">1.3.1 优化什么</a>
    </li>
    <li>
      <a href="#132">1.3.2 优化的范围有哪些</a>
    </li>
    <li>
      <a href="#133">1.3.3 优化维度</a>
    </li>
  </ul>
</li>

<li>
  <a href="#14">1.4 优化工具有啥?</a><ul>
    <li>
      <a href="#141">1.4.1 数据库层面</a>
    </li>
    <li>
      <a href="#142">1.4.2 数据库层面问题解决思路</a>
    </li>
    <li>
      <a href="#143">1.4.3 系统层面</a>
    </li>
    <li>
      <a href="#144">1.4.4 系统层面问题解决办法</a>
    </li>
  </ul>
</li>

<li>
  <a href="#15">1.5 基础优化</a><ul>
    <li>
      <a href="#151">1.5.1 优化思路</a>
    </li>
    <li>
      <a href="#152">1.5.2 硬件优化</a>
    </li>
    <li>
      <a href="#153">1.5.3 服务器硬件优化</a>
    </li>
    <li>
      <a href="#154">1.5.4 系统优化</a>
    </li>
    <li>
      <a href="#155">1.5.5 系统参数调整</a>
    </li>
    <li>
      <a href="#156">1.5.6 应用优化</a>
    </li>
  </ul>
</li>

<li>
  <a href="#16">1.6 数据库优化</a><ul>
    <li>
      <a href="#161">1.6.1 数据库参数优化</a>
    </li>
    <li>
      <a href="#162_innodb">1.6.2 存储引擎层(innodb基础优化参数)</a>
    </li>
  </ul>
</li>

<li>
  <a href="#17">1.7 参考文献</a>
</li>