一、数据库调优的措施

1.1、调优的目标

• 尽可能节省系统资源，以便系统可以提供更大负荷的服务。（吞吐量更大）
• 合理的结构设计和参数调整，以提高用户操作响应的速度。（响应速度更快）
• 减少系统的瓶颈，提高MySQL数据库整体的性能。

1.2、如何定位调优问题

• 用户的反馈（主要）
• 日志分析（主要）
  • 可以通过查看数据库日志和操作系统日志风方式找出异常情况，通过它们定位遇到的问题
• 服务器资源使用监控
  • 通过监控服务器的CPU、内存、I/O等使用情况，可以实时了解服务器的性能使用，与历史情况进行对比
• 数据库内部状况监控
  • 在数据库的监控中，活动会话（Active Session）监控是一个重要的指标。通过它，可以清楚地了解数据库当前是否处于非常繁忙地状态，是否存在SQL堆积等
• 其它
  • 除了活动会话监控以外，我们也可以对事务、锁等待 等进行监控

1.3、调优的维度和步骤

第 1 步：选择适合的 DBMS

??如果对事务性出路以及安全性要求高的话，可以选择商用的数据库产品。这些产品在事务处理和查询性能上都比较强。如果数据表设计得好，即使不采用分库技术的方式，查询效率也不差。除此之外，也可以采用开源的MySQL进行存储，它有很多存储引擎可以选择，如果进行事务处理的话可以选择InnoDB，非事务处理可以选择MyISAM。NoSQL阵营包括键值型数据库、文档型数据库、搜索引擎、列式存储和图形数据库。这些数据库的优缺点和使用场景各不相同，比如列式存储数据库可以大幅度降低系统的I/O，适合于分布式文件系统，但如果数据需要频繁地增删改，那么列式存储就不太使用了。

第 2 步：优化表设计

??表结构要尽量遵循三范式的原则。这样可以让数据结构更加清晰规范，减少冗余字段，同时也减少了在更新，插入和删除数据时等异常情况的发生。如果查询应用比较多，尤其是需要进行多表联查的时候，可以采用反范式化进行优化。反范式采用空间换时间的方式，通过增加冗余字段提高查询的效率。表的字段数据类型选择，关系到了查询效率的高低以及存储空间的大小。一般来说，如果字段可以采用数值类型就不要采用字符类型；字符长度要尽可能设计得短一些。针对字符类型来说，当确定字符长度固定时，就可以采用CHAR类型；当长度不固定时，通常采用VARCHAR类型。

第 3 步：优化查询逻辑

??SQL查询优化，可以分为逻辑查询优化和物理查询优化。逻辑查询优化就是通过改变SQL语句的内容让SQL执行效率更高效，采用的方式是对SQL语句进行等价交换，对查询进行重写。SQL的查询优化重写包括了子查询优化，等价谓词重写、视图重写、条件简化、连接消除和嵌套连接消除等。

第 4 步：物理查询优化

??物理查询优化是在确定了逻辑查询优化之后，采用物理优化技术（比如索引等），通过计算代价模型对各种可能的访问路径进行估算，从而找到执行方式中代价最小的作为执行计划。在这个部分中，我们需要掌握的重点是对索引的创建和使用。但索引不是万能的，我们需要根据实际情况来创建索引。SQL查询时需要对不同的数据表进行查询，因此在物理查询优化阶段也需要确定这些查询所采用的路径。具体的情况如下：

• 单表扫描：对于单表扫描来说，我们可以通过全表扫描所有的数据，也可以局部扫描
• 两张表的连接：常用的连接方式包括了嵌套循环连接、HASH连接和合并连接
• 多张表的连接：多张数据表进行连接的时候，顺序很重要，因为不同的连接路径查询的效率不同，搜索空间也会不同。我们在进行多表连接的时候，搜索空间可能会达到很高的数据量级，巨大的搜索空间显然会占用更多的资源，因此我们需要通过调整连接顺序，将搜索空间调整在一个可接受的范围内。

第 5 步：使用 Reis 或 Memcached 作为缓存

??除了可以对 SQL 本身进行优化以外，我们还可以请外援提升查询的效率。因为数据都是存放到数据库中，我们需要从数据库层中取出数据放到内存中进行业务逻辑的操作，当用户量增大的时候，如果频繁地进行数据查询，会消耗数据库的很多资源。如果我们将常用的数据直接放到内存中，就会大幅提升查询的效率。键值存储数据库可以帮我们解决这个问题。常用的键值存储数据库有 Redis 和 Memcached，它们都可以将数据存放到内存中。

??从可靠性来说，Redis支持持久化，可以让我们的数据库保存在硬盘上，不过这样一来，性能消耗也会比较大。而 Memcached 仅仅是内存存储，不支持持久化。从支持的数据类型来说，Reids 比 Memcached 要多，它不仅支持 key-value 类型的数据，还支持 List，Set，Hash 等数据结构。当我们持久化需求或者更高级的数据处理需求的时候，就可以使用 Redis。如果是简单的 key-value存储，则可以使用 Memcached。

??通常我们对于查询响应要求高的场景（响应时间短，吞吐量大），则可以考虑内存数据库。传统的 RDBMS 都是将数据存储在硬盘上，而内存数据库则存放在内存中，查询起来要快得多，不过使用不同的工具，也增加了开发人员的使用成本。

第 6 步：库级优化

??库级优化是站在数据库的维度上进行的优化策略，比如控制一个库中的数据表数量。另外，单一的数据库总会遇到各种限制，不如取长补短，利用“外援”的方式。通过主从架构优化我们的读写策略，通过对数据库进行垂直或者水平切分，突破单一数据库或数据表的访问限制，提升查询的性能。

• 读写分离
  • 如果读和写的业务量都很大，并且它们都在同一个数据路服务器中进行操作，那么数据库的性能就会出现瓶颈，这时为了提高系统的性能，优化用户体验，我们可以采用读写分离的方式降低主数据库的负载，比如用主数据库（master）完成写操作，用从数据库（slave）完成读操作。
• 数据分片
  • 对数据库分库分表。当数据量级达到千万级以上时，有时候我们需要把一个数据库切成多份，放到不同的数据库服务器上，减少对单一数据库服务器的访问压力。如果我们使用的是 MySQL，就可以使用 MySQL 自带的分区表功能，当然也可以考虑从自己做垂直拆分（分库）、水平拆分（分表）、垂直+水平拆分（分库分表）。

二、优化MySQL服务器

??优化MySQL服务器主要从两个方面来优化，一方面是对硬件进行优化；另一方面是对MySQL服务的参数进行优化。

2.1、优化服务器硬件

??服务器的硬件性能直接决定着MySQL数据库的性能。硬件的性能瓶颈直接决定MySQL数据库的运行速度和效率。针对性能瓶颈提高硬件配置，可以提高MySQL数据库查询、更新的速度。

• 配置较大的内存
  • 内存的速度比磁盘I/O快得多，可以通过增加系统的缓冲区容量使数据在内存中停留的时间更长，以减少磁盘I/O
• 配置高速磁盘系统
  • 以减少读盘的等待时间，提高响应速度。
• 合理分布磁盘I/O
  • 把磁盘I/O分散在多个设备上，以减少资源竞争，提高并行操作能力
• 配置多处理器
  • MySQL是多线程的数据库，多处理器可同时执行多个线程

2.2、优化MySQL参数

??通过优化 MySQL 的参数可以提高资源利用率，从而达到提高 MySQL 服务器性能的目的。

• innodb_buffer_pool_size
  • 这个参数是Mysql数据库最重要的参数之一，表示InnoDB类型的表和索引的最大缓存。它不仅仅缓存索引数据，还会缓存表的数据。这个值越大，查询的速度就会越快。但是这个值太大会影响操作系统的性能。
• key_buffer_size
  • 表示索引缓冲区的大小。索引缓冲区是所有的线程共享。增加索引缓冲区可以得到更好处理的索引（所有读和多重写）。当然，这个值不是越大越好，它的大小取决于内存的大小。如果这个值太大，就会导致操作系统频繁换页，也会降低系统性能。对于内存在 4GB 左右的服务器该参数可设置为 256M 或 384M 。
• table_cache
  • 表示同时打开的表的个数。这个值越大，能够同时打开的表的个数越多。物理内存越大，设置就越大。默认为2402，调到512-1024最佳。这个值不是越大越好，因为同时打开的表太多会影响操作系统的性能。
• query_cache_size
  • 表示查询缓冲区的大小。可以通过在MySQL控制台观察，如果Qcache_lowmem_prunes的值非常大，则表明经常出现缓冲不够的情况，就要增加Query_cache_size的值；如果Qcache_hits的值非常大，则表明查询缓冲使用非常频繁，如果该值较小反而会影响效率，那么可以考虑不用查询缓存；Qcache_free_blocks，如果该值非常大，则表明缓冲区中碎片很多。MySQL8.0之后失效。该参数需要和query_cache_type配合使用。
  • query_cache_type 的值是0时，所有的查询都不使用查询缓存区。但是query_cache_type=0并不会导致MySQL释放query_cache_size所配置的缓存区内存。
  • 当query_cache_type=1时，所有的查询都将使用查询缓存区，除非在查询语句中指定SQL_NO_CACHE ，如SELECT SQL_NO_CACHE * FROM tbl_name。
  • 当query_cache_type=2时，只有在查询语句中使用 SQL_CACHE 关键字，查询才会使用查询缓存区。使用查询缓存区可以提高查询的速度，这种方式只适用于修改操作少且经常执行相同的查询操作的情况。
• sort_buffer_size
  • 表示每个需要进行排序的线程分配的缓冲区的大小。增加这个参数的值可以提高 ORDER BY 或 GROUP BY 操作的速度。默认数值是2 097 144字节（约2MB）。对于内存在4GB左右的服务器推荐设置为6-8M，如果有100个连接，那么实际分配的总共排序缓冲区大小为100 × 6 ＝ 600MB。
• join_buffer_size
  • 表示联合查询操作所能使用的缓冲区大小，和sort_buffer_size一样，该参数对应的分配内存也是每个连接独享。
• read_buffer_size
  • 表示每个线程连续扫描时为扫描的每个表分配的缓冲区的大小（字节）。当线程从表中连续读取记录时需要用到这个缓冲区。SET SESSION read_buffer_size=n可以临时设置该参数的值。默认为64K，可以设置为4M。
• innodb_flush_log_at_trx_commit
  • 表示何时将缓冲区的数据写入日志文件，并且将日志文件写入磁盘中。该参数对于innoDB引擎非常重要。该参数有3个值，分别为0、1和2。该参数的默认值为1。
  • 值为 0 时，表示 每秒1次 的频率将数据写入日志文件并将日志文件写入磁盘。每个事务的commit并不会触发前面的任何操作。该模式速度最快，但不太安全，mysqld进程的崩溃会导致上一秒钟所有事务数据的丢失。
  • 值为 1 时，表示 每次提交事务时 将数据写入日志文件并将日志文件写入磁盘进行同步。该模式是最安全的，但也是最慢的一种方式。因为每次事务提交或事务外的指令都需要把日志写入（flush）硬盘。
  • 值为 2 时，表示 每次提交事务时 将数据写入日志文件， 每隔1秒 将日志文件写入磁盘。该模式速度较快，也比0安全，只有在操作系统崩溃或者系统断电的情况下，上一秒钟所有事务数据才可能丢失。
• innodb_log_buffer_size
  • 这是InnoDB存储引擎的事务日志所使用的缓冲区。为了提高性能，也是先将信息写入 Innodb Log Buffer 中，当满足 innodb_flush_log_trx_commit 参数所设置的相应条件（或者日志缓冲区写满）之后，才会将日志写到文件（或者同步到磁盘）中。
• max_connections
  • 表示允许连接到MySQL数据库的最大数量，默认值是 151 。如果状态变量 connection_errors_max_connections 不为零，并且一直增长，则说明不断有连接请求因数据库连接数已达到允许最大值而失败，这是可以考虑增大max_connections 的值。在Linux 平台下，性能好的服务器，支持 500-1000 个连接不是难事，需要根据服务器性能进行评估设定。这个连接数 不是越大 越好 ，因为这些连接会浪费内存的资源。过多的连接可能会导致MySQL服务器僵死。
• back_log
  • 用于控制MySQL监听TCP端口时设置的积压请求栈大小。如果 MySql 的连接数达到 max_connections 时，新来的请求将会被存在堆栈中，以等待某一连接释放资源，该堆栈的数量即 back_log，如果等待连接的数量超过 back_log，将不被授予连接资源，将会报错。5.6.6 版本之前默认值为 50 ， 之后的版本默认为 50 + （max_connections / 5）， 对于Linux系统推荐设置为小于512的整数，但最大不超过900。如果需要数据库在较短的时间内处理大量连接请求， 可以考虑适当增大 back_log 的值。
• thread_cache_size
  • 表示线程池缓存线程数量的大小，当客户端断开连接后将当前线程缓存起来，当在接到新的连接请求时快速响应无需创建新的线程 。这尤其对那些使用短连接的应用程序来说可以极大的提高创建连接的效率。那么为了提高性能可以增大该参数的值。默认为60，可以设置为120。当 Threads_cached 越来越少，但 Threads_connected 始终不降，且 Threads_created 持续升高，可适当增加 thread_cache_size 的大小。
• wait_timeout
  • 指定一个请求的最大连接时间，对于4GB左右内存的服务器可以设置为5-10。
• interactive_timeout
  • 表示服务器在关闭连接前等待行动的秒数。

三、优化数据库结构

??一个好的数据库设计方案对于数据库的性能常常会起到事半功倍的效果。合理的数据库结构不仅可以使数据库占用更小的磁盘空间，而且能够使查询的速度很快。数据库结构的设计需要考虑数据冗余、查询和更新的速度、字段的数据类型是否合理等多方面的内容。

3.1、拆分表：冷热数据分离

??拆分表的思路是，把 1 个包含很多字段的表拆分成 2 个或者相对较小的表。这样做的原因是，这些表中某些字段的使用频率很高（热数据），经常要进行查询或者更新操作，而另外一些字段的使用频率却很低（冷数据），冷热数据分离，可以减少表的宽度。如果放在一个表里面，每次查询都要读取大记录，会消耗较多的资源。

??MySQL限制每个表最多存储4096列，并且每一行数据的大小不能超过65535字节。表越宽，把表装载进内存缓冲池时所占用的内存也就越大，也会消耗更多的IO。冷热数据分离的目的是：①减少磁盘IO，保证热数据的内存缓存命中率。②更有效的利用缓存，避免读入无用的冷数据。

3.2、增加中间表

??对于需要经常联合的表，可以建立中间表以提高查询的效率。通过建立中间表，把需要经常联合查询的数据插入中间表中，然后将原来的联合查询改为对中间表的查询，以此来提高查询的效率。首先，分析经常联合查询表中的字段；然后，使用这些字段建立一个中间表，并将原来联合查询的表的数据插入中间表中；最好，使用中间表进行查询。

3.3、增加冗余字段

??设计数据库表时应尽量遵循范式理论的规约，尽可能减少冗余字段，让数据库设计看起来精致、优雅。但是，合理地加入冗余字段可以提高查询速度。表的规范化程度越高，表于表之间的关系就越多，需要连接查询的情况也就越多。尤其在数据量大，而且需要频繁进行连接的时候，为了提升效率，我们也可以考虑增加冗余字段来减少连接。

3.4、优化数据类型

??改进表的设计时，可以考虑优化字段的数据类型，优先选择符合存储需要的最小的数据类型。列的字段越大，建立索引时所需要的空间也就越大。这样一页中所能存储的索引节点的数量也就越少，在遍历时所需要的IO次数也就越多，索引的性能也就越差。

• 对整数类型数据进行优化
  • 遇到整数类型的字段就可以用INT类型。对于非负型的数据来说，要优先使用无符号整型UNSIGNED来存储。因为无符号相对于有符号，同样的字节数，存储的数值范围更大。
• 既可以使用文本类型也可以使用整数类型的字段，要选择使用整数类型。
  • 跟文本类型相比，大整数往往占用更少的存储空间。因此，在存取和比对的时候，可以占用更少的内存空间。所以，在两者皆可用的情况下，尽量使用整数类型，这样可以提高查询的效率。
• 避免使用TEXT、BLOB数据类型。
  • MySQL 内存临时表 不支持TEXT、BLOB这样的大数据类型，如果查询中包含这样的字段，在排序等操作时，就不能使用内存临时表，必须使用磁盘临时表进行。并且对于这种数据类型，MySQL还是要进行二次查询，会式SQL的性能变得很差，但是不是说一定不能使用这样的数据类型。如果一定要使用，建议把BLOB或者TEXT列分离到单独的扩展表中，查询的时候一定不要使用“select * ”，而只需要取出必须的列，不需要TEXT列的数据时不要对该列进行查询。避免使用
• 避免使用ENUM类型
  • 修改ENUM值需要使用ALTER语句。ENUM类型的ORDER BY操作效率低，需要额外操作。使用TINYINT来代替ENUM类型。
• 使用TIMESTAMP存储时间
  • TIMESTAMP存储的时间范围1970-01-01 00:00:01 ~ 2038-01-19 03:14:07。TIMESTAMP使用4字节，DATETIME使用8个字节，同时TIMESTAMP具有自动赋值以及自动更新的特性。
• 使用DECIMAL代替FLOAT和DOUBLE存储精确浮点数
  • DECIMAL类型为精准浮点数，在计算时不会丢失精度，尤其是财务相关的金融类数据。占用空间有定义的宽度决定，每4个字节可以存储9位数字，并且小数点要占用一个字节。可用于存储比BIGINT更大的整形数据。

3.5、优化插入记录的速度

??插入记录时，影响插入速度的主要是索引、唯一性校验、一次插入记录条数等。根据这些情况可以分别进行优化。

MyISAM引擎的表

• 禁用索引
  • 对于非空表，插入记录时，MySQL会根据表的索引对插入的记录建立索引。如果插入大量数据，建立索引就会降低插入记录的速度。为了解决这种情况，可以在插入记录之前禁用索引，数据插入完毕之后再开启索引。若对于空表批量导入数据，则不需要进行此操作，唯一MyISAM引擎的表是在导入数据之后才建立索引的。
  • 禁用索引的语句如下：ALTER TABLE table_name DISABLE KEYS;
  • 开启索引的语句如下：ALTER TABLE table_name ENABLE KEYS;
• 禁用唯一性检查
  • 插入数据时，MySQL会对插入的记录进行唯一性校验。这种唯一性校验会降低插入记录的速度。为了降低这种情况对查询速度的影响，可以在插入数据之前禁用唯一性检查，等到记录插入完毕后再开启。
  • 禁用唯一性检查的语法如下：SET UNIQUE_CHECKS = 0;
  • 开启唯一性检查的语法如下：SET UNIQUE_CHECKS = 1;
• 使用批量插入
  • 插入多条记录时，可以使用一条INSERT语句插入一条记录，也可以使用一条INSERT语句插入多条记录。使用一条INSERT语句插入多条记录的插入速度要比多次使用一条INSERT语句插入一条记录快。
• 使用LOAD DATA INFILE批量导入
  • 当需要批量导入数据时，如果可以使用LOAD DATA INFILE语句，就尽量使用。因为LOAD DATA INFILE语句导入数据的速度比INSERT语句快。

InnoDB引擎的表

• 禁用唯一性检查
  • 插入数据之前执行SET UNIQUE_CHECKS = 0来禁止对唯一索引的检查，数据导入完成之后再运行SET UNIQUE_CHECKS = 1。
• 禁用外键检查
  • 插入数据之前执行禁止对外键的检查，数据插入完成之后再恢复对外键的检查。
  • 禁用外键检查的语句如下：SET foreign_key_checks = 0;
  • 恢复外键检查的语句如下：SET foreign_key_checks = 1;
• 禁用自动提交
  • 插入数据之前禁止事务的自动提交，数据导入完成之后，执行恢复自动提交操作。
  • 禁止自动提交的语句如下：SET autocommit = 0;
  • 恢复自动提交的语句如下：SET autocommit = 1;

3.6、使用非空约束

??在设计字段的时候，如果业务允许，建议尽量使用非空约束。这样做的好处是：

• 进行比较和计算时，省去要对NULL值的字段判断为否为空的开销，提过存储效率
• 非空字段也容易创建索引。因为索引NULL列需要额外的空间来保存，所以要占用更多的空间。使用非空约束，就可以节省存储空间（每个字段 1 个 bit）

3.7、 分析表、检查表与优化表

??MySQL提供了分析表、检查表和优化表的语句。分析表主要是分析关键字的分布，检查表主要检查表是否存在错误，优化表主要是消除删除或者更新造成的空间浪费。

3.7.1、分析表

??MySQL中提供了ANALYZE TABLE语句分析表，ANALYZE TABLE语句的基本语法如下：

ANALYZE [LOCAL | NO_WRITE_TO_BINLOG] TABLE tbl_name[,tbl_name]

??默认的，MySQL服务会将 ANALYZE TABLE语句写到binlog中，以便在主从架构中，从服务能够同步数据。可以添加参数LOCAL 或者 NO_WRITE_TO_BINLOG取消将语句写到binlog中。使用ANALYZE TABLE分析表的过程中，数据库系统会自动对表加一个只读锁。在分析期间，只能读取表中的记录，不能更新和插入记录。ANALYZE TABLE语句能够分析InnoDB和MyISAM类型的表，但是不能作用于视图。ANALYZE TABLE分析后的统计结果会反应到 cardinality 的值，该值统计了表中某一键所在的列不重复的值的个数。该值越接近表中的总行数，则在表连接查询或者索引查询时，就越优先被优化器选择使用。也就是索引列的cardinality的值与表中数据的总条数差距越大，即使查询的时候使用了该索引作为查询条件，存储引擎实际查询的时候使用的概率就越小。下面通过例子来验证下。cardinality可以通过SHOW INDEX FROM 表名查看。

3.7.2、检查表

??MySQL中可以使用CHECK TABLE语句来检查表。CHECK TABLE语句能够检查InnoDB和MyISAM类型的表是否存在错误。CHECK TABLE语句在执行过程中也会给表加上只读锁。对于MyISAM类型的表，CHECK TABLE语句还会更新关键字统计数据。而且，CHECK TABLE也可以检查视图是否有错误，比如在视图定义中被引用的表已不存在。该语句的基本语法如下：

CHECK TABLE tbl_name [, tbl_name] ... [option] ... 
option = {QUICK | FAST | MEDIUM | EXTENDED | CHANGED}

??其中，tbl_name是表名；option参数有5个取值，分别是QUICK、FAST、MEDIUM、EXTENDED和 CHANGED。各个选项的意义分别是：

• QUICK：不扫描行，不检查错误的连接。
• FAST：只检查没有被正确关闭的表。
• CHANGED：只检查上次检查后被更改的表和没有被正确关闭的表。
• MEDIUM：扫描行，以验证被删除的连接是有效的。也可以计算各行的关键字校验和，并使用计算出的校验和验证这一点。
• EXTENDED：对每行的所有关键字进行一个全面的关键字查找。这可以确保表是100%一致的，但是花的时间较长。

option只对MyISAM类型的表有效，对InnoDB类型的表无效。

3.7.3、优化表

??MySQL中使用OPTIMIZE TABLE语句来优化表。但是，OPTILMIZE TABLE语句只能优化表中的VARCHAR、 BLOB或TEXT类型的字段。一个表使用了这些字段的数据类型，若已经删除了表的一大部分数据，或者已经对含有可变长度行的表（含有VARCHAR、BLOB或TEXT列的表）进行了很多更新，则应使用OPTIMIZE TABLE来重新利用未使用的空间，并整理数据文件的碎片。 OPTIMIZE TABLE 语句对InnoDB和MyISAM类型的表都有效。该语句在执行过程中也会给表加上只读锁 。 OPTILMIZE TABLE语句的基本语法如下：

OPTIMIZE [LOCAL | NO_WRITE_TO_BINLOG] TABLE tbl_name [, tbl_name] ...

LOCAL | NO_WRITE_TO_BINLOG关键字的意义和分析表相同，都是指定不写入二进制日志。

四、大表优化

• 限定查询的范围
  • 禁止不带任何限制数据范围条件的查询语句
• 读/写分离
  • 经典的数据库拆分方案，主库负责写，从库负责读。
• 垂直拆分
• 当数据量级达到千万级以上时，有时候我们需要把一个数据库切成多份，放到不同的数据库服务器上，减少对单一数据库服务器的访问压力。
• 垂直拆分的优点：可以使得列数据变小，在查询时减少读取的Block数，减少I/O次数。此外，垂直分区可以简化表的结构，易于维护。
• 垂直拆分的缺点：主键会出现冗余，需要管理冗余列，并会引起 JOIN 操作。此外，垂直拆分会让事务变得更加复杂。
• 水平拆分
  • 尽量控制单表数据量的大小，建议控制在100万以内，100万并不是MySQL数据库的限制，过大会造成修改表结构、备份、恢复都有很大的问题。此时可以用历史数据归档（应用于日志数据），水平分表（应用于业务数据）等手段来控制数据量的大小。
  • 这里我们主要考虑业务数据的水平分表策略。将大的数据表按照某个属性维度分拆成不同的小表，每张小表保持相同的表结构。水平分表仅是解决了单一表数据过大的问题，但由于表的数据还是同一台机器上，其实对提升MySQL并发能力没有什么意义，所以水平拆分最好分库，从而达到分布式的目的。
  • 水平拆分能够支持非常大的数据量存储，应用端改造也少，但分库事务难以解决，跨节点Join性能较差，逻辑复杂。尽量不要对数据进行分片，因为拆分会带来逻辑、部署、运维的各种复杂度，一般的数据表在优化得当的情况下支持千万以下的数据量是没有太大问题的。如果实在要分片，尽量选择客户端分片架构，这样可以减少一次和中间件的网络I/O。
    • 客户端代理：分片逻辑在应用端，封装在jar包，通过修改或者封装JDBC层实现。
    • 中间件代理：在应用和数据中间加了一个代理层。分片逻辑统一维护咋中间件服务中。

五、其它优化策略

5.1、服务器语句超时处理

??在MySQL 8.0中可以设置服务器语句超时的限制，单位可以达到毫秒级别。当中断的执行语句超过设置的
毫秒数后，服务器将终止查询影响不大的事务或连接，然后将错误报给客户端。设置服务器语句超时的限制，可以通过设置系统变量 MAX_EXECUTION_TIME 来实现。默认情况下，MAX_EXECUTION_TIME的值为0，代表没有时间限制。

SET GLOBAL MAX_EXECUTION_TIME = 3000;

5.2、创建全局通用表空间

??MySQL 8.0使用CREATE TABLESPACE语句来创建一个全局通用表空间。全局通用表空间可以被所有的表共享，而且相比于独享表空间，使用手动创建共享空间可以节约元数据方面的内存。可以在创建表的时候，指定属于哪个表空间，也可以对已有表空间修改等，也可以通过ALTER TABLE语句指定表空间。因为是共享表空间，所以不能直接通过 DROP TABLE table_name 删除，这样操作符并不能回收空间。当确定共享表空间的数据都没用，并且依赖该表空间的表均已经删除时，可以通过DROP TABLESPACE删除共享表空间来释放空间，如果依赖该共享表空间的表存在，就会删除失败。所以应该首先删除依赖于该表空间的数据表，最后即可删除表空间。

CREATE DATABASE test25;
USE test25;

-- 创建名为template的共享表空间
CREATE TABLESPACE template ADD datafile 'template.ibd' file_block_size = 16k;
-- 指定表空间
CREATE TABLE test(id INT,name VARCHAR(10)) ENGINE=INNODB DEFAULT charset utf8mb4 TABLESPACE template;
-- 也可以通过ALTER TABLE语句指定表空间
ALTER TABLE test TABLESPACE template;

-- 删除依赖于该表空间的数据表
DROP TABLE test;
-- 删除表空间
DROP TABLESPACE template;

5.3、隐藏索引对调优的帮助

??在MySQL 8.0中，索引可以被“隐藏”或“显示”，当一个索引被隐藏时，它不会被查询优化器所使用。也就是说，管理员可以隐藏一个索引，然后观察对数据库的影响。如果数据库性能有所下降，就说明这个索引是有用的，于是将其“恢复显示”即可；如果数据库性能看不出变化，就说明这个索引是多余的，就可以删掉了。需要注意的是当索引被隐藏时，它的内容仍然是和正常索引一样实时更新的。如果一个索引需要长期被隐藏，那么就可以将其删除，因为索引的存在会影响插入、更新和删除的性能。数据表中的主键不能被设置为invisible。