综合架构-DBA-08-主从复制
企业高可用性标准
全年无故障率(非计划内故障停机)
99.9% —-> 0.001*365*24*60=525.6 min
99.99% —-> 0.0001*36524\60=52.56 min
99.999% —-> 0.0001*365*24*60=5.256 min
高可用架构方案
- 负载均衡:有一定的高可用性
LVS Nginx - 主备系统:有高可用性,但是需要切换,是单活的架构
KA , MHA, MMM - 真正高可用(多活系统):
NDB Cluster Oracle RAC Sysbase cluster , InnoDB Cluster（MGR）,PXC , MGC
主从复制简介
- 基于二进制日志复制的
- 主库的修改操作会记录二进制日志
- 从库会请求新的二进制日志并回放,最终达到主从数据同步
- 主从复制核心功能:
辅助备份,处理物理损坏
扩展新型的架构:高可用,高性能,分布式架构等
主从复制前提(搭建主从的过程)
- 两台以上mysql实例 ,server_id,server_uuid不同
- 主库开启二进制日志
- 网络通畅
- 系统时间同步
- 专用的复制用户
- 保证主从开启之前的某个时间点,从库数据是和主库一致
- 告知从库,复制user,passwd,IP port,以及复制起点(change master to)
- 线程(三个):Dump thread IO thread SQL thread 开启(start slave)
主从复制搭建(Classic replication)
清理主库数据
1 | rm -rf /data/3307/data/* |
重新初始化3307
1 | mysqld --initialize-insecure --user=mysql --basedir=/app/mysql --datadir=/data/3307/data |
修改my.cnf ,开启二进制日志功能
1 | [root@db01 3307]# vim /data/3307/my.cnf |
启动所有节点
1 | [root@db01 3307]# systemctl start mysqld3307 |
主库中创建复制用户
1 | [root@db01 3307]# mysql -S /data/3307/mysql.sock |
备份主库并恢复到从库
1 | [root@db01 3307]# mysqldump -S /data/3307/mysql.sock -A --master-data=2 --single-transaction -R --triggers >/backup/full.sql |
告知从库关键复制信息
ip port user password binlog position
1 | [root@db01 3307]# mysql -S /data/3308/mysql.sock |
开启主从专用线程
在从库中开启专用线程
1 | start slave ; |
检查复制状态
1 | db01 [mysql]>show slave status \G; |
如果失败，则在从库中运行以下命令
1 | [root@db01 ~]# mysql -s /tmp/mysql330x.sock -e "stop slave;reset slave all;" |
并重新操作一遍
主从复制的原理 (Classic Replication)
主从中设置到的文件和线程
线程
- 主:
- Binlog_dump_Thread：用来接收从库请求，并且投递binlog给从库
- 从:
IO THREAD：请求binlog日志，接收binlog日志
SQL THREAD：回访relay日志
文件
主:
mysql-bin.000001从:
db01-relay.000001
作用：中继日志，存储接收的binlog。
位置：默认在从库的数据目录下。
手工定义方法:relay_log_basename=/data/3308/data/db01-relay-bin
master.info
作用：主库信息记录日志，已经接收binlog位置点信息。
位置：默认存储在从库的数据路径下
手工定义：master_info_repository = FILE/TABLE
relay-log.info
作用：记录从库会放到的relay-log的位置点
位置：默认在从库的数据路径下
手工定义：relay_log_info_repository=FILE/TABLE
主从复制原理
主从复制原理描述：
- change master to 时，ip port user password binlog position写入到master.info进行记录
- start slave 时，从库会启动IO线程和SQL线程
- IO_T，读取master.info信息，获取主库信息连接主库
- 主库会生成一个准备binlog DUMP线程，来响应从库
- IO_T根据master.info记录的binlog文件名和position号，请求主库DUMP最新日志
- DUMP线程检查主库的binlog日志，如果有新的，TP(传送)给从从库的IO_T
- IO_T将收到的日志存储到了TCP/IP 缓存，立即返回ACK给主库 ，主库工作完成
- IO_T将缓存中的数据，存储到relay-log日志文件,更新master.info文件binlog 文件名和postion，IO_T工作完成
- SQL_T读取relay-log.info文件，获取到上次执行到的relay-log的位置，作为起点，回放relay-log
- SQL_T回放完成之后，会更新relay-log.info文件。
细节：
- relay-log会有自动清理的功能。relay_log_purge=ON
- 主库一旦有新的日志生成，会发送“信号”给binlog dump ，IO线程再请求
主从故障监控\分析\处理
线程相关监控
主库
1 | show full processlist; |
从库
1 | db01 [(none)]>show slave status \G |
主库相关信息监控
1 | Master_Host: 10.0.0.51 |
从库中继日志的应用状态
1 | Relay_Log_File: db01-relay-bin.000002 |
从库复制线程有关的状态
1 | Slave_IO_Running: Yes |
过滤复制有关的状态
1 | Replicate_Do_DB: |
主从延时相关状态(非人为)
1 | Seconds_Behind_Master: 0 |
延时从库有关的状态(人为)
1 | SQL_Delay: 0 |
GTID 复制有关的状态
1 | Retrieved_Gtid_Set: |
主从复制故障分析
网络、端口、防火墙
用户、密码、授权
replication slave
主库连接数上限
1
select @@max_connections;
版本不统一
IO
连接主库
(1) 用户 密码 IP port
Last_IO_Error: error reconnecting to master ‘repl@10.0.0.51:3307’ - retry-time: 10 retries: 7
处理思路：手工连接
[root@db01 ~]# mysql -urepl -p123333 -h 10.0.0.51 -P 3307
ERROR 1045 (28000): Access denied for user ‘repl’@’db01’ (using password: YES)
原因:
- 密码错误
- 用户错误
- skip_name_resolve
- 地址错误
- 端口
处理方法
1 | start slave # 启动所有线程 |
主库连接数上限,或者是主库太繁忙
1 | show slave staus \G |
处理思路:
拿复制用户,手工连接一下
[root@db01 ~]# mysql -urepl -p123 -h 10.0.0.51 -P 3307
mysql: [Warning] Using a password on the command line interface can be insecure.
ERROR 1040 (HY000): Too many connections
处理方法:
db01 [(none)]>set global max_connections=300;
(3) 防火墙,网络不通
请求二进制日志
主库二进制日志不完整:损坏，不连续….
从库请求的起点问题…
主从的server id (server_uuid）相同.
relaylog问题
1 | Last_IO_Error: Got fatal error 1236 from master when reading data from binary log: 'could not find next log; the first event 'mysql-bin.000001' at 154, the last event read from '/data/3307/data/mysql-bin.000002' at 154, the last byte read from '/data/3307/data/mysql-bin.000002' at 154.' |
注意: 在主从复制环境中,严令禁止主库中reset master; 可以选择expire 进行定期清理主库二进制日志
解决方案:
重新构建主从
生产中如果要reset master
找一个业务不繁忙旗舰，停止业务5分钟
等待从库同步完主库的所有日志
主库reset master;
从库重新同步主库日志
1
2
3
4
5stop slave;
reset slave all;
reset master;
change master to ......
start slaveSQL 线程故障
SQL线程功能
(1)读写relay-log.info
(2)relay-log损坏,断节,找不到
(3)接收到的SQL无法执行
导致SQL线程故障原因分析
- 版本差异，参数设定不同，比如：数据类型的差异，SQL_MODE影响
- 要创建的数据库对象已经存在
- 要删除或修改的对象不存在
- DML语句不符合表定义及约束时
归根揭底的原因都是由于从库发生了写入操作.
Last_SQL_Error: Error ‘Can’t create database ‘db’; database exists’ on query. Default database: ‘db’. Query: ‘create database db’
处理方法(以主库为核心的处理方案)
将从库进行反操作，再重启线程
处理方法(以从库为核心的处理方案)
方法一：
1 | stop slave; |
将同步指针向下移动一个，如果多次不同步，可以重复操作。
1 | start slave; |
注意：如果要使用此种方法，一定要保证此时故障数据完全一致
方法二：
1 | /etc/my.cnf |
常见错误代码:
1007:对象已存在
1032:无法执行DML
1062:主键冲突,或约束冲突
但是，以上操作有时是有风险的，最安全的做法就是重新构建主从。把握一个原则,一切以主库为主.
主库出了问题怎么办
如果是物理损坏：
- 看看主库能不能ssh连接上
- 检查一下binlog是否完整
- 手工追加日志到最新位置
- 从库替代主库工作
如果是逻辑损坏：
- 只能通过备份去恢复
从库怎么称当主库
- 修复最新状态
- 取消从库身份
- 清空binlog日志信息
一劳永逸的方法
(1) 可以设置从库只读.
1 | select @@read_only |
注意：
只会影响到普通用户，对管理员用户无效。
但是可以通过
1 | select @@super_read_only |
来设置普通管理员只读
(2)加中间件
读写分离。
主从延时监控及原因
主库做了修改操作,从库比较长时间才能追上。
怎么监控
1 | show slave status \G;# 粗略评估 |
得出：有或者没有延时的情况，等于0不代表没有延时
评估主从延时更加精确的指标是延时了多少日志量
主库
1 | show master status; |
从库
1 | cat /data/xxx/relay-log.info |
主库原因
- 网络
- 主从硬件差异较大
- 主库业务量大
- 从库太多
- 版本差异
- 参数因素
(1) 二进制日志写入不及时
1 | [rep]>select @@sync_binlog; |
(2) CR的主从复制中,binlog_dump线程,事件为单元,串行传送二进制日志(5.6 5.5)
- 主库并发事务量大,主库可以并行,传送时是串行
- 主库发生了大事务,由于是串行传送,会产生阻塞后续的事务.
解决方案:
- 5.6 开始,开启GTID,实现了GC(group commit)机制,可以并行传输日志给从库IO
- 5.7 开始,不开启GTID,会自动维护匿名的GTID,也能实现GC,我们建议还是开启GTIDs
- 拆分业务(分布式)：组件分离。垂直，水平
- 大事务拆成多个小事务,可以有效的减少主从延时.
从库原因
SQL线程导致的主从延时
在CR复制情况下: 从库默认情况下只有一个SQL,只能串行回放事务SQL
- 主库如果并发事务量较大,从库只能串行回放
- 主库发生了大事务,会阻塞后续的所有的事务的运行
解决方案:
- 5.6 版本开启GTID之后,加入了SQL多线程的特性,但是只能针对不同库(database)下的事务进行并发回放.
- 5.7 版本开始GTID之后,在SQL方面,提供了基于逻辑时钟(logical_clock),binlog加入了seq_no机制,
真正实现了基于事务级别的并发回放,这种技术我们把它称之为MTS(enhanced multi-threaded slave). - 大事务拆成多个小事务,可以有效的减少主从延时.
https://dev.mysql.com/worklog/task/?id=6314
小结
- 主从复制原理
- 主从复制故障
- 主从延时：group commit MTS
