`

mysql 集群 master和salve 配置

 
阅读更多

mysql的master和salve 详解

事件:由于公司的服务器配置较低,大量的请求用户进来托的很慢将系统,于是想到了mysqd集群配置,具体配置参数就不贴出来了,请看下面 的 原理篇

Mysql的 Replication 是一个异步的复制过程,从一个 Mysql instace(我们称之为 Master)复制到另一个 Mysql instance(我们称之 Slave)。在 Master 与 Slave 之间的实现整个复制过程主要由三个线程来完成,其中两个线程(Sql线程和IO线程)在 Slave 端,另外一个线程(IO线程)在 Master 端。

要 实现 MySQL 的 Replication ,首先必须打开 Master 端的Binary Log(mysql-bin.xxxxxx)功能,否则无法实现。因为整个复制过程实际上就是Slave从Master端获取该日志然后再在自己身上完全 顺序的执行日志中所记录的各种操作。打开 MySQL 的 Binary Log 可以通过在启动 MySQL Server 的过程中使用 “—log-bin” 参数选项,或者在 my.cnf 配置文件中的 mysqld 参数组([mysqld]标识后的参数部分)增加 “log-bin” 参数项。
MySQL 复制的基本过程如下:
1. Slave 上面的IO线程连接上 Master,并请求从指定日志文件的指定位置(或者从最开始的日志)之后的日志内容;
2. Master 接收到来自 Slave 的 IO 线程的请求后,通过负责复制的 IO 线程根据请求信息读取指定日志指定位置之后的日志信息,返回给 Slave 端的 IO 线程。返回信息中除了日志所包含的信息之外,还包括本次返回的信息在 Master 端的 Binary Log 文件的名称以及在 Binary Log 中的位置;
3. Slave 的 IO 线程接收到信息后,将接收到的日志内容依次写入到 Slave 端的Relay Log文件(mysql-relay-bin.xxxxxx)的最末端,并将读取到的Master端的bin-log的文件名和位置记录到master- info文件中,以便在下一次读取的时候能够清楚的高速Master“我需要从某个bin-log的哪个位置开始往后的日志内容,请发给我”
4. Slave 的 SQL 线程检测到 Relay Log 中新增加了内容后,会马上解析该 Log 文件中的内容成为在 Master 端真实执行时候的那些可执行的 Query 语句,并在自身执行这些 Query。这样,实际上就是在 Master 端和 Slave 端执行了同样的 Query,所以两端的数据是完全一样的。
实际上,在老版本中,MySQL 的复制实现在 Slave 端并不是由 SQL 线程和 IO 线程这两个线程共同协作而完成的,而是由单独的一个线程来完成所有的工作。但是 MySQL 的工程师们很快发现,这样做存在很大的风险和性能问题,主要如下:
首先,如果通过一个单一的线程来独立实现这个工作的话,就使复制 Master 端的,Binary Log日志,以及解析这些日志,然后再在自身执行的这个过程成为一个串行的过程,性能自然会受到较大的限制,这种架构下的 Replication 的延迟自然就比较长了。
其次,Slave 端的这个复制线程从 Master 端获取 Binary Log 过来之后,需要接着解析这些内容,还原成 Master 端所执行的原始 Query,然后在自身执行。在这个过程中,Master端很可能又已经产生了大量的变化并生成了大量的 Binary Log 信息。如果在这个阶段 Master 端的存储系统出现了无法修复的故障,那么在这个阶段所产生的所有变更都将永远的丢失,无法再找回来。这种潜在风险在Slave 端压力比较大的时候尤其突出,因为如果 Slave 压力比较大,解析日志以及应用这些日志所花费的时间自然就会更长一些,可能丢失的数据也就会更多。
所以,在后期的改造中,新版本的 MySQL 为了尽量减小这个风险,并提高复制的性能,将 Slave 端的复制改为两个线程来完成,也就是前面所提到的 SQL 线程和 IO 线程。最早提出这个改进方案的是Yahoo!的一位工程师“Jeremy Zawodny”。通过这样的改造,这样既在很大程度上解决了性能问题,缩短了异步的延时时间,同时也减少了潜在的数据丢失量。
当然,即使是换成了现在这样两个线程来协作处理之后,同样也还是存在 Slave 数据延时以及数据丢失的可能性的,毕竟这个复制是异步的。只要数据的更改不是在一个事务中,这些问题都是存在的。
如果要完全避免这些问题,就只能用 MySQL 的 Cluster 来解决了。不过 MySQL的 Cluster 知道笔者写这部分内容的时候,仍然还是一个内存数 据库的解决方案,也就是需要将所有数据包括索引全部都 Load 到内存中,这样就对内存的要求就非常大的大,对于一般的大众化应用来说可实施性并不是太大。当然,在之前与 MySQL 的 CTO David 交流的时候得知,MySQL 现在正在不断改进其 Cluster 的实现,其中非常大的一个改动就是允许数据不用全部 Load 到内存中,而仅仅只是索引全部 Load 到内存中,我想信在完成该项改造之后的 MySQL Cluster 将会更加受人欢迎,可实施性也会更大。
0
0
分享到:
评论

相关推荐

    delphi下的modbus master salve控制件

    【工控老马出品,必属精品,亲测...资源名:delphi下的modbus master salve控制件 资源类型:程序源代码 源码说明: 应用于delphi下的modbus master salve控制件,支持多种PLC 适合人群:新手及有一定经验的开发人员

    docker-mysql-master-slave-master.zip

    此资源为shardingsphere 调研...内容:一个master mysql docker实例,一个slave docker实例 内置3个库,mydb,mydb0,mydb1。仅开启了这三个库的主从。如果三个库主从不够用,自行配置。 使用:1.解压 2.执行build.sh

    hadoop集群安装配置详解

    2.2 配置Master无密码登录所有Salve 2.3 配置所有Slave无密码登录Master 3、Java环境安装 3.1 安装JDK 3.2 配置环境变量 3.3 验证安装成功 3.4 安装剩余机器 4、Hadoop集群安装 4.1 安装hadoop 4.2 配置...

    linux Jenkins配置salve节点实现过程图解

    前言:  Jenkins的Master-Slave分布式架构主要是为了解决Jenkins单点构建任务多、负载较高、性能不足的... master对salve做免密登录。 1.master点击Manage Jenkins: 2.选择节点管理; 3.新建节点; 4.勾选固定节

    Modbus poll+salve 7.0 工具, 可用

    Modbus poll salve

    hadooop 集群配置

    集群中包括4个节点:1个Master,3个Salve,节点之间局域网连接,可以相互ping通,具体集群信息可以查看"Hadoop集群(第2期)

    XC5VFX130T_testboard.pdf

    该测试板支持Xilinx V5器件的7种配置模式:JTAG、主\被动串行(Master\Slave serial)、主\被动并行(Master\Salve SelectMAP)、串行外设存储SPI、并行外设存储BPI 7种配置模式; 采用VHDCI68端子将大多数IO管脚...

    redis集群.docx

    redis集群搭建步骤, 搭建redis集群  用两台虚拟机模拟6个节点,一台机器3个节点,创建出3 master、3 salve 环境。redis 采用 redis-3.2.4 版本。

    TIM4_MASTER_TIM3_SALVE.zip

    最近在学习STM32hal库,顺便玩一下TIM的主定时器触发从定时器功能,本代码是采用TIM4为主定时器,TIM3是从定时器,TIM3的启动是通过TIM4触发的,另外代码里面有HAL库的配置,适合新手,不喜勿喷!

    hadoop 集群搭建说明书.rar

    环境说明: 集群中包括4个节点:1个Master,3个Salve,在虚拟机上搭建的linux系统环境。节点之间局域网连接,可以相互ping通.节点IP地址分布如下:

    redis集群sentinel主从复制

    redis集群sentinel主从复制 已经配置好的案例,放在conf目录下。详情可以查看我的博客:http://blog.csdn.net/caiwenfeng_for_23/article/details/45695581

    MySQL 主从复制搭建,基于日志(binlog)

     简单来说,是保证主SQL(Master)和从SQL(Slave)的数据是一致性的,向Master插入数据后,Slave会自动从Master把修改的数据同步过来(有一定的延迟),通过这种方式来保证数据的一致性,是主从复制。  MySQL...

    Redis 集群搭建和简单使用教程

    前言 Redis集群搭建的目的其实也就是集群搭建的目的,所有的集群主要都是为了解决一个问题,横向扩展。 在集群的概念出现之前,我们使用的...用两台虚拟机模拟6个节点,一台机器3个节点,创建出3 master、3 salve 环

    ActiveMQ的技术详解(高级).doc

    2.主从管理(master/salve,这是集群模式的一种,主要体现在可靠性方面,当主中介(代理)出现故障,那么从代理会替代主代理的位置,不至于使消息系统瘫痪) 3.消息组通信(同一组的消息,仅会提交给一个客户进行...

    mysql从服务器状态监控脚本

    mysql从服务器状态监控脚本,源自官方网

    gerrit-master-slave-docker:Gerrit主服务器+从属Docker游乐场

    该docker compose配置创建以下场景: PostgreSQL和Gerrit DB在主服务器和从服务器之间共享Gerrit主服务器使用“ development_become_any_account”身份验证来侦听端口18080(Web和Git / HTTP)和29418(Git / SSH)...

    详解MySQL实现主从复制过程

    一、什么是主从复制 将主数据库中的DDL和DML操作通过二进制日志(BINLOG)传输到从数据库上,然后将这些日志重新执行(重做);...第二步:salve开启一个I/O Thread,该线程在master打开一个普通连接,主要工作

    PyPI 官网下载 | salve-2.3.0-py2.7.egg

    资源来自pypi官网。 资源全名:salve-2.3.0-py2.7.egg

    新定义RD8T36X 硬件i2c salve模拟24c02

    新定义RD8T36X 硬件i2c salve模拟24c02

Global site tag (gtag.js) - Google Analytics