SpringBoot 整合 MyCat 實現讀寫分離

MyCat一個徹底開源的,面向企業應用開發的大數據庫集群。基於阿里開源的Cobar產品而研發。能滿足數據庫數據大量存儲;提高了查詢性能。文章介紹如何實現MyCat連接MySQL實現主從分離,並集成SpringBoot實現讀寫分離。

MySQL配置主從關係

說明

  • 192.168.0.105 Linux 數據庫作為主master數據庫
  • 127.0.0.1 Window 作為從slave數據庫

master主數據庫配置

binlog是Mysql sever層維護的一種二進制日誌,主要是用來記錄對Mysql數據更新或潛在發生更新的SQL語句,記錄了所有的寫語句,並以事務的形式保存在磁盤中,還包含語句所執行的消耗的時間,MySQL的二進制日誌是事務安全型的。

master上開啟log_bin

<code>$ vim /etc/my.cnf


log-bin           = mysql-bin  #[必須]啟用二進制日誌
server-id         = 4          #[必須]服務器唯一ID,默認是1,最好取ip的後3位
expire-logs-days  = 7           #只保留7天的二進制日誌,以防磁盤被日誌佔滿
binlog-ignore-db  = mysql       #不備份的數據庫
binlog-ignore-db  = information_schema
binlog-ignore-db  = performation_schema
binlog-ignore-db  = sys
binlog-do-db=itools_simple #需要做複製的數據庫名,如果有多個,複製binlog-do-db即可/<code>

登錄mysql,測試log_bin是否成功開啟

<code>$ mysql -u root -p
  Root@123

// log_bin ON表示開啟成功,OFF表示開啟失敗
mysql> show variables like '%log_bin%';
+---------------------------------+--------------------------------+
| Variable_name                   | Value                          |
+---------------------------------+--------------------------------+
| log_bin                         | ON                             |
| log_bin_basename                | /var/lib/mysql/mysql-bin       |
| log_bin_index                   | /var/lib/mysql/mysql-bin.index |
| log_bin_trust_function_creators | OFF                            |
| log_bin_use_v1_row_events       | OFF                            |
| sql_log_bin                     | ON                             |
+---------------------------------+--------------------------------+
6 rows in set (0.01 sec)/<code>

新增備份賬戶

<code>mysql> grant replication slave on *.* to 'backup'@'%' identified by 'Root@123';
mysql> use mysql
mysql> select user,authentication_string,host from user;/<code>

重啟mysql

<code>$ systemctl restart mysqld/<code>

登錄mysql,並設置只讀

<code>$ mysql -u root -p
  Root@123

mysql> flush tables with read lock;

mysql> show master status \\G
*************************** 1. row ***************************
             File: mysql-bin.000003
         Position: 154
     Binlog_Do_DB: itools_simple
 Binlog_Ignore_DB: mysql,information_schema,performation_schema,sys
Executed_Gtid_Set: 
1 row in set (0.01 sec)

// 導出數據庫,進入到一個合適的文件夾
$ mysqldump -u root -p itools_simple > itools_simple.txt

// 把生成的文件導出到本機
$ sz itools_simple.txt

// 在window本機打開cmd,登錄slave本機mysql數據庫,導入數據庫
$ .\\mysql -u root -p -hlocalhost mycat_master /<code>

slave從數據庫配置

配置 my.ini 文件

<code>[mysql]
#default-character-set=utf8
[mysqld] 
max_connections=200
character-set-server=utf8
default-storage-engine=INNODB

# 添加一下配置
log-bin=mysql-bin
server-id=223/<code>

重啟slave數據庫

<code>net stop mysql
net start mysql/<code>

登錄slave數據庫

<code>$ mysql -u root -p
  123456

// 停止 slave
mysql> stop slave;
// 根據master中的status,添加以下配置
msyql> change master to master_host='192.168.0.105',master_user='backup',master_password='Root@123',master_log_file='mysql-bin.000003',master_log_pos=154;
// 啟用slave
mysql> start slave;
// 查看slave狀態
mysql> show slave status \\G
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event
                  Master_Host: 192.168.0.105
                  Master_User: backup

                  Master_Port: 3306
                Connect_Retry: 60
              Master_Log_File: mysql-bin.000003
          Read_Master_Log_Pos: 154
               Relay_Log_File: DESKTOP-OB9O5N7-relay-bin.000002
                Relay_Log_Pos: 320
        Relay_Master_Log_File: mysql-bin.000003
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes
             ..............
1 row in set (0.00 sec)

// 出現下面兩個說明配置正確
 Slave_IO_Running: Yes
Slave_SQL_Running: Yes/<code>

關閉master數據庫的只讀設置

<code>mysql> unlock tables;/<code>

存儲引擎

InnoDB特性

MySQL5.5版本後,MySQL的默認內置存儲引擎已經從MyISAM變成InnoDB

  • 支持事務;
  • 行級鎖定(更新數據時一般指鎖定當前行):通過索引實現、全表掃描忍讓時表鎖、注意間隙所的影響;
  • 讀寫阻塞與事務的隔離級別相關;
  • 具有非常高的緩存特性(既能緩存索引、也能緩存數據);
  • 這個表和主鍵以組(Cluster)的方式存儲、組成一顆平衡樹;
  • 所有的輔助索引(secondary indexes)都會保存主鍵信息;
  • 支持分區、表空間類似與oracle 數據庫;
  • 支持外鍵約束、不支持全文檢索(5.5.5之前的MyISAM支持全文檢索、5.5.5之後就不在支持);
  • 相對MyISAM而言、對硬件的要求比較高

MyISAM特性

  • 不支持事務
  • 表級鎖定,數據更新時鎖定整個表:其鎖定機制是表級鎖定,這雖然可以讓鎖定的實現成本很小但是也同時大大降低了其併發性能。
  • 讀寫互相阻塞:不僅會在寫入的時候阻塞讀取,myisam還會在讀取的時候阻塞寫入,但讀本身並不會阻塞另外的讀。
  • 只會緩存索引:MyISAM可以通過key_buffer_size緩存索引,以大大提高訪問性能,減少產品IO,但是這個緩存區只會緩存索引,而不會緩存數據。
  • 讀取速度較快,佔用資源相對少。
  • 不支持外鍵約束,但支持全文索引。

修改slave數據庫存儲引擎

<code>mysql> show variables like '%storage_engine%';
+----------------------------------+--------+
| Variable_name                    | Value  |
+----------------------------------+--------+
| default_storage_engine           | InnoDB |
| default_tmp_storage_engine       | InnoDB |
| disabled_storage_engines         |        |
| internal_tmp_disk_storage_engine | InnoDB |
+----------------------------------+--------+
4 rows in set (0.00 sec)

// 修改配置文件
$ vim /etc/my.ini
    [mysqld]
    default-storage-engine=MyISAM

$ systemctl restart mysqld

mysql> show variables like '%storage_engine%';
+----------------------------------+--------+
| Variable_name                    | Value  |
+----------------------------------+--------+
| default_storage_engine           | MyISAM |
| default_tmp_storage_engine       | InnoDB |
| disabled_storage_engines         |        |
| internal_tmp_disk_storage_engine | InnoDB |
+----------------------------------+--------+
4 rows in set (0.00 sec)/<code>

修改表存儲引擎

如果是slave數據庫的表是MyISAM,master數據庫的表是InnoDB。直接覆蓋master數據庫來同步數據的話,slave數據庫表的存儲引擎也將會同步變成InnoDB。擴展:InnoDB一棵B+樹可以存放多少行數據?

更換存儲引擎遇到的問題

This function has none of DETERMINISTIC, NO SQL, or READS SQL DATA in its declaration and binary logging is enabled (you might want to use the less safe log_bin_trust_function_creators variable)

出現的原因

在function裡面,只有 DETERMINISTIC, NO SQL 和 READS SQL DATA 被支持。如果我們開啟了 bin-log, 我們就必須為我們的function指定一個參數。

解決方案

<code>mysql> set global log_bin_trust_function_creators=TRUE;/<code>

Specified key was too long; max key length is 1000 bytes

出現的原因

  1. DB的 engine 是 MyISAM
  2. 字符集是 utf8 ,1個 utf8=3bytes
  3. (索引長度總和) * 3 > 1000。

解決方案

  1. 修改DB engine 至 innodb
  2. 更改字符集
  3. 減小字段長度

注意:一定不要手動去修改slave數據庫中的數據,需要給slave的用戶設置只讀。

至此,mysql的數據庫主從設置已經配置成功。在master中修改數據庫,會同步到slave中。

Mycat基於MySQL的讀寫分離

Mycat不負責數據的同步,所以要還是要基於MySQL的主從配置來實現讀寫分離。

安裝Mycat

由於github限制,所以以後新版本從以下地址下載 http://dl.mycat.io

Linux創建文件夾/usr/local/mycat,進入文件夾,下載安裝包

<code>$ wget http://dl.mycat.io/1.6.7.5/2020-3-3/Mycat-server-1.6.7.5-test-20200303154735-linux.tar.gz
$ tar -zxvf Mycat-server-1.6.7.5-test-20200303154735-linux.tar.gz
$ cd mycat
$ useradd mycat
$ chown -R mycat:mycat /usr/local/mycat/mycat
$ passwd mycat

// 配置hostname,添加以下配置
[root@localhost mycat] vim /etc/sysconfig/network
    HOSTNAME=localhost(主機名)

// 查看是否配置主機
$ vim /etc/hosts/<code>

將Mycat配置到環境變量中

<code>$ vim /etc/profile
// 在最後添加
MYCAT_HOME=/usr/local/mycat/mycat
PATH=$MYCAT_HOME/bin:$PATH
export PATH

// 使配置生效
$ source /etc/profile/<code>

在master數據庫中添加user1(寫)、user2(只讀)兩個賬戶,並配置權限。

配置mycat的schema.xml

<code>
mycat:schema SYSTEM "schema.dtd">
<schema>

    <schema>
    /<schema>
    <datanode>
    <datahost>              writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
        <heartbeat>select user()/<heartbeat>
        <writehost>
            
            <readhost>
        /<writehost>
    /<datahost>
/<schema>/<code>

配置mycat的server.xml,增加兩個用戶

<code><user>
    <property>Root@123/<property>
    <property>itools_simple/<property>
    <property>itools_simple/<property>
/<user>

<user>
    <property>Root@123/<property>
    <property>itools_simple/<property>
    <property>true/<property>
    <property>itools_simple/<property>
/<user>/<code>

啟動Mycat

啟動mycat

<code>$ mycat start
Starting Mycat-server.../<code>

查看啟動日誌

<code>$ cat wrapper.log
MyCAT Server startup successfully. see logs in logs/mycat.log/<code>

使用客戶端連接mycat

使用SQLyog連接(使用此方式連接,不能直接通過點擊表查看數據)

SpringBoot 整合 MyCat 實現讀寫分離

使用Navicat連接

SpringBoot 整合 MyCat 實現讀寫分離

可通過客戶端直接查看master數據,也可通過修改mycat數據,查看master和slave的數據是否會同步

SpringBoot 整合 MyCat 實現讀寫分離

SpringBoot 整合 MyCat 實現讀寫分離

  • 首先需要配置好數據庫的主從關係。
  • 配置好MyCat服務。
  • 實現MyCat與MySQL讀寫分離。

添加依賴

<code><dependency>
    <groupid>org.springframework.boot/<groupid>
    <artifactid>spring-boot-starter-aop/<artifactid>
/<dependency>

<dependency>
    <groupid>com.alibaba/<groupid>
    <artifactid>druid/<artifactid>
    <version>1.0.23/<version>
/<dependency>/<code>

創建數據源

<code>package com.muycode.itoolsimple.datasource;

import org.springframework.boot.context.properties.ConfigurationProperties;
import org.springframework.boot.jdbc.DataSourceBuilder;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

import javax.sql.DataSource;

@Configuration
public class DataSourceConfig {

    /**
     * 創建可讀數據源
     *
     * @return
     */
    @Bean(name = "selectDataSource")
    @ConfigurationProperties(prefix = "spring.datasource.select")
    public DataSource dataSource1() {
        return DataSourceBuilder.create().build();
    }

    /**
     * 創建可寫數據源
     *
     * @return
     */
    @Bean(name = "updateDataSource")
    @ConfigurationProperties(prefix = "spring.datasource.update")
    public DataSource dataSource2() {
        return DataSourceBuilder.create().build();
    }

}/<code>

設置數據源

<code>package com.muycode.itoolsimple.datasource;

import org.springframework.context.annotation.Lazy;
import org.springframework.stereotype.Component;

@Component
@Lazy(false)
public class DataSourceContextHolder {

    /**
     * 採用ThreadLocal 保存本地多數據源
     */
    private static final ThreadLocal<string> contextHolder = new ThreadLocal<>();

    /**
     * 設置數據源類型
     *
     * @param dbType
     */
    public static void setDbType(String dbType) {
        contextHolder.set(dbType);
    }

    /**
     * 獲取數據源類型
     */
    public static String getDbType() {
        return contextHolder.get();
    }

    public static void clearDbType() {
        contextHolder.remove();
    }
}/<string>/<code>

返回數據源

<code>package com.muycode.itoolsimple.datasource;

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Primary;
import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource;

import org.springframework.stereotype.Component;

import javax.sql.DataSource;
import java.util.HashMap;
import java.util.Map;

@Component
@Primary
public class DynamicDataSource extends AbstractRoutingDataSource {

    @Autowired
    @Qualifier("selectDataSource")
    private DataSource selectDataSource;

    @Autowired
    @Qualifier("updateDataSource")
    private DataSource updateDataSource;

    /**
     * 返回生效的數據源名稱
     */
    @Override
    protected Object determineCurrentLookupKey() {
        return DataSourceContextHolder.getDbType();
    }

    /**
     * 配置數據源信息
     */
    @Override
    public void afterPropertiesSet() {
        Map<object> map = new HashMap<>(16);
        map.put("selectDataSource", selectDataSource);
        map.put("updateDataSource", updateDataSource);
        setTargetDataSources(map);
        setDefaultTargetDataSource(updateDataSource);
        super.afterPropertiesSet();
    }
}/<object>/<code>

創建切面,動態設置數據源

<code>package com.muycode.itoolsimple.datasource;

import org.aspectj.lang.JoinPoint;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.annotation.Before;
import org.springframework.context.annotation.Lazy;

import org.springframework.core.annotation.Order;
import org.springframework.stereotype.Component;

@Aspect
@Component
@Lazy(false)
@Order(0) // Order設定AOP執行順序 使之在數據庫事務上先執行
public class DataSourceOptionAop {

    /**
     * 可讀數據源
     */
    private final static String DATASOURCE_TYPE_SELECT = "selectDataSource";
    /**
     * 可寫數據源
     */
    private final static String DATASOURCE_TYPE_UPDATE = "updateDataSource";

    /**
     * 創建切面,根據方法類型選擇不同的數據源
     *
     * @param joinPoint
     */
    @Before("execution(* com.muycode.itoolsimple.service.*.*(..))")
    public void process(JoinPoint joinPoint) {
        String methodName = joinPoint.getSignature().getName();
        System.out.print("=========== " + methodName);
        if (methodName.startsWith("get") || methodName.startsWith("count") || methodName.startsWith("find")
                || methodName.startsWith("list") || methodName.startsWith("select") || methodName.startsWith("check")
                || methodName.startsWith("query")) {
            DataSourceContextHolder.setDbType(DATASOURCE_TYPE_SELECT);
            System.out.println("-----------------使用selectDataSource數據源-------------------");
        } else {
            DataSourceContextHolder.setDbType(DATASOURCE_TYPE_UPDATE);
            System.out.println("-----------------使用updateDataSource數據源-------------------");
        }
    }
}/<code>

輸出結果

<code>=========== getByUsername-----------------使用selectDataSource數據源-------------------
=========== getPermissionStringByUserId-----------------使用selectDataSource數據源-------------------

=========== getPermissionByUserId-----------------使用selectDataSource數據源-------------------
=========== getRolePermissionLinkByUserId-----------------使用selectDataSource數據源-------------------
=========== save-----------------使用updateDataSource數據源-------------------
=========== queryByPage-----------------使用selectDataSource數據源-------------------
=========== save-----------------使用updateDataSource數據源-------------------
=========== getPermissionAll-----------------使用selectDataSource數據源-------------------
=========== save-----------------使用updateDataSource數據源-------------------
=========== getSysCodeAll-----------------使用selectDataSource數據源-------------------
=========== save-----------------使用updateDataSource數據源-------------------
=========== getByRid-----------------使用selectDataSource數據源-------------------/<code>


分享到:


相關文章: