当前位置:威尼斯 > 编程 > 数据源配置,Master库担当数据更新和实时数据查

数据源配置,Master库担当数据更新和实时数据查

文章作者:编程 上传时间:2019-09-29

1. 引言

现在大型的电子商务系统,在数据库层面大都采用读写分离技术,就是一个Master数据库,多个Slave数据库。Master库负责数据更新和实时数据查询,Slave库当然负责非实时数据查询。因为在实际的应用中,数据库都是读多写少(读取数据的频率高,更新数据的频率相对较少),而读取数据通常耗时比较长,占用数据库服务器的CPU较多,从而影响用户体验。我们通常的做法就是把查询从主库中抽取出来,采用多个从库,使用负载均衡,减轻每个从库的查询压力。


采用读写分离技术的目标:有效减轻Master库的压力,又可以把用户查询数据的请求分发到不同的Slave库,从而保证系统的健壮性。我们看下采用读写分离的背景。

读写分离要做的事情就是对于一条SQL该选择哪个数据库去执行,至于谁来做选择数据库这件事儿,无非两个,要么中间件帮我们做,要么程序自己做。因此,一般来讲,读写分离有两种实现方式。第一种是依靠中间件,也就是说应用程序连接到中间件,中间件帮我们做SQL分离;第二种是应用程序自己去做分离。这里我们选择程序自己来做,主要是利用Spring提供的路由数据源,以及AOP

随着网站的业务不断扩展,数据不断增加,用户越来越多,数据库的压力也就越来越大,采用传统的方式,比如:数据库或者SQL的优化基本已达不到要求,这个时候可以采用读写分离的策 略来改变现状。

然而,应用程序层面去做读写分离最大的弱点在于无法动态增加数据库节点,因为数据源配置都是写在配置中的,新增数据库意味着新加一个数据源,必然改配置,并重启应用。当然,好处就是相对简单。

具体到开发中,如何方便的实现读写分离呢?目前常用的有两种方式:

图片 1

1 第一种方式是我们最常用的方式,就是定义2个数据库连接,一个是MasterDataSource,另一个是SlaveDataSource。更新数据时我们读取MasterDataSource,查询数据时我们读取SlaveDataSource。这种方式很简单,我就不赘述了。

2.AbstractRoutingDataSource

2 第二种方式动态数据源切换,就是在程序运行时,把数据源动态织入到程序中,从而选择读取主库还是从库。主要使用的技术是:annotation,Spring AOP ,反射。下面会详细的介绍实现方式。


在介绍实现方式之前,我们先准备一些必要的知识,spring 的AbstractRoutingDataSource 类

基于特定的查找key路由到特定的数据源。它内部维护了一组目标数据源,并且做了路由key与目标数据源之间的映射,提供基于key查找数据源的方法。

AbstractRoutingDataSource这个类 是spring2.0以后增加的,我们先来看下AbstractRoutingDataSource的定义:

图片 2

复制代码 代码如下:

3. 实践

public abstract class AbstractRoutingDataSource extends AbstractDataSource implements InitializingBean {}


AbstractRoutingDataSource继承了AbstractDataSource ,而AbstractDataSource 又是DataSource 的子类。DataSource 是javax.sql 的数据源接口,定义如下:

关于配置请参考《MySQL主从复制配置》

public interface DataSource extends CommonDataSource,Wrapper {

 /**
  * <p>Attempts to establish a connection with the data source that
  * this <code>DataSource</code> object represents.
  *
  * @return a connection to the data source
  * @exception SQLException if a database access error occurs
  */
 Connection getConnection() throws SQLException;

 /**
  * <p>Attempts to establish a connection with the data source that
  * this <code>DataSource</code> object represents.
  *
  * @param username the database user on whose behalf the connection is
  * being made
  * @param password the user's password
  * @return a connection to the data source
  * @exception SQLException if a database access error occurs
  * @since 1.4
  */
 Connection getConnection(String username, String password)
  throws SQLException;

}

3.1. maven依赖

DataSource 接口定义了2个方法,都是获取数据库连接。我们在看下AbstractRoutingDataSource 如何实现了DataSource接口:

<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"    xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">    <modelVersion>4.0.0</modelVersion>    <groupId>com.cjs.example</groupId>    <artifactId>cjs-datasource-demo</artifactId>    <version>0.0.1-SNAPSHOT</version>    <packaging>jar</packaging>    <name>cjs-datasource-demo</name>    <description></description>    <parent>        <groupId>org.springframework.boot</groupId>        <artifactId>spring-boot-starter-parent</artifactId>        <version>2.0.5.RELEASE</version>        <relativePath/> <!-- lookup parent from repository -->    </parent>    <properties>        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>        <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding>        <java.version>1.8</java.version>    </properties>    <dependencies>        <dependency>            <groupId>org.springframework.boot</groupId>            <artifactId>spring-boot-starter-aop</artifactId>        </dependency>        <dependency>            <groupId>org.springframework.boot</groupId>            <artifactId>spring-boot-starter-jdbc</artifactId>        </dependency>        <dependency>            <groupId>org.springframework.boot</groupId>            <artifactId>spring-boot-starter-web</artifactId>        </dependency>        <dependency>            <groupId>org.mybatis.spring.boot</groupId>            <artifactId>mybatis-spring-boot-starter</artifactId>            <version>1.3.2</version>        </dependency>        <dependency>            <groupId>org.apache.commons</groupId>            <artifactId>commons-lang3</artifactId>            <version>3.8</version>        </dependency>        <dependency>            <groupId>mysql</groupId>            <artifactId>mysql-connector-java</artifactId>            <scope>runtime</scope>        </dependency>        <dependency>            <groupId>org.springframework.boot</groupId>            <artifactId>spring-boot-starter-test</artifactId>            <scope>test</scope>        </dependency>    </dependencies>    <build>        <plugins>            <plugin>                <groupId>org.springframework.boot</groupId>                <artifactId>spring-boot-maven-plugin</artifactId>            </plugin>            <!--<plugin>                <groupId>org.mybatis.generator</groupId>                <artifactId>mybatis-generator-maven-plugin</artifactId>                <version>1.3.5</version>                <dependencies>                    <dependency>                        <groupId>mysql</groupId>                        <artifactId>mysql-connector-java</artifactId>                        <version>5.1.46</version>                    </dependency>                </dependencies>                <configuration>                    <configurationFile>${basedir}/src/main/resources/myBatisGeneratorConfig.xml</configurationFile>                    <overwrite>true</overwrite>                </configuration>                <executions>                    <execution>                        <id>Generate MyBatis Artifacts</id>                        <goals>                            <goal>generate</goal>                        </goals>                    </execution>                </executions>            </plugin>-->        </plugins>    </build></project>
public Connection getConnection() throws SQLException {
    return determineTargetDataSource().getConnection();
  }

  public Connection getConnection(String username, String password) throws SQLException {
    return determineTargetDataSource().getConnection(username, password);
  }

3.2. 数据源配置

很显然就是调用自己的determineTargetDataSource() 方法获取到connection。determineTargetDataSource方法定义如下:

application.yml

protected DataSource determineTargetDataSource() {
    Assert.notNull(this.resolvedDataSources, "DataSource router not initialized");
    Object lookupKey = determineCurrentLookupKey();
    DataSource dataSource = this.resolvedDataSources.get(lookupKey);
    if (dataSource == null && (this.lenientFallback || lookupKey == null)) {
      dataSource = this.resolvedDefaultDataSource;
    }
    if (dataSource == null) {
      throw new IllegalStateException("Cannot determine target DataSource for lookup key [" + lookupKey + "]");
    }
    return dataSource;
  }
spring:  datasource:    master:      jdbc-url: jdbc:mysql://192.168.102.31:3306/test      username: root      password: 123456      driver-class-name: com.mysql.jdbc.Driver    slave1:      jdbc-url: jdbc:mysql://192.168.102.56:3306/test      username: pig   # 只读账户      password: 123456      driver-class-name: com.mysql.jdbc.Driver    slave2:      jdbc-url: jdbc:mysql://192.168.102.36:3306/test      username: pig   # 只读账户      password: 123456      driver-class-name: com.mysql.jdbc.Driver

我们最关心的还是下面2句话:

多数据源配置

Object lookupKey = determineCurrentLookupKey();
DataSource dataSource = this.resolvedDataSources.get(lookupKey);
package com.cjs.example.config;import com.cjs.example.bean.MyRoutingDataSource;import com.cjs.example.enums.DBTypeEnum;import org.springframework.beans.factory.annotation.Qualifier;import org.springframework.boot.context.properties.ConfigurationProperties;import org.springframework.boot.jdbc.DataSourceBuilder;import org.springframework.context.annotation.Bean;import org.springframework.context.annotation.Configuration;import javax.sql.DataSource;import java.util.HashMap;import java.util.Map;/** * 关于数据源配置,参考SpringBoot官方文档第79章《Data Access》 * 79. Data Access * 79.1 Configure a Custom DataSource * 79.2 Configure Two DataSources */@Configurationpublic class DataSourceConfig {    @Bean    @ConfigurationProperties("spring.datasource.master")    public DataSource masterDataSource() {        return DataSourceBuilder.create;    }    @Bean    @ConfigurationProperties("spring.datasource.slave1")    public DataSource slave1DataSource() {        return DataSourceBuilder.create;    }    @Bean    @ConfigurationProperties("spring.datasource.slave2")    public DataSource slave2DataSource() {        return DataSourceBuilder.create;    }    @Bean    public DataSource myRoutingDataSource(@Qualifier("masterDataSource") DataSource masterDataSource,                                          @Qualifier("slave1DataSource") DataSource slave1DataSource,                                          @Qualifier("slave2DataSource") DataSource slave2DataSource) {        Map<Object, Object> targetDataSources = new HashMap<>();        targetDataSources.put(DBTypeEnum.MASTER, masterDataSource);        targetDataSources.put(DBTypeEnum.SLAVE1, slave1DataSource);        targetDataSources.put(DBTypeEnum.SLAVE2, slave2DataSource);        MyRoutingDataSource myRoutingDataSource = new MyRoutingDataSource();        myRoutingDataSource.setDefaultTargetDataSource(masterDataSource);        myRoutingDataSource.setTargetDataSources(targetDataSources);        return myRoutingDataSource;    }}

determineCurrentLookupKey方法返回lookupKey,resolvedDataSources方法就是根据lookupKey从Map中获得数据源。resolvedDataSources 和determineCurrentLookupKey定义如下:

这里,我们配置了4个数据源,1个master,2两个slave,1个路由数据源。前3个数据源都是为了生成第4个数据源,而且后续我们只用这最后一个路由数据源。

  private Map<Object, DataSource> resolvedDataSources;

  protected abstract Object determineCurrentLookupKey()

MyBatis配置

看到以上定义,我们是不是有点思路了,resolvedDataSources是Map类型,我们可以把MasterDataSource和SlaveDataSource存到Map中,如下:

package com.cjs.example.config;import org.apache.ibatis.session.SqlSessionFactory;import org.mybatis.spring.SqlSessionFactoryBean;import org.springframework.context.annotation.Bean;import org.springframework.context.annotation.Configuration;import org.springframework.core.io.support.PathMatchingResourcePatternResolver;import org.springframework.jdbc.datasource.DataSourceTransactionManager;import org.springframework.transaction.PlatformTransactionManager;import org.springframework.transaction.annotation.EnableTransactionManagement;import javax.annotation.Resource;import javax.sql.DataSource;@EnableTransactionManagement@Configurationpublic class MyBatisConfig {    @Resource(name = "myRoutingDataSource")    private DataSource myRoutingDataSource;    @Bean    public SqlSessionFactory sqlSessionFactory() throws Exception {        SqlSessionFactoryBean sqlSessionFactoryBean = new SqlSessionFactoryBean();        sqlSessionFactoryBean.setDataSource(myRoutingDataSource);        sqlSessionFactoryBean.setMapperLocations(new PathMatchingResourcePatternResolver().getResources("classpath:mapper/*.xml"));        return sqlSessionFactoryBean.getObject();    }    @Bean    public PlatformTransactionManager platformTransactionManager() {        return new DataSourceTransactionManager(myRoutingDataSource);    }}
key  value
master MasterDataSource
slave SlaveDataSource

由于Spring容器中现在有4个数据源,所以我们需要为事务管理器和MyBatis手动指定一个明确的数据源。

我们在写一个类DynamicDataSource 继承AbstractRoutingDataSource,实现其determineCurrentLookupKey() 方法,该方法返回Map的key,master或slave。

3.3. 设置路由key / 查找数据源

好了,说了这么多,有点烦了,下面我们看下怎么实现。

目标数据源就是那前3个这个我们是知道的,但是使用的时候是如果查找数据源的呢?

上面已经提到了我们要使用的技术,我们先看下annotation的定义:

首先,我们定义一个枚举来代表这三个数据源

@Retention(RetentionPolicy.RUNTIME)
@Target(ElementType.METHOD)
public @interface DataSource {
  String value();
}
package com.cjs.example.enums;public enum DBTypeEnum {    MASTER, SLAVE1, SLAVE2;}

我们还需要实现spring的抽象类AbstractRoutingDataSource,就是实现determineCurrentLookupKey方法:

接下来,通过ThreadLocal将数据源设置到每个线程上下文中

public class DynamicDataSource extends AbstractRoutingDataSource {

  @Override
  protected Object determineCurrentLookupKey() {
    // TODO Auto-generated method stub
    return DynamicDataSourceHolder.getDataSouce();
  }

}


public class DynamicDataSourceHolder {
  public static final ThreadLocal<String> holder = new ThreadLocal<String>();

  public static void putDataSource(String name) {
    holder.set(name);
  }

  public static String getDataSouce() {
    return holder.get();
  }
}
package com.cjs.example.bean;import com.cjs.example.enums.DBTypeEnum;import java.util.concurrent.atomic.AtomicInteger;public class DBContextHolder {    private static final ThreadLocal<DBTypeEnum> contextHolder = new ThreadLocal<>();    private static final AtomicInteger counter = new AtomicInteger(-1);    public static void set(DBTypeEnum dbType) {        contextHolder.set;    }    public static DBTypeEnum get() {        return contextHolder.get();    }    public static void master() {        set(DBTypeEnum.MASTER);        System.out.println("切换到master");    }    public static void slave() {        //  轮询        int index = counter.getAndIncrement() % 2;        if (counter.get() > 9999) {            counter.set(-1);        }        if (index == 0) {            set(DBTypeEnum.SLAVE1);            System.out.println("切换到slave1");        }else {            set(DBTypeEnum.SLAVE2);            System.out.println("切换到slave2");        }    }}

从DynamicDataSource 的定义看出,他返回的是DynamicDataSourceHolder.getDataSouce()值,我们需要在程序运行时调用DynamicDataSourceHolder.putDataSource()方法,对其赋值。下面是我们实现的核心部分,也就是AOP部分,DataSourceAspect定义如下:

获取路由key

public class DataSourceAspect {

  public void before(JoinPoint point)
  {
    Object target = point.getTarget();
    String method = point.getSignature().getName();

    Class<?>[] classz = target.getClass().getInterfaces();

    Class<?>[] parameterTypes = ((MethodSignature) point.getSignature())
        .getMethod().getParameterTypes();
    try {
      Method m = classz[0].getMethod(method, parameterTypes);
      if (m != null && m.isAnnotationPresent(DataSource.class)) {
        DataSource data = m
            .getAnnotation(DataSource.class);
        DynamicDataSourceHolder.putDataSource(data.value());
        System.out.println(data.value());
      }

    } catch (Exception e) {
      // TODO: handle exception
    }
  }
}
package com.cjs.example.bean;import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource;import org.springframework.lang.Nullable;public class MyRoutingDataSource extends AbstractRoutingDataSource {    @Nullable    @Override    protected Object determineCurrentLookupKey() {        return DBContextHolder.get();    }}

为了方便测试,我定义了2个数据库,shop模拟Master库,test模拟Slave库,shop和test的表结构一致,但数据不同,数据库配置如下:

设置路由key

<bean id="masterdataSource"
    class="org.springframework.jdbc.datasource.DriverManagerDataSource">
    <property name="driverClassName" value="com.mysql.jdbc.Driver" />
    <property name="url" value="jdbc:mysql://127.0.0.1:3306/shop" />
    <property name="username" value="root" />
    <property name="password" value="yangyanping0615" />
  </bean>

  <bean id="slavedataSource"
    class="org.springframework.jdbc.datasource.DriverManagerDataSource">
    <property name="driverClassName" value="com.mysql.jdbc.Driver" />
    <property name="url" value="jdbc:mysql://127.0.0.1:3306/test" />
    <property name="username" value="root" />
    <property name="password" value="yangyanping0615" />
  </bean>

    <beans:bean id="dataSource" class="com.air.shop.common.db.DynamicDataSource">
    <property name="targetDataSources"> 
       <map key-type="java.lang.String"> 
         <!-- write -->
         <entry key="master" value-ref="masterdataSource"/> 
         <!-- read -->
         <entry key="slave" value-ref="slavedataSource"/> 
       </map> 

    </property> 
    <property name="defaultTargetDataSource" ref="masterdataSource"/> 
  </beans:bean>

  <bean id="transactionManager"
    class="org.springframework.jdbc.datasource.DataSourceTransactionManager">
    <property name="dataSource" ref="dataSource" />
  </bean>


  <!-- 配置SqlSessionFactoryBean -->
  <bean id="sqlSessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean">
    <property name="dataSource" ref="dataSource" />
    <property name="configLocation" value="classpath:config/mybatis-config.xml" />
  </bean>

默认情况下,所有的查询都走从库,插入/修改/删除走主库。我们通过方法名来区分操作类型

在spring的配置中增加aop配置

package com.cjs.example.aop;import com.cjs.example.bean.DBContextHolder;import org.apache.commons.lang3.StringUtils;import org.aspectj.lang.JoinPoint;import org.aspectj.lang.annotation.Aspect;import org.aspectj.lang.annotation.Before;import org.aspectj.lang.annotation.Pointcut;import org.springframework.stereotype.Component;@Aspect@Componentpublic class DataSourceAop {    @Pointcut("!@annotation(com.cjs.example.annotation.Master) " +            "&& (execution(* com.cjs.example.service..*.select* " +            "|| execution(* com.cjs.example.service..*.get*")    public void readPointcut() {    }    @Pointcut("@annotation(com.cjs.example.annotation.Master) " +            "|| execution(* com.cjs.example.service..*.insert* " +            "|| execution(* com.cjs.example.service..*.add* " +            "|| execution(* com.cjs.example.service..*.update* " +            "|| execution(* com.cjs.example.service..*.edit* " +            "|| execution(* com.cjs.example.service..*.delete* " +            "|| execution(* com.cjs.example.service..*.remove*")    public void writePointcut() {    }    @Before("readPointcut()")    public void read() {        DBContextHolder.slave();    }    @Before("writePointcut()")    public void write() {        DBContextHolder.master();    }    /**     * 另一种写法:if...else...  判断哪些需要读从数据库,其余的走主数据库     *///    @Before("execution(* com.cjs.example.service.impl.*.*//    public void before(JoinPoint jp) {//        String methodName = jp.getSignature().getName();////        if (StringUtils.startsWithAny(methodName, "get", "select", "find")) {//            DBContextHolder.slave();//        }else {//            DBContextHolder.master();//        }//    }}
<!-- 配置数据库注解aop -->
  <aop:aspectj-autoproxy></aop:aspectj-autoproxy>
  <beans:bean id="manyDataSourceAspect" class="com.air.shop.proxy.DataSourceAspect" />
  <aop:config>
    <aop:aspect id="c" ref="manyDataSourceAspect">
      <aop:pointcut id="tx" expression="execution(* com.air.shop.mapper.*.*(..))"/>
      <aop:before pointcut-ref="tx" method="before"/>
    </aop:aspect>
  </aop:config>
  <!-- 配置数据库注解aop -->

有一般情况就有特殊情况,特殊情况是某些情况下我们需要强制读主库,针对这种情况,我们定义一个主键,用该注解标注的就读主库

下面是MyBatis的UserMapper的定义,为了方便测试,登录读取的是Master库,用户列表读取Slave库:

package com.cjs.example.annotation;public @interface Master {}
public interface UserMapper {
  @DataSource("master")
  public void add(User user);

  @DataSource("master")
  public void update(User user);

  @DataSource("master")
  public void delete(int id);

  @DataSource("slave")
  public User loadbyid(int id);

  @DataSource("master")
  public User loadbyname(String name);

  @DataSource("slave")
  public List<User> list();
} 

例如,假设我们有一张表member

好了,运行我们的Eclipse看看效果,输入用户名admin 登录看看效果

package com.cjs.example.service.impl;import com.cjs.example.annotation.Master;import com.cjs.example.entity.Member;import com.cjs.example.entity.MemberExample;import com.cjs.example.mapper.MemberMapper;import com.cjs.example.service.MemberService;import org.springframework.beans.factory.annotation.Autowired;import org.springframework.stereotype.Service;import org.springframework.transaction.annotation.Transactional;import java.util.List;@Servicepublic class MemberServiceImpl implements MemberService {    @Autowired    private MemberMapper memberMapper;    @Transactional    @Override    public int insert(Member member) {        return memberMapper.insert;    }    @Master    @Override    public int save(Member member) {        return memberMapper.insert;    }    @Override    public List<Member> selectAll() {        return memberMapper.selectByExample(new MemberExample;    }    @Master    @Override    public String getToken(String appId) {        //  有些读操作必须读主数据库        //  比如,获取微信access_token,因为高峰时期主从同步可能延迟        //  这种情况下就必须强制从主数据读        return null;    }}

图片 3

4. 测试

图片 4

package com.cjs.example;import com.cjs.example.entity.Member;import com.cjs.example.service.MemberService;import org.junit.Test;import org.junit.runner.RunWith;import org.springframework.beans.factory.annotation.Autowired;import org.springframework.boot.test.context.SpringBootTest;import org.springframework.test.context.junit4.SpringRunner;@RunWith(SpringRunner.class)@SpringBootTestpublic class CjsDatasourceDemoApplicationTests {    @Autowired    private MemberService memberService;    @Test    public void testWrite() {        Member member = new Member();        member.setName("zhangsan");        memberService.insert;    }    @Test    public void testRead() {        for (int i = 0; i < 4; i++) {            memberService.selectAll();        }    }    @Test    public void testSave() {        Member member = new Member();        member.setName("wangwu");        memberService.save;    }    @Test    public void testReadFromMaster() {        memberService.getToken("1234");    }}

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

查看控制台

您可能感兴趣的文章:

  • Spring+Mybatis 实现aop数据库读写分离与多数据库源配置操作
  • Spring动态数据源实现读写分离详解
  • SpringBoot集成Spring Data JPA及读写分离
  • Spring+MyBatis实现数据库读写分离方案
  • Spring配置动态数据源实现读写分离的方法
  • java使用spring实现读写分离的示例代码

图片 5

图片 6

图片 7

图片 8

5. 工程结构


图片 9

6. 参考


本文由威尼斯发布于编程,转载请注明出处:数据源配置,Master库担当数据更新和实时数据查

关键词: