分布式 | DBLE 新全局表检查实现浅析[通俗易懂]

分布式 | DBLE 新全局表检查实现浅析[通俗易懂]作者:孙正方 爱可生 DBLE 核心研发成员,拥有丰富的分布式数据库中间件开发、咨询以及调优经验,擅长数据库中间件问题排查和处理,对线上中间件部分排错有深入的实践与认知。 本文来源:原创投稿 *爱可…

分布式 | DBLE 新全局表检查实现浅析

作者:孙正方 爱可生 DBLE 核心研发成员,拥有丰富的分布式数据库中间件开发、咨询以及调优经验,擅长数据库中间件问题排查和处理,对线上中间件部分排错有深入的实践与认知。 本文来源:原创投稿 *爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。


背景

在 dble 2.19.11.0 之前的版本中,继承于 Mycat 的实现,全局表检查是一个 server 级别的功能,并且通过在创建全局表的时候添加列 _dble_op_time 来进行实现。在实际使用中带来了许多棘手的问题。

  • 开关不便
  • 结果集处理不便
  • 数据导入处理不便

在 dble 2.19.11.0 中,考虑到生产中实际使用的场景和定义情况,按照以下的几点要求,对于全局表检查进行了重新的设计:

  • 检查开关在表格级别(只有部分表格需要检查)

  • 检查触发的具体时间需要能精确定义

  • 检查的方式要求可以自定义

  • 检查方式自定义要求足够足够简单明确

实现原理

根据以上提供的明确要点,dble 引入了 quartz 框架来进行定时任务的时间控制,并且在 schema.table 级别的标签上添加了以下的几个可选项:

  • globalCheck

  • cron

  • globalCheckClass

并且在加载过程中,将每一个 table 的全局表检查,作为一个独立的定时任务加载到 quartz 中去,之后便交由 quartz 进行触发和执行。

而至于每一个独立的定时任务,则可以和其他的 dble 中的自定义功能一样,由用户自定义以下几个方法:

  • getCountSQL (全局表检查 SQL 执行定义)

  • getFetchCols (全局表检查结果集列定义)

  • resultEquals (全局表检查结果对比方法)

  • failResponse (全局表检查失败反馈方法)

  • resultResponse (全局表检查结果反馈方法)

具体的执行逻辑和流程如下图所示:

分布式 | DBLE 新全局表检查实现浅析[通俗易懂]

简单的描述为以下步骤:

  • start/reload 的时候将表格所配置的定时任务加入到 quartz 中

  • quartz 触发定时任务

  • 实例化 AbstractConsistencyChecker 并执行

  • 根据方法 getCountSQL 确定需要执行的 SQL,并将 SQL 下发执行

  • 根据方法 getFetchCols 确定需要获取的 SQL 执行结果列

  • 根据方法 resultEquals 对于不同 MySQL 上的检查结果进行对比

  • 根据 failResponse 和 resultResponse 方法进行结果的反馈

全局表检查使用实例

当然,dble 内置了两种全局表检查的默认方法,并提供了对应的简称:

  • CHECKSUM

  • COUNT

顾名思义,以上的两种默认方法分别通过在不同的 MySQL 节点求取同名表的 checksum 值以及 count 的数量来进行比较不同 MySQL 节点上的数据的一致性。

具体则可以按照以下进行配置:

<!--dble内置CHECKSUM检查方式-->
<table name="tb_global1" dataNode="dn1,dn2" type="global" globalCheck="true" cron = "0 * * * * ?" globalCheckClass="CHECKSUM"/>
<!--dble内置COUNT检查方式-->
<table name="tb_global2" dataNode="dn1,dn2" type="global" globalCheck="true" cron = "0 * * * * ?" globalCheckClass="COUNT"/>

代码100分

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
转载请注明出处: https://daima100.com/8841.html

(0)
上一篇 2023-02-21
下一篇 2023-02-21

相关推荐

  • 进入hive命令_hadoop怎么进入hive

    进入hive命令_hadoop怎么进入hive[root@node01 apache-hive-2.1.1-bin]# bin/hiveSLF4J: Class path contains multiple SLF4J bindings.SLF4

    2023-03-05
    170
  • 一文带你学习DWS数据库用户权限设计与管理[通俗易懂]

    一文带你学习DWS数据库用户权限设计与管理[通俗易懂]前言 本文将介绍DWS基于RBAC(Role-Based Access Control,基于角色的访问控制)的数据库用户权限管理。简单地说,一个用户拥有若干角色,每一个角色拥有若干权限。这样,就构造…

    2023-03-28
    148
  • MongoDB的基本使用 – 纪宇

    MongoDB的基本使用 – 纪宇MongoDB简介 基于分布式文件存储的开源数据库系统 将数据存储为一个文档,文档类似于Json格式 MongoDB进入与退出 进入:mongo 退出:exit 库级操作 显示所有库: show db

    2022-12-21
    150
  • 数据库隔离级别[通俗易懂]

    数据库隔离级别[通俗易懂]数据库隔离级别 如果没有隔离级别会出现的问题 脏读 意思是读取到了事务正在修改的数据,如果事务回滚,那么拿到的数据就是错误的 | 时间 | 事务A | 事务B | | | | | | 1 | 开始事务

    2023-02-14
    148
  • 数据库的范式详解[通俗易懂]

    数据库的范式详解[通俗易懂]关系数据库设计之时是要遵守一定的规则的。尤其是数据库设计范式 现简单介绍1NF(第一范式),2NF(第二范式),3NF(第三范式)和BCNF,另有第四范式和第五范式留到以后再介绍。 在你设计数据库之时

    2023-04-17
    157
  • redis的基本操作_redis ziplist

    redis的基本操作_redis ziplistRedis 有序集合和集合一样也是string类型元素的集合,且不允许重复的成员。 不同的是每个元素都会关联一个double类型的分数。redis正是通过分数来为集合中的成员进行从小到大的排序。 有序

    2023-03-08
    162
  • 解决Access文件越来越大的问题[通俗易懂]

    解决Access文件越来越大的问题[通俗易懂]有时候在使用Access文件的时候,随着增删改的不断的连续,会导致文件越来越大。即使手动删除或者使用delete语句删除了大量的数据记录,会发现文件的大小依然没有减掉,而且随着你再往里写数据,又会增…

    2023-03-31
    157
  • Linux服务器如何设置防火墙「建议收藏」

    Linux服务器如何设置防火墙「建议收藏」防火墙是服务器租用后必不可少的安全保护措施。忘记配置服务器防火情,将使您的服务器处于巨大的安全漏洞风险中。防火墙设置可允许您删除连接到网络中的不必要的软件,进而避免您的服务器及其端口受到恶意入侵。 …

    2022-12-24
    152

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注