记一次数据库迁移的过程采坑过程「建议收藏」

记一次数据库迁移的过程采坑过程「建议收藏」业务场景 最近的一个项目最开始由于资源问题,mysql 数据库是部署在一台云服务器上的,这两天客户提供了云数据库,所以原来在部署在 ECS 服务器上的数据库,需要迁移到云数据库。在云数据库上的优势很…

记一次数据库迁移的过程采坑过程

迁移步骤

迁移数据库是一项需要很谨慎的任务。整个迁移过程大概分成以下几步:

  1. 备份原数据库数据
//备份数据库,并指定日期
mysqldump -uadmin -p****** databaseName | gzip > /databak/databaseName_$(date +%Y%m%d).sql.gz

代码100分

  1. 云数据库上初始化数据库、编码、用户名、数据库等基础信息 先通过腾讯云平台创建用户,以及相关权限
代码100分//连接数据库
mysql -h172.16.0.1 -uUserName -p******
//创建数据库,并指定编码
CREATE DATABASE databaseName DEFAULT CHARACTER SET  utf8mb4 COLLATE utf8mb4_general_ci;
  1. 执行还原操作
//解压备份好的.sql文件
gunzip -v /databak/databaseName_20200517.sql.gz
//还原数据库
source /databak/databaseName_20200517.sql

产生的问题

正常情况下,按照以上迁移数据的步骤,应该等还原操作完成即可,但是事情往往不会那么顺利,如果很顺利可能我们对数据库迁移的认知就到这里就可以了。

实际上在执行还原操作时出现了错误。 主要出现两次问题

  1. 没有主键
代码100分ERROR 1173 (42000): This table type requires a primary key
  1. 表的存储引擎不对
Can not create tables in myisam storage engine in user databases, controled by reject_create_table_myisam variable.

看到这两个问题,感觉比较奇怪,因为最开始在测试数据库自动备份时,已经对备份的sql文件还原过,没有发现有什么错误。为什么这一次迁移就出现这两个问题呢?

排查方法

建表缺少主键

针对问题1,看日志比较容易明白意思,就是表需要主键,这个时候就想先看看数据库中有哪些没有主键的表,看看能否直接指定。

查询没有主键的表的sql如下:

SELECT table_schema, table_name,TABLE_ROWS
FROM information_schema.tables
WHERE (table_schema, table_name) NOT IN (
SELECT DISTINCT table_schema, table_name
FROM information_schema.columns
WHERE COLUMN_KEY = "PRI"
)
AND table_schema NOT IN ("sys", "mysql", "information_schema", "performance_schema");

查询结果分析发现这些表和错误日志中的表匹配。然后查看了两张表发现的确都是没有指定主键的。正常 mysql 的设计中,如果在创建表时没有显式地定义主键,则 InnoDB 存储引擎会按如下方式选择或创建主键:

  1. 首先判断表中是否有非空的唯一索引,如果有,则该列即为主键。
  2. 如果不符合上述条件,InnoDB存储引擎自动创建一个6字节大小的指针。

但是还是报那个错。这时在想是否和数据库的版本有关系。经过 google 搜索大部分的结果都是定位到数据库的参数设置了表一定要指定主键。

解决办法如下:

//查询变量查看是否开启了强制主键,也就是建表必须有主键约束,
show global variables like "innodb_force_primary_key";
//如果是ON则设置成OFF即可
set global  innodb_force_primary_key=off;

当然我也找找这个方法去尝试了,但我执行第一句时,发现没有找到结果。然后也经过了解这个参数是mysql8.0以及MariaDB中才有这个参数。强制执行

set global  innodb_force_primary_key=off;

出现如下错误:

ERROR 1193 (HY000): Unknown system variable "innodb_force_primary_key"

所以这种方法行不通。但通过这个解决方法,我猜测问题可能就是和变量设置有关系,于是我查看了所有的 mysql 全局变量,最后找到了问题所在。

问题定位:原来腾讯云上的分布式数据库tdsql中,设置建表需要主键的参数为 reject_table_no_pk 这个时候就能定位到问题所在了。

表的存储引擎不对

通过如下sql可以查询一个库中所有使用MyISAM存储引擎创建的表

SELECT * FROM information_schema.tables where engine="MyISAM" and TABLE_SCHEMA="databaseName"

查出来的表和还原错误日志报错的表也匹配了。

通过分析问题1时,在查找全局变量时存在如下变量。

reject_create_table_myisam 意思就是拒绝使用 myisam 存储引擎建表。所以问题2也定位到了问题源头。

解决方案

通过上面一步一步分析问题,已经找到了问题的源头,找到了问题的产生原因。对于问题的解决就比较好处理了。

方法1

登录超级管理员,对这两个参数进行设置

set global reject_table_no_pk 0;
set global reject_create_table_myisam OFF;

设置完成之后,重新执行还原操作,发现问题解决。但是分布式数据库新增了的这两个参数其实是有他的用处的,这种默认值最好不要轻易调整,因为云数据库还有一个优势就是大部分的参数都调成了最佳。

通过资料搜索发现原来这两个参数是有重要作用的。 TDSQL 内核使用 row 格式的 binlog 复制。根据目前 MariaDB/MySQL 的实现方式,如果一个 update/delete 语句更新或者删除了很多行,那么到了备机上面,更新或者删除每个行时候,需要使用索引扫描或者全表扫描来找到这个行,导致备机复制变得非常慢,这是非常严重的问题。 在 TDSQL 的告警平台上面就有用户出现过主备延迟因此变得非常大的告警。为了避免这些致命问题的出现,所以才有“自动增加主键”和“禁止 create table/alter table 语句产生无主键的表”

方法2

方法1能够解决还原问题,也能够解决一般数据量不大的应用。但是如果后面业务增长,可能还是需要将参数调整回来。此时方法1的解决方案就行不通了。

方法2实际就是针对没有主键的表设置主键,没有主键的表新增主键。以符合分布式数据库要求。

而对于数据库存储引擎为myisam的表通过sql语句直接调整。

//修改表的存储引擎
alter table table_name engine=innodb;

总结

数据库内容很多,很深,我们在处理工作中实际问题时,需要多多思考。从解决实际问题的过程中去深入知识点,扩展知识点。这样才能提高。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
转载请注明出处: https://daima100.com/8391.html

(0)
上一篇 2023-02-28
下一篇 2023-02-28

相关推荐

  • 数据库规范_sqlserver云服务器

    数据库规范_sqlserver云服务器2022年6月7日,北京时间11:30,随着高考第一场科目语文考试结束,全国各地的高考作文题也正式在公众面前“登台亮相”。今年全国乙卷的高考作文题目是“跨越,再跨越”,双奥之城闪耀世界,两次奥运会展示

    2023-05-21
    149
  • 讲解Python函数重载的实现方式

    讲解Python函数重载的实现方式Python是一门高级编程语言,由于其简介易学且功能强大,被广泛的应用于各行各业。但在编程中,尤其是在函数定义时,我们经常会遇到一些同名函数的情况。本文将为大家详细介绍Python函数重载的实现方式,帮助读者更好地理解和使用Python。

    2024-07-15
    52
  • 使用机器学习预测股价「建议收藏」

    使用机器学习预测股价「建议收藏」股票价格预测有助于确定未来几天或几周内股票的走势,或者至少显示趋势。股票价格取决于多种因素,例如: 基本因素:收入,利润,市场份额,业务的潜在增长前景 外部因素:大流行病,例如新冠,外汇汇率,石油价格

    2023-04-16
    149
  • SQL Server解惑——为什么你的查询结果超出了查询时间范围[通俗易懂]

    SQL Server解惑——为什么你的查询结果超出了查询时间范围[通俗易懂]废话少说,直接上SQL代码(有兴趣的测试验证一下),下面这个查询语句为什么将2008-11-27的记录查询出来了呢?这个是同事遇到的一个问题,个人设计了一个例子。 USE AdventureWorks

    2022-12-17
    146
  • 学习记录-py2neo:Neo4j数据库的python驱动

    学习记录-py2neo:Neo4j数据库的python驱动 安装: 直接在命令行pip3 install py2neo 官网下载(解压后放到python下的scripts中,在py2neo目录下cmd,输入python setup.py instal…

    2023-03-29
    157
  • 9.2基础查询「建议收藏」

    9.2基础查询「建议收藏」9.2.1查询所有的列 *表示所有列 ##查询所有的员工信息 Select * from emp; 9.2.2查询指定列 输入特指表里的单独列名进行查询 Select empno,ename,dept

    2023-04-14
    149
  • Mysql基础(一)「建议收藏」

    Mysql基础(一)「建议收藏」准备工作 1.开启服务器 ··windows系统: 方法1.搜索服务,找到mysql并开启. 方法2.如果安装的是5.7版本,cmd中输入: net start MySQL57 &

    2023-03-04
    139
  • docker hash_docker hbase

    docker hash_docker hbase前言: 本文主要讲述了如何使用Docker快速上手HBase,省去繁杂的安装部署环境,直接上手,小白必备。适合HBase入门学习及简单代码测试。 1. Docker 安装 参考地址: 支持常用的操作系

    2023-03-04
    172

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注