记一次数据库迁移的过程采坑过程「建议收藏」

记一次数据库迁移的过程采坑过程「建议收藏」业务场景 最近的一个项目最开始由于资源问题,mysql 数据库是部署在一台云服务器上的,这两天客户提供了云数据库,所以原来在部署在 ECS 服务器上的数据库,需要迁移到云数据库。在云数据库上的优势很…

记一次数据库迁移的过程采坑过程

迁移步骤

迁移数据库是一项需要很谨慎的任务。整个迁移过程大概分成以下几步:

  1. 备份原数据库数据
//备份数据库,并指定日期
mysqldump -uadmin -p****** databaseName | gzip > /databak/databaseName_$(date +%Y%m%d).sql.gz

代码100分

  1. 云数据库上初始化数据库、编码、用户名、数据库等基础信息 先通过腾讯云平台创建用户,以及相关权限
代码100分//连接数据库
mysql -h172.16.0.1 -uUserName -p******
//创建数据库,并指定编码
CREATE DATABASE databaseName DEFAULT CHARACTER SET  utf8mb4 COLLATE utf8mb4_general_ci;
  1. 执行还原操作
//解压备份好的.sql文件
gunzip -v /databak/databaseName_20200517.sql.gz
//还原数据库
source /databak/databaseName_20200517.sql

产生的问题

正常情况下,按照以上迁移数据的步骤,应该等还原操作完成即可,但是事情往往不会那么顺利,如果很顺利可能我们对数据库迁移的认知就到这里就可以了。

实际上在执行还原操作时出现了错误。 主要出现两次问题

  1. 没有主键
代码100分ERROR 1173 (42000): This table type requires a primary key
  1. 表的存储引擎不对
Can not create tables in myisam storage engine in user databases, controled by reject_create_table_myisam variable.

看到这两个问题,感觉比较奇怪,因为最开始在测试数据库自动备份时,已经对备份的sql文件还原过,没有发现有什么错误。为什么这一次迁移就出现这两个问题呢?

排查方法

建表缺少主键

针对问题1,看日志比较容易明白意思,就是表需要主键,这个时候就想先看看数据库中有哪些没有主键的表,看看能否直接指定。

查询没有主键的表的sql如下:

SELECT table_schema, table_name,TABLE_ROWS
FROM information_schema.tables
WHERE (table_schema, table_name) NOT IN (
SELECT DISTINCT table_schema, table_name
FROM information_schema.columns
WHERE COLUMN_KEY = "PRI"
)
AND table_schema NOT IN ("sys", "mysql", "information_schema", "performance_schema");

查询结果分析发现这些表和错误日志中的表匹配。然后查看了两张表发现的确都是没有指定主键的。正常 mysql 的设计中,如果在创建表时没有显式地定义主键,则 InnoDB 存储引擎会按如下方式选择或创建主键:

  1. 首先判断表中是否有非空的唯一索引,如果有,则该列即为主键。
  2. 如果不符合上述条件,InnoDB存储引擎自动创建一个6字节大小的指针。

但是还是报那个错。这时在想是否和数据库的版本有关系。经过 google 搜索大部分的结果都是定位到数据库的参数设置了表一定要指定主键。

解决办法如下:

//查询变量查看是否开启了强制主键,也就是建表必须有主键约束,
show global variables like "innodb_force_primary_key";
//如果是ON则设置成OFF即可
set global  innodb_force_primary_key=off;

当然我也找找这个方法去尝试了,但我执行第一句时,发现没有找到结果。然后也经过了解这个参数是mysql8.0以及MariaDB中才有这个参数。强制执行

set global  innodb_force_primary_key=off;

出现如下错误:

ERROR 1193 (HY000): Unknown system variable "innodb_force_primary_key"

所以这种方法行不通。但通过这个解决方法,我猜测问题可能就是和变量设置有关系,于是我查看了所有的 mysql 全局变量,最后找到了问题所在。

问题定位:原来腾讯云上的分布式数据库tdsql中,设置建表需要主键的参数为 reject_table_no_pk 这个时候就能定位到问题所在了。

表的存储引擎不对

通过如下sql可以查询一个库中所有使用MyISAM存储引擎创建的表

SELECT * FROM information_schema.tables where engine="MyISAM" and TABLE_SCHEMA="databaseName"

查出来的表和还原错误日志报错的表也匹配了。

通过分析问题1时,在查找全局变量时存在如下变量。

reject_create_table_myisam 意思就是拒绝使用 myisam 存储引擎建表。所以问题2也定位到了问题源头。

解决方案

通过上面一步一步分析问题,已经找到了问题的源头,找到了问题的产生原因。对于问题的解决就比较好处理了。

方法1

登录超级管理员,对这两个参数进行设置

set global reject_table_no_pk 0;
set global reject_create_table_myisam OFF;

设置完成之后,重新执行还原操作,发现问题解决。但是分布式数据库新增了的这两个参数其实是有他的用处的,这种默认值最好不要轻易调整,因为云数据库还有一个优势就是大部分的参数都调成了最佳。

通过资料搜索发现原来这两个参数是有重要作用的。 TDSQL 内核使用 row 格式的 binlog 复制。根据目前 MariaDB/MySQL 的实现方式,如果一个 update/delete 语句更新或者删除了很多行,那么到了备机上面,更新或者删除每个行时候,需要使用索引扫描或者全表扫描来找到这个行,导致备机复制变得非常慢,这是非常严重的问题。 在 TDSQL 的告警平台上面就有用户出现过主备延迟因此变得非常大的告警。为了避免这些致命问题的出现,所以才有“自动增加主键”和“禁止 create table/alter table 语句产生无主键的表”

方法2

方法1能够解决还原问题,也能够解决一般数据量不大的应用。但是如果后面业务增长,可能还是需要将参数调整回来。此时方法1的解决方案就行不通了。

方法2实际就是针对没有主键的表设置主键,没有主键的表新增主键。以符合分布式数据库要求。

而对于数据库存储引擎为myisam的表通过sql语句直接调整。

//修改表的存储引擎
alter table table_name engine=innodb;

总结

数据库内容很多,很深,我们在处理工作中实际问题时,需要多多思考。从解决实际问题的过程中去深入知识点,扩展知识点。这样才能提高。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
转载请注明出处: https://daima100.com/8391.html

(0)
上一篇 2023-02-28
下一篇 2023-02-28

相关推荐

  • django项目中.gitignore文件忽略上传的文件,以及数据库迁移文件到底是否需要上传吗?

    django项目中.gitignore文件忽略上传的文件,以及数据库迁移文件到底是否需要上传吗? Django项目上传。gitignore文件建议忽略文件清单以及是否转移数据库的迁移文件: Django项目开发或改动将本地代码提交到代码库时,我们需要忽略部分文件上传,占用内存; 1.创建…

    2023-03-23
    116
  • web项目踩坑过程[通俗易懂]

    web项目踩坑过程[通俗易懂]sql函数设计: 一开始本来是直接用Java的jdbc直接传输操作语句的。但后来学了存储过程发现存储过程可以提高不少的效率。就重构了自己对数据库的操作代码。包括:开启,查找,修改,关闭。 开启:直接使

    2022-12-22
    98
  • 启动MySQL如何加载Jemalloc[通俗易懂]

    启动MySQL如何加载Jemalloc[通俗易懂]作者:叶金荣,知数堂联合创始人 如何加载Jemalloc。 有时候,我们想采用Jemalloc代替glibc自带的lib库,或者如果想启用TokuDB引擎,则就必须启用Jemalloc才行了。 如果…

    2023-02-01
    93
  • 提高用户粘性:Python实现的小技巧

    提高用户粘性:Python实现的小技巧个性化推荐是现今很多网站都在实践的一种方法,它可以帮助用户更快速地找到自己感兴趣的内容,并且增强用户对网站的粘性。Python中有很多机器学习库可以实现个性化推荐的算法,如Scikit-learn、TensorFlow等。其中,基于协同过滤的推荐算法比较常见。下面是一个协同过滤的推荐示例:

    2024-01-24
    58
  • 电脑老师CPU爆满_cpu耗尽故障

    电脑老师CPU爆满_cpu耗尽故障问题描述 公司项目测试环境调用某些接口的时候,服务器立即崩溃,并一定时间内无法提供服务。 问题排查 服务器配置不够 第一反应是服务器需要升配啦,花钱解决一切!毕竟测试服务器配置确实不高,2CPU +

    2023-01-27
    125
  • 降噪耳机性价比之王 静享音乐必备神器[通俗易懂]

    降噪耳机性价比之王 静享音乐必备神器[通俗易懂]     现在的生活越来越离不开无线耳机了,随着主动降噪技术被逐步攻克,近年来诞生了不少内置降噪性能的耳机产品。大家肯定也和我一样十分好奇,在这么多降噪耳机中究竟哪款才是性价比之王?其实就这个问题我…

    2023-02-26
    100
  • ORA-01658: 无法为表空间 XXX 中的段创建 INITIAL 区[通俗易懂]

    ORA-01658: 无法为表空间 XXX 中的段创建 INITIAL 区[通俗易懂]ORA-01658: 无法为表空间 XXX中的段创建 INITIAL 区 表示表空间撑满了,需要扩充表空间,如果最大值也超过了就要新增数据文件 扩充表空间的几个方式 alter database d…

    2022-12-16
    107
  • MySQL日志简介「建议收藏」

    MySQL日志简介「建议收藏」一.MySQL日志简介 二.错误日志 作用: 记录mysql数据库的一般状态信息及报错信息,是我们对于数据库常规报错处理的常用日志。 默认位置: $MYSQL_HOME/data/ 开启方式: (My

    2022-12-18
    99

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注