工具 | 常用 PostgreSQL 预防数据丢失方案[亲测有效]

工具 | 常用 PostgreSQL 预防数据丢失方案[亲测有效]作者:张连壮 PostgreSQL 研发负责人 从事多年 PostgreSQL 数据库内核开发,对 Citus 有非常深入的研究。 PostgreSQL 本身不具备数据闪回和数据误删除保护功能,但在不

工具 | 常用 PostgreSQL 预防数据丢失方案

作者:张连壮 PostgreSQL 研发负责人

从事多年 PostgreSQL 数据库内核开发,对 Citus 有非常深入的研究。

PostgreSQL 本身不具备数据闪回和数据误删除保护功能,但在不同场景下也有对应的解决方案。

本文由作者在 2021 PCC 大会的演讲主题《PostgreSQL 数据找回》整理而来,上一篇《盘点 | 常用 PG 数据恢复方案概览》介绍了 PostgreSQL 常见的 数据恢复方案。本篇将介绍 预防数据丢失方案的实现原理及使用示例。

预防数据丢失方案

前文提到数据丢失的主要操作为 DDL 和 DML 。

本篇主要介绍关于 DDL 和 DML 操作,如何预防数据丢失的方案。

DDL 操作

事件触发器

当事件以其定义的方式在数据库中相关的发生时,触发事件触发器。主要可预防以下四种 DDL 事件。

事件 说明
ddl_command_start DDL 执行前执行
ddl_command_end DDL 执行后执行, 通过 pg_event_trigger_ddl_commands() 可以获取操作的对象
sql_drop DDL 执行后执行, 通过 pg_event_trigger_dropped_objects() 可以获取所有被删除的对象
table_rewrite DDL 执行前执行, 例如 ALTER TABLE、ALTER TYPE 等

当表被删除后,可以通过 ddl_command_start 事件组织删除操作。

CREATE OR REPLACE FUNCTION disable_drops()
    RETURNS event_trigger LANGUAGE plpgsql AS $$
BEGIN
     RAISE EXCEPTION "drop table denied";
END
$$; -- 创建事件触发器函数
 
CREATE EVENT TRIGGER event_trigger_disable_drops
    ON ddl_command_start WHEN TAG in("drop table")
    EXECUTE PROCEDURE disable_drops(); -- 创建事件触发器,禁止drop table操作

事件触发器,无法修改 drop 的任何行为,因此只能拒绝,来确保数据不被删除,由其他拥有更高权限的数据库管理员删除。

test=# dy
                                        事件触发器列表
            名称             |       Event       | 拥有者  | 使能 |     函数      |    标签    
-----------------------------+-------------------+---------+------+---------------+------------
 event_trigger_disable_drops | ddl_command_start | lzzhang | 启用 | disable_drops | DROP TABLE
(1 行记录)
 
test=# drop table lzzhang;
ERROR:  drop table denied
CONTEXT:  PL/pgSQL function disable_drops() line 3 at RAISE

删除表的操作由拥有更高级权限的数据库管理员操作。

BEGIN;
ALTER EVENT TRIGGER event_trigger_disable_drops DISABLE;
DROP TABLE lzzhang;
ALTER EVENT TRIGGER event_trigger_disable_drops ENABLE;
COMMIT;

回收站

DDL 会将文件从操作系统中完全删除,因此唯一的办法是将删除改为换一个”位置”,类似 Windows 中回收站。

pgtanshscan[1] 便是一种回收站工具,并且只能通过插件采用 hook 的方式来实现。

if (nodeTag(parsetree) == T_DropStmt)
{
                if (stmt->removeType == OBJECT_TABLE)
{
AlterObjectSchemaStmt *newstmt = makeNode(AlterObjectSchemaStmt);
newstmt->newschema = pstrdup(trashcan_nspname);

通过其代码示例可以看出, DROP TABLE 操作被转换成了 ALTER 操作。

由于 pgtrashcan 代码陈旧,已经有 8 年未更新,不适配新版本 PG。且仅支持移动功能,并不支持彻底清除功能。由此,pgtrashcan 做了很多优化。

  • 支持新版本 PG 14/13/12
  • 通过插件的 depend 功能,依赖 pg_cron
  • 自动设置 pg_cron 将其回收站中超过 1 天的数据清除

DML 操作

通过参数 vacuum_defer_cleanup_age 来调整 Dead 元组在数据库中的量,以便恢复误操作的数据。接下来将根据 流复制延迟恢复备份恢复两种设计方案来具体介绍:

流复制延迟恢复

PostgreSQL 流复制时可以通过 recovery_min_apply_delay 设置相应的延迟时间。例如设置 5 小时,备库可以延迟应用最近 5 小时的日志,提供最多 5 小时的数据恢复窗口,延迟的应用日志的同时并不影响日志的接受,源库的日志仍然是实时的被延迟恢复节点接受。

找回数据的具体操作步骤如下:

  1. 暂停延迟恢复 pg_wal_replay_pause()
  2. 通过 pg_dump 或 copy 操作将其需要的数据找出来;
  3. 通过 psql、copy、pg_restore 等操作将数据导入源库中;
  4. 继续延迟 pg_wal_replay_resume()

备份恢复

从备份模式的角度来说,备份主要包括以下两种:

  • 逻辑备份
    不能进行实时备份,因此不太适用于数据找回,会丢失很多数据。

  • 物理备份
    物理备份拥有与源集群完全一致的数据,因此可以持续使用源集群的 WAL 日志,达到数据找回的目标,原理上也是延迟恢复。

物理备份与 PITR 结合,可恢复数据到任意时间点。可选用工具有很多,如下几种是常用的恢复工具。

  • pg_basebackup[2]
  • pg_probackup[3]
  • pgbackrest[4]
  • barman[5]
  • pg_rman[6]

总结

  1. 注意权限划分。危险操作或是 DDL 等影响大的操作,一定要由第二个数据库管理员操作。
  2. 提前做好数据找回和数据安全的方案规划。
  3. 流复制延迟恢复,同样需要设置 recovery_target_xid 、recovery_target_time 或recovery_target_lsn 来精准的定位到完整的数据集。
  4. pg_waldump 是数据找回必备的一个功能。
  5. 如果方案是重型的,轻型的插件有时会是更好的选择。
  6. 若无任何准备,且不能安装任何插件,可第一时间将数据库关机!!!防止 Dead 元组被清理,拷贝整个集群,使用拷贝后的集群用 pg_resetwal 进行数据恢复。

参考引用

[1] :pgtrashcan:https://github.com/petere/pgtrashcan

[2]:pg_basebackup:https://www.postgresql.org/docs/10/app-pgbasebackup.html

[3]:pg_probackup:https://github.com/postgrespro/pg_probackup

[4]:pgbackrest:https://github.com/pgbackrest/pgbackrest

[5]:barman:https://github.com/EnterpriseDB/barman

[6]:pg_rman:https://github.com/ossc-db/pg_rman

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
转载请注明出处: https://daima100.com/5543.html

(0)
上一篇 2023-05-05
下一篇 2023-05-05

相关推荐

  • Redis的Java客户端[亲测有效]

    Redis的Java客户端[亲测有效]- Jedis
    – 优点:以 Redis 命令作为方法名称,学习成本低廉,简单且实用
    – 缺点:Jedis 的实例是线程不安全的,在多线程的环境下需要基于线程池来使用
    – lettuce(sp

    2023-05-20
    101
  • 虚拟机里怎么安装sql数据库_windows sql server

    虚拟机里怎么安装sql数据库_windows sql server配置 Internal Load Balancer 创建load balancer 我的三台VM都位于sqldemoVNET/linuxsubnet子网,AG Listener之前在SQL中配置是17

    2023-02-22
    103
  • Python中的continue语句如何正确在循环中使用

    Python中的continue语句如何正确在循环中使用在Python的循环语句中,continue语句用于跳过当前循环内剩余的语句,并开始下一轮循环。当某些条件满足时,我们可以使用continue语句来忽略当前的循环,然后继续执行下一轮循环。

    2024-02-19
    53
  • Python Mapping Essentials

    Python Mapping Essentials在现代技术中,地图信息是至关重要的。在生产、运输、安全等领域,地图是一个非常重要的工具。Python开发者可以使用各种库来推动地图应用的开发,例如:基于Google Maps、OpenStreetMap等地图数据源的开发。在本文中,我们将介绍使用Python开发地图应用所需的必要技能和知识方面,并将涉及一些有关地图数据采集、分析和可视化的功能。

    2024-05-07
    17
  • TcaplusDB君3月17日的行业新闻汇编「终于解决」

    TcaplusDB君3月17日的行业新闻汇编「终于解决」TcaplusDB君一直密切关注着游戏行业和数据库行业的动态。以下是TcaplusDB君收集的近期的游戏行业和数据库行业的新闻,汇编整理,献给大家观看。 (本篇文章部分内容来自网络) 美国手游市场总…

    2023-04-11
    123
  • Python Flask面试问题 – 面试必备

    Python Flask面试问题 – 面试必备Flask是一个Web框架,它依赖于Werkzeug和Jinja2。Werkzeug是一个WSGI工具集,Jinja2是一个模板引擎。这个框架是轻量级的,它让你可以灵活地组织和管理Web应用。与Django相比,Flask缺少一些基础设施,例如ORM,表单验证等,但这使得它更加灵活。

    2024-01-17
    54
  • redis精讲_小试牛刀接下来是什么

    redis精讲_小试牛刀接下来是什么随着互联网的高速发展,传统的关系数据库(如MySQL、Microsoft SQL Server等)已不能满足日益增长的业务需求,如商品秒杀、抢购等及时性非常强的功能,随着应用高并发的访问,会造成系统数

    2023-02-13
    99
  • 找用户思维_思维进阶课堂是什么

    找用户思维_思维进阶课堂是什么首先看一张图片 select max(paymoney) as mp,user_name from users_buy group by user_name //第一步 更新语句也可以 inner …

    2023-03-08
    113

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注