深入理解Cassandra中用户指定的Compaction执行「建议收藏」

深入理解Cassandra中用户指定的Compaction执行「建议收藏」在本文中,我将向您介绍Apache Cassandra中的一个高级选项,称为用户自定义compaction。顾名思义,这是一个告诉Cassandra显式地为一个或多个表创建compaction任务,…

在本文中,我将向您介绍Apache Cassandra中的一个高级选项,称为用户自定义compaction。顾名思义,这是一个告诉Cassandra显式地为一个或多个表创建compaction任务,然后这个任务被移交给Cassandra运行时,像其他任何compaction一样执行。

这不是你每天都需要做的操作。但是,当您希望立即回收磁盘空间,而不希望等待正常compaction启动时,它非常有用。

除非您运行的是Cassandra 3.4版(请参阅CASSANDRA-10660),否则需要使用JMX来发布用户定义的Compact.如果您以前没有使用过jmx命令,那么一开始可能会觉得很难接受。如果您来自非java背景,那么它很可能是一个完全陌生的概念。别让那吓跑你!在本文结束时,您将能够使用名为jmxterm的实用程序执行用户定义的compact。

为了演示这个过程,我们将使用本地安装的Cassandra 3.0.9,它加载了movielens数据(请参阅Movielens项目),使用CDM实用程序并强制刷新到磁盘(要了解更多关于CDM的信息,请参阅此TLP博客文章):

cdm install movielens
nodetool flush

代码100分

需要调用nodetool flush以确保memtables已写入磁盘,如果我们不这样做,我们的数据将被放在内存中,Compaction是需要数据存在磁盘上。

我注意到movielens keyspace的用户目录中的数据文件:

代码100分jhaddad@rustyrazorblade ~/dev/cassandra$ find data/data/movielens/  -name "*Data.db"
data/data/movielens//movies-6728183094d311e68b105dbb96ed2de2/mc-1-big-Data.db
data/data/movielens//ratings_by_movie-6c2408d094d311e68b105dbb96ed2de2/mc-1-big-Data.db
data/data/movielens//ratings_by_user-69a85a7094d311e68b105dbb96ed2de2/mc-1-big-Data.db
data/data/movielens//users-68668ba094d311e68b105dbb96ed2de2/mc-1-big-Data.db

你可以在上面的输出中看到,我们有一个“users”目录,其中有一个数据文件mc-1-big-data.db。我们稍后需要完整的路径。

既然磁盘上有SSTables,那么让我们使用JMX来调用compact,因此我们首先需要获取jmxterm,这可能是整个过程中最棘手的部分,因为原始jmxterm页面上的下载链接已断开。从下载jmxterm的目录中使用以下命令启动它:

  java -jar jmxterm-1.0-alpha-4-uber.jar

要查看所有可用的命令,请使用help命令(输出被截断):

代码100分$>help
#following commands are available to use:
about    - Display about page
bean     - Display or set current selected MBean.
beans    - List available beans under a domain or all domains
...
open     - Open JMX session or display current connection
option   - Set options for command session
quit     - Terminate console and exit
run      - Invoke an MBean operation
set      - Set value of an MBean attribute

不过,我们要做的第一件事实际上是链接上Cassandra。标准的jmx端口是7199,你可以将其与主机一起传递给open命令:

$>open localhost:7199
#Connection to localhost:7199 is opened

在连接打开的情况下,我们可以在这里键入bean以获取可以访问的mbean列表。mbean只是通过jmx控制数据库的一种方式。我简化了输出,以便更容易找到我们要找的东西,CompactionManager:

$>beans -d org.apache.cassandra.db
#domain = org.apache.cassandra.db:
org.apache.cassandra.db:columnfamily=IndexInfo,keyspace=system,type=ColumnFamilies
org.apache.cassandra.db:columnfamily=aggregates,keyspace=system_schema,type=ColumnFamilies
...
org.apache.cassandra.db:type=CompactionManager
...

现在我们知道了mbean的名称,可以调用run命令,将mbean方法名forceuserdefinedcompaction和一个或多个文件路径作为参数传递:

$>run -b org.apache.cassandra.db:type=CompactionManager forceUserDefinedCompaction data/data/movielens//users-68668ba094d311e68b105dbb96ed2de2/mc-1-big-Data.db
#calling operation forceUserDefinedCompaction of mbean org.apache.cassandra.db:type=CompactionManager
#operation returns:
null

不幸的是,不是很令人高兴的输出。只有在查看目录后,我们才能看到文件号已从mc-1更改为mc-2:

jhaddad@rustyrazorblade ~/dev/cassandra$ ls data/data/movielens/users-68668ba094d311e68b105dbb96ed2de2/*Data.db
data/data/movielens/users-68668ba094d311e68b105dbb96ed2de2/mc-2-big-Data.db

Compact多个文件只是将它们传递给MBean,用逗号分隔。

此时,您应该熟悉使用jmxterm通过JMX启动用户定义的compact的过程我建议您在笔记本电脑上尝试一下,以适应这个过程,并探索其他可用的MBean。如果您更喜欢使用可视化工具而不是命令行工具,请查看jconsole,它随oracle jdk一起提供,但通常在生产中不太有用。

本文翻译自:https://thelastpickle.com/blog/2016/10/18/user-defined-compaction.html

入群邀约
为了营造一个开放的 Cassandra 技术交流环境,社区建立了微信群公众号和钉钉群,为广大用户提供专业的技术分享及问答,定期开展专家技术直播,欢迎大家加入。另外阿里云提供免费Cassandra试用:https://www.aliyun.com/product/cds

 

》》阿里云双11领亿元补贴,拼手气抽iPhone 11 Pro、卫衣等好礼,点此参与:http://t.cn/Ai1hLLJT

阅读原文
本文为云栖社区原创内容,未经允许不得转载。
 

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
转载请注明出处: https://daima100.com/11153.html

(0)
上一篇 2022-12-15
下一篇 2022-12-15

相关推荐

  • TiDB 异构数据库复制最佳实践

    TiDB 异构数据库复制最佳实践作者简介:秦天爽,PingCAP 解决方案事业部架构总监。 纵观现有业务系统的分布式改造,其中一个难点在于数据库的迁移: 迁移使用全量还是增量? 在线还是离线? 使用现成的工具还是开发作业? …… …

    2023-03-13
    99
  • Python Extend()方法:扩展列表的元素

    Python Extend()方法:扩展列表的元素在Python中,列表是一种很常见的数据类型。列表是可变的,这就意味着可以对列表进行添加、删除和修改操作。Extend()方法是Python列表中的一个非常重要的方法。这个方法用于向列表中添加一些新的元素,扩展列表的长度。

    2023-12-19
    63
  • 徒手打造基于Spark的数据工厂(Data Factory):从设计到实现

    徒手打造基于Spark的数据工厂(Data Factory):从设计到实现在大数据处理和人工智能时代,数据工厂(Data Factory)无疑是一个非常重要的大数据处理平台。市面上也有成熟的相关产品,比如Azure Data Factory,不仅功能强大,而且依托微软的云计

    2023-04-21
    98
  • 20200618_MySQL实战45讲_学习笔记_Order by

    20200618_MySQL实战45讲_学习笔记_Order by表结构 — auto-generated definition create table product_application_config ( id bigint auto_increment…

    2023-03-13
    105
  • sql group函数_比较运算符有哪些

    sql group函数_比较运算符有哪些本文介绍什么是 SQL GROUPING 运算符,如何使用 SQL GROUPING 运算符。GROUPING 指示是否聚合 GROUP BY 列表中的指定列表达式。 本文重点 只使用 GROUP B

    2023-05-23
    83
  • MySQL中常用的数据类型「终于解决」

    MySQL中常用的数据类型「终于解决」在写sql语句的时候,数据类型是避不可少的一个环节,以下是我在学习的过程中总结的数据类型,仅供参考: 数值类型 类型 有符号(signed)范围 无符号(unsigned)范围 描述 tinyint

    2023-05-11
    97
  • MySQL安装——Linux「建议收藏」

    MySQL安装——Linux「建议收藏」MySQL安装——Linux MySQL下载链接:http://downloads.mysql.com/archives/community/ mysql安装(5.5) (1)查询是否安装过 #查看…

    2023-01-28
    102
  • 如何安装pandas

    如何安装pandas随着数据处理和分析的需求越来越高,pandas成为了Python中广受欢迎的数据处理库,它可以有效地进行各种数据操作,例如数据清洗、转换、筛选、统计分析等。安装pandas对于进行数据分析工作的同学而言是非常必要的。

    2024-05-16
    6

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注