资料下载 | 58同城HBase平台及生态建设实践

资料下载 | 58同城HBase平台及生态建设实践前言: 2020年3月7日晚7点,大佬张祥在微信群向大家详细介绍了58同城HBase平台及其生态的建设实践与相关经验,确实讲得很好。今天花了点时间帮大家整理了一下,希望更多的没有参与直播的朋友能够看到

资料下载 | 58同城HBase平台及生态建设实践

前言:2020年3月7日晚7点,大佬张祥在微信群向大家详细介绍了58同城HBase平台及其生态的建设实践与相关经验,确实讲得很好。今天花了点时间帮大家整理了一下,希望更多的没有参与直播的朋友能够看到它,也欢迎大家积极转发一下,视频与PPT相关资料附于文末

亮点在哪

该分享的亮点在哪儿里呢?这里我就自己的理解阐述一下自己的想法,不喜勿喷哈~

1. 数据接入层

第一个亮点是:58同城在HBase之上做了进一步封装(SCF),融入了微服务,充分利用了微服务的优势和特点,比如熔断、监控、权限、动态扩缩容等等都可以在这一层做,虽然也多了一层运维成本,但微服务技术应该也算有比较成熟的体系了。

之前也听过诸多言论,比如HBase之上封装一层HTTP或是RPC服务会导致性能降低之类的说法,其实我倒是觉得影响还是比较小的,当然肯定会有些影响。对性能影响比较大的只可能是过度封装或是对HTTP/RPC框架不熟。

当然,性能与服务器成本是挂钩的,性能的提升会带来服务器成本的降低,诸多好处和不足还应权衡一下。58同城,也算是在这一方面开了一个不错的先例(恕我孤陋寡闻~)。

2. 多租户打通与数据隔离

听完整个视频,我觉得第二个亮点算是多租户的全线打通了,这里主要是一个解决方式:Hadoop ugi 的提出。可能是我孤陋寡闻吧,这个对我的启发确实挺大的,因为正好可以解决自己在工作中遇到的一个比较头疼的问题:基于Kerberos太重,如何打通HBase的授权与鉴权,并充分利用HBase ACL?如果你也有这个困惑,可以了解一下。

3. 集群迁移方案

第三个亮点,是一套新的集群迁移方案的提出。以往的贴大都是Snapshot+Replication的方式做这个迁移工作,58首先提出了一个集群双写的方案(恕我孤陋寡闻~),感觉挺好。大家可以详细看看视频,张祥讲解的也很清楚。

答疑解惑

答疑环节呢比较少,这里把微信群里屈指可数的几个问题贴一下:

1. 集群迁移为什么不直接snapshot+export_snapshot?

张祥: “
你这个方式慢,snapshot-export这个工具慢 你试试
而且,如果之前的老表 分区不合理,比如过大或者过小,你这样就不好重新创建新分区了”

2. clone-snapshot以后,major_compact主要是什么考虑?合并小文件吗?还是?

张祥: “
把一个表复制一下,做个深度拷贝,而不是副本引用。”

3. 数据接入层,多租户RPC长链接创建后是如何实现用户动态切换的?我目前的理解HBase是在建立连接前指定用户。

张祥: “ugi”

资料分享

在线视频播放地址:
微信视频:https://mp.weixin.qq.com/s/pUhsvUaznySryItwjWTjQg
斗鱼直播:https://www.douyu.com/5022062
腾讯视频:https://v.qq.com/x/page/g3078klzfwj.html

PPT下载地址:

百度云:
链接:https://pan.baidu.com/s/1fAnxS4bSj9HShMOkiFMWfA
提取码:um8a

扫描二维码关注博主公众号

转载请注明出处!欢迎关注本人微信公众号【HBase工作笔记】

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
转载请注明出处: https://daima100.com/9108.html

(0)
上一篇 2023-02-15
下一篇 2023-02-15

相关推荐

  • 一个字符串转数字的小功能

    一个字符串转数字的小功能with t as ( select '-' as col1 –isnumeric('-')这里会判断为数字,所以不能用 union all select '

    2023-02-17
    161
  • MongoDB学习笔记:JavaScript shell

    MongoDB学习笔记:JavaScript shell本文更新于2022-01-22,使用MongoDB 4.4.5。 可于官网搜索相关文档:https://www.mongodb.com/search 说明:下文中,大写为自定义变量(个别大写的类型除外

    2023-05-05
    128
  • 使用Anaconda进行Python开发

    使用Anaconda进行Python开发随着Python的日益普及,越来越多的人开始选择使用Python进行编程,而Anaconda作为一个强大的Python开发环境,被越来越多的Python开发者所青睐。

    2024-08-28
    28
  • python去重函数的实现方法

    python去重函数的实现方法在python开发中,对列表进行去重是非常常见的操作。在许多实际应用场景中,我们需要将列表中的重复元素去除,保留唯一元素。比如说,统计某个论坛或者社交应用的用户数量,需要去除重复的用户。因此本文将介绍python去重函数的实现方法。

    2024-05-04
    70
  • 用 Python 绘制曲线图

    用 Python 绘制曲线图Python 语言是一种解释性、交互式、面向对象的高级程序设计语言。它具有简洁、易读、易扩展等特点,在数据处理、科学计算、人工智能、Web 开发等领域得到了广泛应用。

    2024-08-08
    32
  • python字符串去除重复字符(python字符串去除重复字符保留左边的)

    python字符串去除重复字符(python字符串去除重复字符保留左边的)普通字符串可以用多种方式编码成unicode字符串,具体要看你究竟选择了哪种编码:

    2023-11-27
    146
  • Python构造函数详解

    Python构造函数详解在Python中,类实例化的时候会自动调用一个特殊的成员函数称之为构造函数。构造函数就是一个类的初始化方法,它在类实例化的时候自动被调用,主要用于给实例对象设置初始值。

    2024-04-25
    75
  • Python列表删除指定元素

    Python列表删除指定元素Python是一种高级的编程语言,广泛用于动态编程和脚本编写。列表(list)作为Python中最常用的数据类型之一,被广泛地应用于各种场景中。在列表操作中,删除指定元素是一个基本操作,也是使用频率较高的操作之一。

    2024-06-30
    49

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注