Yarn架构「建议收藏」

Yarn架构「建议收藏」Yarn架构(Master Slave) 进程角色: resourceManager(Master):任务调度和集群资源管理。 nodeManager(Slave):单个节点的资源管理。 applic

Yarn架构

Yarn架构(Master-Slave)

进程角色:

  • resourceManager(Master):任务调度和集群资源管理。

  • nodeManager(Slave):单个节点的资源管理。

  • applicationMaster:为任务程序申请资源,任务程序运行状态监控、错误恢复。

  • container:对运行环境资源的抽象,是资源分配和使用的单元,包括cpu、内存、环境变量等资源。

  • client:发起任务的请求。

任务提交流程 :

用户将作业提交到client,client将任务提交给resourceManager,resourceManager选取一个nodeManager来启动一个applicationMaster,这个applicationMaster根据当前作业反过来向resourceManager申请计算资源,resourceManager将可用资源以一个个container的形式返给applicationMaster,applicationMaster根据各container的位置等属性,将计算任务发送到相应nodeManager,由nodeManager分配container并执行,每个container向applicationMaster同步任务执行状态,整个作业所涉及的每个container中的任务都全部执行完毕后,applicationMaster将结果写入目的地,同时applicationMaster将作业完毕的消息反馈给resourceManager,resourceManager将本次作业申请的container资源全部回收,供后续作业申请。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
转载请注明出处: https://daima100.com/9899.html

(0)
上一篇 2023-01-30 10:00
下一篇 2023-01-30 11:00

相关推荐

  • redis如何解决key冲突_redis-cli连接redis数据库

    redis如何解决key冲突_redis-cli连接redis数据库如果现在的我们离开了互联网,生活会是什么样子? 互联网++++,已经深刻渗透到人们的生活中。 不知道大家有没有想过?每一个互联网+结合的背后都是海量的存储需求。你查看的每一个商品、组建的每一个战队、阅

    2023-06-07
    156
  • Python Tuple: 灵活存储多个值

    Python Tuple: 灵活存储多个值Python Tuple(元组)是Python数据类型之一,可以存储多个不可变的元素。换句话说,元组是一个只读的列表。元组在Python中以小括号()表示,并用逗号分隔元素。元素可以是不同的数据类型,如整数、浮点数、字符串、列表或其他元组。

    2024-02-24
    111
  • 数据库的结构,创建,使用是什么_sql创建数据库代码

    数据库的结构,创建,使用是什么_sql创建数据库代码从逻辑上看:描述信息的数据存在数据库中并由DBMS统一管理 从物理上看:描述信息的数据事宜文件的方式存储在物理磁盘上 数据库文件分为: 1.数据文件:存放数据库数据和数据仓库对象的文件 主要数据文件(

    2023-03-04
    143
  • TDengine 如何做到客户端高可用?

    TDengine 如何做到客户端高可用?小 T 导读 :经常有用户在 TDengine 的社区上递交标签为「help wanted」的问题。这些问题大都不是 Bug,只是因为不熟悉或者不了解 TDengine 的机制而让用户感到困惑的使用…

    2023-04-12
    160
  • 数据库怎么安装教程_数据管理dms

    数据库怎么安装教程_数据管理dms依赖工具安装 安装JDK1.8(自行安装) 安装JAVA开发工具Idea、eclipse等一个(自行安装) 安装Git (自行安装) 安装Mysql数据库8版本 (自行安装),数据库账号和密码请与k…

    2023-01-28
    159
  • Python List使用技巧,让你更高效地处理数据结构

    Python List使用技巧,让你更高效地处理数据结构Python中的List是一种非常常用的数据结构,支持各种基本的操作。在处理数据时,我们通常需要以下几种基本操作。

    2023-12-23
    115
  • sql字段加密解密_excel函数100例正式课

    sql字段加密解密_excel函数100例正式课摘要:数据加密作为有效防止未授权访问和防护数据泄露的技术,在各种信息系统中广泛使用。作为信息系统的核心,GaussDB(DWS)数仓也提供数据加密功能,包括透明加密和使用SQL函数加密。 本文分享自华

    2023-06-15
    157
  • CentOS 7上更改MySQL数据库存储目录浅析

    CentOS 7上更改MySQL数据库存储目录浅析个人之前总结过两篇文章“MySQL更改数据库数据存储目录”和“Ubuntu上更改MySQL数据库数据存储目录”,都是在工作中遇到相关案例后的一个简单总结。当初的经验不足,认知有限,所以现在来看来,当初

    2023-02-04
    148

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注