flink 并行度和分区的关系_flink并行度

flink 并行度和分区的关系_flink并行度Flink设置并行度的几种方式 代码中设置setParallelism() 全局设置: env.setParallelism(3); 算子设置(部分设置): sum(1).setParallelism

Flink设置并行度的方式和执行级别

Flink设置并行度的几种方式

  1. 代码中设置setParallelism()

    • 全局设置:

      env.setParallelism(3); 

      代码100分

    • 算子设置(部分设置):

      代码100分sum(1).setParallelism(3)

  2. 客户端CLI设置:

    ./bin/flink run -p 3
    

  3.  修改配置文件设置/conf/flink-conf.yaml的parallelism.defaul数值

  4. 最大并行度设置

    • 全局设置:

      代码100分env.setMaxParallelism(n) 

    • 算子设置(部分设置):

      sum(1).setMaxParallelism(n)

      默认的最大并行度是近似于operatorParallelism + (operatorParallelism / 2),下限是127,上线是32768. 

执行顺序级别:算子>全局env>CLI>配置文件 。

.setParallelism()的并行度需要小于.setMaxParallelism()的最大并行度。

 

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
转载请注明出处: https://daima100.com/9468.html

(0)
上一篇 2023-02-07 13:30
下一篇 2023-02-08 09:00

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注