flink分布式部署,flink高可用集群搭建

  flink分布式部署,flink高可用集群搭建

  简介:要在Flink集群中部署Alink,需要部署三个Jar包(本文将有一节专门介绍如何获得它们)。对于不同的Flink集群环境,在方式上有一些差异。本文主要讨论独立集群和Kubernetes集群。作者:杨旭(品数),阿里巴巴资深技术专家

  要在Flink集群中部署Alink,需要部署三个Jar包(本文将有一节专门介绍如何获得它们)。对于不同的Flink集群环境,在方式上有一些差异。本文主要讨论独立集群和Kubernetes集群。

  获取集群部署所需的Jar包。由于Alink可以通过Java和Python提交,所以建议在集群部署时一起部署相关的Jar包。Alink不单独提供集群部署Jar包的下载,但是所需的Jar包与PyAlink使用的相同。所以可以从PyAlink的安装whl包中获取。具体方式如下:

  1.下载PyAlink 1.10的whl包。相关链接:

  https://github.com/alibaba/Alink/releases/tag/v1.1.0

  2.解压缩PyAlink 1.10的whl包

  解压缩后的文件结构如下图所示。在pyalink/lib下为集群部署了三个jar包。

  在独立集群上部署,将前面获得的三个Jar包复制到Flink目录,然后启动Flink集群。

  add:class loader . resolve-order:parent-first在flink-[版本号]目录下,运行zydlm/start-cluster.sh启动集群zydlm/taskmanager.sh start增加TM。有关更多信息,请参考:

  https://ci . Apache . org/projects/flink/flink-docs-stable/ops/deployment/cluster _ setup . html

  在Kubernetes集群上部署。将前面获得的三个Jar包放入Docker映像中,将下面三个命令添加到DockerFile中,并打包映像。

  添加Alink _ connector _ all-1.1-SNAPSHOT . jar $ FLINK _ LIB _ DIR/Alink _ connector _ all-1.1-SNAPSHOT . jar添加Alink _ core _ FLINK-1.10 _ 2.11-1.1-SNAPSHOT . jar $ FLINK _ LIB _ DIR/Alink _ core _ FLINK-1.10 _ 2.11-1.1-SNAPSHOT . jar添加Alink _ Python-1.1-SNAPSHOT-shaded . jar $ FLINK _ LIB _ DIR/Alink _ Python-1.1参考:

  https://ci . Apache . org/projects/flink/flink-docs-stable/ops/deployment/kubernetes . html

  原文链接:https://developer.aliyun.com/article/769048?

  版权声明:本文所有内容归阿里云开发者社区所有,未经阿里云开发者社区协议授权,任何媒体、网站或个人不得转载、链接、转贴或以其他方式复制、发布或发表。请将授权申请用电子邮件发送到developerteam@list.alibaba-inc.com。经阿里云开发者社区协议授权的媒体和网站,转载和使用时必须注明‘稿件来源:阿里云开发者社区,原作者姓名’。否则,社区将依法追究责任。如果您在本社区发现涉嫌抄袭的内容,请发邮件至:developer2020@service.aliyun.com举报并提供相关证据。一经核实,本社区将立即删除涉嫌侵权的内容。

郑重声明:本文由网友发布,不代表盛行IT的观点,版权归原作者所有,仅为传播更多信息之目的,如有侵权请联系,我们将第一时间修改或删除,多谢。

留言与评论(共有 条评论)
   
验证码: