Mac M3 Pro 部署Flink-1.16.3

news2024/11/25 4:39:42

目录

1、下载安装包

2、解压及配置

3、启动&测试

4、测试FlinkSQL读取hive数据 

以上是mac硬件配置

1、下载安装包

官网:Downloads | Apache Flink

网盘:

Flink 安装包 https://pan.baidu.com/s/1IN62_T5JUrnYUycYMwsQqQ?pwd=gk4e 

Flink 已配置好的包 https://pan.baidu.com/s/1j05iID60YBGeGgR8d5e2eA?pwd=k2pd

2、解压及配置

# 解压安装包

mv ~/Download/flink-1.16.3-bin-scala_2.12.tgz /opt/module

cd /opt/module

tar -zxvf flink-1.16.3-bin-scala_2.12.tgz

mv flink-1.16.3 flink

cd flink

# 将运行flinksql读取jdbc和hive相关的jar添加到lib中去

cp /opt/module/hive/lib/antlr-runtime-3.5.2.jar ./lib
cp /opt/module/hive/lib/hive-exec-3.1.3.jar ./lib
cp ~/Download/mysql-connector-java-8.0.11.jar ./lib
cp ~/Download/flink-sql-connector-hive-3.1.3_2.12-1.19.0.jar ./lib
cp ~/Download/flink-connector-jdbc-1.16.3.jar ./lib

# 修改配置,本地调试只需关注下面的配置,根据实际情况修改
vim conf/flink-conf.yaml
jobmanager.rpc.address: localhost

jobmanager.rpc.port: 6123

jobmanager.bind-host: localhost

jobmanager.memory.process.size: 1600m

taskmanager.bind-host: localhost

taskmanager.host: localhost

taskmanager.memory.process.size: 4096m

taskmanager.numberOfTaskSlots: 1

parallelism.default: 1
# webui的端口,这里修改是因为与其他应用的端口冲突了
rest.port: 8090
# webui的端口可选范围
rest.bind-port: 8090-8990
# 页面上提交任务
web.submit.enable: true
# 页面上取消任务
web.cancel.enable: true
vim bin/config.sh

# 在顶部添加如下配置

# 因为我按照了多个版本的java虚拟机
export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk8/Contents/Home

# 我在全局环境变量中配置了,但是运行flinksql时还是报错说找不到hadoop相关jar里面的类,故在此添加
export HADOOP_CLASSPATH=`hadoop classpath`

3、启动&测试

./bin/start-cluster.sh

# 到log目录查看启动日志,如有报错则需根据提示进行解决
tail -999f log/flink-shenxiang-standalonesession-0-*.local.log

# 启动成功可以看看webui,在浏览器中访问http://localhost:8090/

 

# 跑一下测试的jar,出现如下图则表示成功
# 批任务
./bin/flink run examples/batch/WordCount.jar

# 流任务
./bin/flink run examples/streaming/WordCount.jar
# 通过下面的日志查看运行结果

 

4、测试FlinkSQL读取hive数据 

# 打开sql-client模式
./bin/sql-client.sh

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1833060.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Comfyui|AnimateDiff生成动画基础使用方法

今天分享一个在Comfyui中使Amimatediff生成动画视频的小教程。与WebUI相比,ComfyUI在生成图片的速度更快,可控性更强,且所需的显存更小。 ComfyUI采用基于节点连接的工作流程,对于使用过Blender、C4D等三维软件的朋友来说应该会对…

PHP邮箱服务器搭建与配置教程?如何使用?

PHP邮箱服务器搭建的步骤?服务器搭建的注意事项? 在当今的数字化时代,电子邮件仍然是沟通和业务处理的重要工具之一。通过PHP搭建和配置一个邮箱服务器,您可以实现自主掌控邮件系统,确保数据的安全性和隐私性。AokSen…

微信酒店预订系统怎么做

随着科技的飞速发展,我们的生活正被智能化、数字化所包围。在旅行这一美好体验中,如何使预订过程更加简单、高效,成为了众多旅游爱好者关注的焦点。今天,我要为大家介绍一款引领行业潮流的微信酒店预订系统,让您的旅行…

无忧易售ERP:引领电商管理新纪元,一键EAN生成,让商品流通无忧

在瞬息万变的电商蓝海中,高效与精准成为企业制胜的关键。为了帮助广大电商卖家们在激烈的市场竞争中脱颖而出,无忧易售ERP支持Allegro、OZON、OnBuy、Walmart平台免费EAN生成工具及一键填充功能。 如何使用无忧易售erp快速生成EAN码呢,接下来…

水滴式粉碎机:粉碎干性物料的理想选择

在工业生产中,干性物料的粉碎是一个重要的环节,其对于提升产品质量、优化生产流程和提高生产效率具有显著的影响。近年来,水滴式粉碎机因其粉碎原理和工作性能,逐渐在干性物料粉碎领域崭露头角,成为众多企业的理想选择…

有关健身的俄语表达,柯桥零基础俄语培训

фитнес 健身 тренер 教练 абонемент 会员卡 аэробика 有氧运动 анаэробика 无氧运动 плавание 游泳 пробежка / бег трусцой 慢跑 беговая дорожка 跑步机 йога 瑜伽 коври…

大量用户中招,远控木马已经潜伏各类在线会议平台

从 2023 年 12 月开始,研究人员发现有攻击者创建虚假 Skype、Google Meet 和 Zoom 网站来进行恶意软件传播。攻击者为安卓用户投递 SpyNote 远控木马,为 Windows 用户投递 NjRAT 和 DCRAT 远控木马。 攻击行动概述 攻击者在单个 IP 地址上部署了所有的虚…

震撼科技界的GPT-4o发布首日即遭“越狱破防”

前言 本文主要解读分析OpenAI最新推出的大型模型GPT-4o可能存在的越狱风险。 5 月14 日凌晨的科技圈再一次被OpenAI轰动,其发布的最新大模型GPT-4o,能力横跨语音、文本和视觉,这一成果无疑再次巩固了OpenAI在人工智能领域的领先地位。 然而…

缓冲区设置

缓冲区设计 一、简介 在网络通讯中,用户态缓冲区和内核态缓冲区的大小设定对于优化网络性能和确保数据传输可靠性至关重要。下图是网路通讯的内核缓冲区使用情况: 数据的读写都需要进行系统调用,从用户态切换到内核态去接收数据&#xff0…

《市场瞭望》期刊简介及投稿要求

《市场瞭望》是一本由福建日报社(福建日报报业集团)主办的经济类杂志,创刊于1994年,半月刊,A4纸大小,内文80页,铜版纸全彩印刷,国内外公开发行。 该杂志的邮发代号为--国际刊号ISSN…

韩国职场新趋势:员工拒绝晋升,追求工作与生活的平衡

在当前职场环境中,晋升通常被视为职业生涯发展的重要里程碑。然而,据韩国《今日财经》报道,现代重工工会在今年的劳资谈判中提出了一个令人关注的要求——“拒绝晋升权”。这一要求反映了韩国职场的新趋势,即越来越多的员工对高薪…

C++ Primer Plus第五版+习题重点笔记(p250-300)

第七章 类(下) clear需要访问Screen的私有成员;而要想令这种访问合法,Screen需要把 window mgr 指定成它的友元 如果一个类指定了友元类,则友元类的成员函数可以访问此类包括非公有成员在内的所有成员 每个类负责控制自己的友元…

9个最佳性能测试工具(2024)

1、前言 性能测试检查软件程序在预期工作负载下的速度、响应时间、可靠性、资源使用情况和可扩展性。性能测试的目的不是发现功能缺陷,而是消除软件或设备中的性能瓶颈。 性能测试为利益相关者提供有关其应用程序的速度、稳定性和可扩展性的信息。更重要的是&…

QSpinBox、QDoubleSpinBox 的使用,进制转换

实现目的 使用QSpinBox、QDoubleSpinBox 实现数量*单价,float结果显示 使用QSpinBox、QDoubleSpinBox 实现进制的转换 拟实现界面 布局 垂直布局、groupBox中为栅格布局 控件进制设置属性 displayIntegerBase 16代表16进制 #include "spinboxexample.h" #…

AI应用中心:搭建上线了,发现出色的人工智能的网站软件

https://aiapp.ai-51.com 1w 个最佳人工智能应用和服务 AI 应用中心拥有丰富的国内外 AI 应用,收录了超过 1w 个出色的人工智能网站和应用,覆盖了 40 多个不同的领域,如 Ai 绘画生成、Ai 文案写作、Ai 视频编辑、Ai 智能营销等。您可以通过我…

python-再求f(x,n)

[题目描述] 已知 用递归函数求解。输入: 第一个数是 𝑥的值,第二个数是 𝑛的值。(𝑛 为整数)输出: 函数值,保留两位小数。样例输入1 1 2 样例输出1 0.40 来源/分类&…

Android Studio 2024.1.1(Koloa)版本 Profiler 工具变动

在 Android Studio 2024.1.1 (Koloa) 版本当中,Profiler 工具终于迎来了重大 UI 更新(太感动了,因为之前的 Profiler 工具连接得慢,收集 Trace 信息还很卡,步骤繁琐等,这次更新有了很大的优化) …

关于C#导出Word时报错“{00020970-0000-0000-C000-000000000046}加载类型库/DLL 时出错”的解决办法

之前还运行正常的程序,突然发现导出Word的时候会报错,报错内容: System.InvalidCastException:“Unable to cast COM object of type ‘Microsoft.Office.Interop.Word.ApplicationClass’ to interface type ‘Microsoft.Office.Interop.Wor…

[图解]建模相关的基础知识-11

1 00:00:00,700 --> 00:00:05,090 下一个知识点就是函数在集合上的限制 2 00:00:08,290 --> 00:00:10,200 符号可以这样来 3 00:00:10,210 --> 00:00:16,640 F然后一个往下的箭头A 4 00:00:16,650 --> 00:00:19,520 意思就是说F里面的元素 5 00:00:20,120 --&…

两个src案例分享

案例一 文前废话:某天正在刷着**社区的帖子,欣赏着漂亮的小姐姐,突然间评论区的一条评论引起了我的注意,类似于下面这样 这种评论在html标签中代码格式是<a>这是文字</a>这样的 同时评论区XSS漏洞的高发区,想着可能会有操作点 一、发布一个标题有js语句的贴子 二…