Hadoop的安装与配置

news2024/11/24 14:27:13

Hadoop的安装与配置

推荐按照我的博客下载hadoop,spark,pyspark以及scala这样版本搭配更好。

如果觉得自己不会版本搭配可私聊博主。

scala的安装和配置:https://blog.csdn.net/weixin_41957626/article/details/130548174
spark的安装和配置:https://blog.csdn.net/weixin_41957626/article/details/130548275

1.下载

官网:https://archive.apache.org/dist/hadoop/common/ 

1.下载地址

Index of /dist/hadoop/common/hadoop-3.2.0

2.Windows环境推荐下载 msi文件

我下载的是3.2是我的环境最优的配置

 

 3.找一个自己想安装的位置解压。

2.安装和配置

安装需要手动配置环境变量

1.打开系统的环境变量

HADOOP_HOME:安装路径,bin的上一级。

 

找到你的hadoop\bin目录找下里面有没有winutils.exe文件,如果没有的话,我们需要去下载。 
winutils.exe

下载地址

GitHub - steveloughran/winutils: Windows binaries for Hadoop versions (built from the git commit ID used for the ASF relase)

3.测试

需要安装完spark输入spark-shell没有出现任何报错说明配置成功!!!

spark的安装和配置:https://blog.csdn.net/weixin_41957626/article/details/130548275

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/499737.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

宇树Unitree机器狗连接外网的一种方法

宇树官方提供的方式: ​​​​​​​ 宇树机器狗连接网络的相关说明 (yuque.com) 我这里提供一种我采用的方式,仅供参考: 需要一根手机数据线,能联网的手机 我这里使用的是小米手机,其余手机大概也能行。 如下&…

ElasticSearch学习随笔之高级检索

ElasticSearch 1、ElasticSearch学习随笔之基础介绍 2、ElasticSearch学习随笔之简单操作 3、ElasticSearch学习随笔之java api 操作 4、ElasticSearch学习随笔之SpringBoot Starter 操作 5、ElasticSearch学习随笔之嵌套操作 6、ElasticSearch学习随笔之分词算法 7、ElasticS…

强化学习_06_pytorch-TD3实践(BipedalWalkerHardcore-v3)

基于策略的离线算法TD3 1.1 简介 reference: openai-TD3 DDPG的critic会高估, 从而导致actor策略失败。TD3是增加了三个关键技巧优化DDPG。经过优化后的TD3(Twin Dalayed DDPG 双延迟深度确定性策略梯度算法)适合于具有高维连续动作空间的任务。 Tricks: Clipped Double Q-l…

github学习笔记

目录 github简介 唯一版本库是什么意思 hub的含义什么? github功能介绍 登录、注册 GitHub 术语解释 Git 初体验及其常用命令介绍 git中的两个分支是否有冲突是什么意思,这是因为什么导致的 利用 SSH 完成 Git 与 GitHub 的绑定 通过 Git 将代…

[ Azure 云计算从业者 | AZ-900 ] Chapter 06 | 认识与了解 Azure 中相关的计算服务

本章节主要内容进行讲解:计算服务中的虚拟机 VM、虚拟机规模集 VMSS、Azure 容器(ACI)、Azure Kubernetes Service (AKS) 与Azure Functions 本系列已经更新文章列表(已更新): [ Azure 云计算从业者 | AZ…

Java 基础进阶篇(十一)—— 泛型与可变参数

文章目录 一、泛型概述二、泛型的定义2.1 泛型类2.2 泛型方法2.3 泛型接口 三、泛型深入3.1 泛型通配符3.2 泛型上下限3.3 案例:定义一个 “所有车量进行比赛” 的方法 四、可变参数 一、泛型概述 泛型是 JDK5 中引入的特性,可以在编译阶段约束操作的数…

从源码全面解析Java 线程池的来龙去脉

👏作者简介:大家好,我是爱敲代码的小黄,独角兽企业的Java开发工程师,CSDN博客专家,阿里云专家博主📕系列专栏:Java设计模式、Spring源码系列、Netty源码系列、Kafka源码系列、JUC源码…

二叉树专题

⭐️前言⭐️ 本文主要总结一些常见的二叉树题目,希望读者能够通过这篇文章,来对二叉树有一个更深一步的了解。 🍉欢迎点赞 👍 收藏 ⭐留言评论 📝私信必回哟😁 🍉博主将持续更新学习记录收获&…

【移动端网页布局】flex 弹性布局 ⑥ ( 设置侧轴多行子元素排列方式 | align-content 样式说明 | 代码示例 )

文章目录 一、设置侧轴多行子元素排列方式 : align-content 样式说明1、align-content 样式引入2、align-content 样式属性值 二、代码示例1、代码示例 - 侧轴多行元素从上到下排列2、代码示例 - 侧轴多行元素垂直居中3、代码示例 - 侧轴多行元素平分剩余空间4、代码示例 - 侧轴…

1960-2014年各国二氧化碳排放量(人均公吨数)

1960-2014年各国二氧化碳排放量(人均公吨数)(世界发展指标, 2019年12月更新) 1、来源:世界发展指标 2、时间:1960-2014年 3、范围:世界各国 4、指标: 二氧…

C++ STL:set和map的结构及接口使用

目录 一. set和map的简介 1.1 set的简介 1.2 map的简介 二. set的主要接口函数及使用方法 2.1 构造及赋值相关接口函数 2.2 通过迭代器遍历set 2.3 结构修改相关接口函数 2.4 其他主要接口函数 三. map的主要接口函数及使用方法 3.1 构造和赋值相关接口函数 3.2 通…

Midjourney放大招,什么好看唯美高清,统统都是我的

你知道吗?超过99%的人都没有足够出色的肖像照来展现自己的魅力,除非你是那种在网上拥有成千上万张自己肖像照的大明星。但是,好消息来了!现在有一个InsightFaceSwap Discord bot,可以帮助你实现这个“不可能完成”的想…

【JavaEE初阶】多线程进阶(五)常见锁策略 CAS synchronized优化原理

文章目录 常见锁策略乐观锁 & 悲观锁轻量级锁 & 重量级锁自旋锁 & 挂起等待锁互斥锁 & 读写锁公平锁 & 非公平锁可重入锁 & 不可重入锁synchronized对应以上的锁策略锁策略中的面试题: CASCAS的介绍CAS如何实现CAS的应用场景CAS的典型问题&…

Excel公式:将日期转换为月份年

Excel公式:将日期转换为月份年 在Excel中,您可以将日期单元格格式化为多种类型的日期格式,但是在某些情况下,您希望将日期转换为文本格式,仅转换为月,年,日或月年,日月或年日。 在本…

Java全栈学习路线总结,科班程序员搬砖逆袭

🌇文章目录 前言一、前置知识二、 Web前端基础示例:1.文本域2.密码字段 三、后端基础一. Java基础二. 数据库技术三. Web开发技术四. 框架技术五. 服务器部署 四、其他技术五、全栈开发六、综合实践七、学习教程一、前端开发二、后端开发三、数据库开发四…

VUE 学习笔记(三) Vue 渲染流程详解

在 Vue 里渲染一块内容,会有以下步骤及流程: 第一步,解析语法,生成AST 第二步,根据AST结果,完成data数据初始化 第三步,根据AST结果和DATA数据绑定情况,生成虚拟DOM 第四步&…

ESP32设备驱动-Si1145红外接近-紫外 (UV) 指数和环境光传感器驱动

Si1145红外接近-紫外 (UV) 指数和环境光传感器驱动 文章目录 Si1145红外接近-紫外 (UV) 指数和环境光传感器驱动1、Si1145介绍2、硬件准备3、软件准备4、驱动实现1、Si1145介绍 Si1145/46/47 是一款低功耗、基于反射的红外接近、紫外 (UV) 指数和环境光传感器,具有 I2C 数字接…

电脑百度网盘打不开怎么办 电脑百度网盘双击没反应处理方法

有时候我们想要在电脑浏览器上下载一些文件时,打开的文件下载链接有些需要通过百度网盘来存储下载,然而当用户在电脑中安装完百度网盘工具之后,双击想要打开时却总是没反应,对此电脑百度网盘打不开怎么办呢?接下来小编…

Java反射和动态代理

反射 反射允许对封装类的成员变量、成员方法和构造方法的信息进行编程访问 成员变量:修饰符、名字、类型、get/set值 构造方法:修饰符、名字、形参、创建对象 成员方法:修饰符、名字、形参、返回值、抛出的异常、获取注解、运行方法 获取…

【云原生进阶之PaaS中间件】第一章Redis-1.1简介

1 Redis概述 1.1 Redis 简介 Redis(Remote Dictionary Server ),即远程字典服务,是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API,可用作数据库&#…