大数据 Hadoop集群配置

news2024/10/1 5:35:06

配置Hadoop集群

在master虚拟机上配置hadoop
编辑Hadoop环境配置文件 - hadoop-env.sh
命令:cd $HADOOP_HOME/etc/hadoop,进入hadoop配置目录
在这里插入图片描述
命令:vim hadoop-env.sh
在这里插入图片描述
命令source hadoop-env.sh,让配置生效
在这里插入图片描述
在这里插入图片描述
编辑Hadoop核心配置文件 - core-site.xml
命令:vim core-site.xml
在这里插入图片描述
在这里插入图片描述
编辑HDFS配置文件 - hdfs-site.xml
命令:vim hdfs-site.xml
在这里插入图片描述
编辑MapReduce配置文件 - mapred-site.xml
命令:vim mapred-site.xml
在这里插入图片描述
编辑yarn配置文件 - yarn-site.xml
命令:vim yarn-site.xml
在这里插入图片描述
编辑workers文件确定数据节点
执行命令:vim workers
在这里插入图片描述
在slave1虚拟机上安装配置hadoop
将master虚拟机上的hadoop分发到slave1虚拟机
在这里插入图片描述
在这里插入图片描述
将master虚拟机上环境配置文件分发到slave1虚拟机
命令:scp /etc/profile root@slave1:/etc/profile
在这里插入图片描述
在slave1虚拟机上让环境配置生效
切换到slave1虚拟机
命令:source /etc/profile
在这里插入图片描述
在slave2虚拟机上安装配置hadoop
将master虚拟机上的hadoop分发到slave2虚拟机
在这里插入图片描述
在这里插入图片描述
将master虚拟机上环境配置文件分发到slave2虚拟机
命令:scp /etc/profile root@slave2:/etc/profile
在这里插入图片描述
在slave2虚拟机上让环境配置生效
切换到slave2虚拟机
命令:source /etc/profile
在这里插入图片描述

格式化文件系统

初次启动HDFS集群时,必须对主节点进行格式化处理。
命令:hdfs namenode -format
在这里插入图片描述
在这里插入图片描述
查看名称节点格式化成功的信息
在这里插入图片描述

启动和关闭Hadoop集群

start-all.sh命令,一起启动hdfs和yarn服务,也可以分开启动两种服务。
启动hdfs服务
执行命令:start-dfs.sh
在这里插入图片描述
查看虚拟机上的进程
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
启动yarn服务
命令:start-yarn.sh
在这里插入图片描述
查看master虚拟机的进程
命令jps
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
主节点上停止Hadoop集群
命令:stop-all.sh
在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/95915.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

项目的可交付成果

目录 概述 定义 形式 评审与验收 概述 概念来自PMBOK,这书真的要细嚼慢咽,“可交付成果”多次出现,全书总共出现了288次,贯穿全书,绝对是个核心概念。 定义 可交付成果是在某一过程、阶段或项目完成时,必须产出的任何独特并可核实的产品、成果或服务能力。它通常是…

2022吴恩达机器学习课程——第二课(神经网络)

注:参考B站视频教程 视频链接:【(强推|双字)2022吴恩达机器学习Deeplearning.ai课程】 文章目录第一周一、神经元二、神经网络三、代码实现 & Tensorflow四、前向传播五、强人工智能六、矩阵乘法 (简单,可以跳过)第二周一、用Tensorflow训…

20221217英语学习

今日新词 haul v.(人)拖,拉 herd n.人群;(尤指有蹄的哺乳动物)兽群,牧群 focus v.把注意力集中于,重视;集中;(使)调节焦距 result…

代码随想录刷题记录day44 股票问题3 4

代码随想录刷题记录day44 股票问题3 4 123. 买卖股票的最佳时机 III 思想 dp数组定义 递推公式 dp[i][0] 第i天不操作股票手头最大的现金 i从0开始 dp[i][1] 第i天第一次持有股票的手头最大的现金 dp[i][1] max: i-1天不操作,第i天才买入:dp[i-1][0…

港科夜闻|香港科技大学(广州)拟获批首个省级重点实验室

关注并星标每周阅读港科夜闻建立新视野 开启新思维1、香港科技大学(广州)拟获批首个省级重点实验室。2022年12月6日,广东省科学技术厅发布关于2023年度平台基地及科技基础条件建设、高水平科技期刊建设拟立项目清单的公示,香港科大(广州)申报的广东省通感…

「Spring Cloud Alibaba官方手册」首发爆火,Github上标星243k

几年前 Dubbo被 SpringCloud所取代,相同的剧本,可惜阿里巴巴和 Spring社区都是巨头,巨头之间战斗要考虑很多,于是它们想到了合作, SpringCloud与alibaba相结合,技术上有人负责更新新的组件,也还…

今年面试太难,我凭借这份Java架构面试指南,成功跳槽涨薪10K

见字如面,这里是阿鑫~ 时光飞逝,转眼2022已经快结束了,最近内卷严重,大环境并不是很好,相信很多小伙伴也在准备明年金三银四的面试计划 ​跳槽加薪 职场中加薪有个屡试不爽的方法,那就是跳槽 每每听到周围…

浮点数运算不精确的问题解决和注意事项(BigDecimal)

总结:浮点数运算不精确的问题本质上是在存储的时候就不精确,这个问题会持续到即使使用到专业的工具类BigDecimal来使用时,如果仅仅只是传double类型做入参时依然会导致运算不精确,所以即使在使用BigDecimal工具类进行构造时也要使…

论文浅尝 | Knowledge Graph Contrastive Learning for Recommendation

笔记整理:刘尧锟,天津大学硕士链接:https://arxiv.org/pdf/2205.00976.pdf动机知识图谱已被用作有用的辅助信息来提高推荐质量。在这些推荐系统中,知识图谱信息通常包含丰富的事实和项目之间的内在语义相关性。然而,此…

Python源码学习新手攻略

Python源码学习是许多编程初学者在学习Python过程中十分重要的一个必经步骤,不仅如此,一些有一定开发经验的程序员想要提升自身,也常常需要阅读并学习优秀核心技术栈的源码。那么我们应该如何开始Python源码学习呢?下面小编就来和…

自学Web前端开发学习讲解 – 入门篇

很多人都对web前端感兴趣,这一期主要聊关于如何入门学习Web前端开发的过程分享,此篇适合想入门初学者,大佬就不用看了。主要内容是以本人这一路自学web前端的一些经验和建议,学习哪些知识,以及如何正确的去学&#xff…

AI绘画火爆,到现在还只是冰山一角?AIGC掀起当代新艺术浪潮

前言: hello,大家好我是Dream。近日,各大社交平台掀起了一股“AI绘图”风潮,很多同学朋友纷纷在社交平台上晒出了属于自己的AI照片,一时间AI相关话题热度高涨。那对于AI绘画以及开启AI内容创作新时代的昆仑万维你究竟了…

东北大学2023分布式操作系统考试题目及答案

Note:答案仅供参考,自己所写,不是标准答案,若发现错误,请指正,谢谢! 文章目录考试题目参考答案考试题目 1、简述分布式系统的设计目标中开放性的特点有哪些? 、 、 、 、 、 、 、…

​燕东微科创板上市:市值276亿 亦庄国投与京东方是股东

雷递网 雷建平 12月16日北京燕东微电子股份有限公司(简称:“燕东微”,股票代码为:“688172”)今日在科创板上市,燕东微本次发行17986.5617万股,发行价21.98元,募资总额39.56亿元。燕…

关于hcaptcha (vm wasm ob)三合一

该文章主要提供交流学习使用,请勿利用其进行不当行为! 如本篇文章侵犯了贵公司的隐私,请联系我立刻删除! 如因滥用解密技术而产生的风险与本人无关! 1 Hcaptcha hCaptcha 旨在解决机器学习中最劳动密集型的问题&am…

毕业设计 - 基于 java web的网上花店销售系统设计与实现【源码+论文】

文章目录前言一、项目设计1. 模块设计数据流图功能模块2. 实现效果二、部分源码项目源码前言 今天学长向大家分享一个 毕业设计项目: 网上花店销售系统的设计与实现 一、项目设计 1. 模块设计 数据流图 功能模块 1、首页(主界面) 提供简洁美观的主界…

Jenkins+Kubernetes企业级DevOps容器云平台

一、Kubernetes在DevOps中的作用 1、DevOps DevOps假导所有新的功能特性可以像流动的水一样,迭代到用户的终端,而水是不能讲流的,为了保证水流的质量,我们就必须在水流动的途中治理,直到最终交付到用户的手中。 DevOps是一套方法论、一系列的原则和实践,其主要目标为帮…

【Robot Framework】发送GET和POST请求

做接口自动化时,经常要使用GET与POST请求,那么如何使用RF发送对应的请求呢? 一、安装RequestsLibrary pip install robotframework-requests安装以后,导入到对应的测试套件或测试用例中. 本次主要介绍通过RequestsLibrary来实现…

JavaEE - JVM八股文(JVM内存区域划分,典型面试题,JVM类加载机制)

文章目录1. JVM运行时数据区(内存区域划分)2. JVM类加载机制常见面试题1. JVM运行时数据区(内存区域划分) JVM运行时数据区域也叫内存布局,但需要注意的时它和Java内存模型(JMM)不同&#xff0…

使用PyTorch进行知识蒸馏的代码示例

随着机器学习模型的复杂性和能力不断增加。提高大型复杂模型在小数据集性能的一种有效技术是知识蒸馏,它包括训练一个更小、更有效的模型来模仿一个更大的“教师”模型的行为。 在本文中,我们将探索知识蒸馏的概念,以及如何在PyTorch中实现它…