Spark Windows10 安装

news2024/9/23 13:21:41

目录

    • 一、Scala的安装
    • 二、Spark的安装
      • 1、Spark的几个版本的意思
      • 2、Spark的最新版本:[Spark最新版](https://spark.apache.org/downloads.html)
      • 3、安装Spark
      • 4、下载winutils

在我们安装Spark之前,由于Spark基于Scala的,所以我们需要先安装Scala。
 

一、Scala的安装

  ,这里先说明一下Spark与Scala版本之间的问题,在Spark的官网中有这样一句话:Note that Spark 3 is pre-built with Scala 2.12 in general and Spark 3.2+ provides additional pre-built distribution with Scala 2.13.
  这个看一下就懂了,如果我们安装Spark3版本的我们需要先安装Scala 2.12,而Spark 3.2+的需要使用Scala 2.13.
 
在这里插入图片描述
 

1、先给出Scala的官网,在这里可以下载所有版本的Scala All Version,由于我们下载的Spark是spark-3.1.3-bin-hadoop3.2版本的,所以这里下载的Scala版本是2.12版本,既Scala 2.12.17,然后解压到一个指定的文件夹,如:D:\Environment\scala-2.12.17
2、配置环境变量:在我的电脑中的高级系统设置中我们在系统变量(s)中新建一个系统变量,变量名:SCALA_HOME,变量值:D:\Environment\scala-2.12.17
3、然后在系统变量(s)的Path中新建一个%SCALA_HOME%\bin
4、打开控制台,输入scala即可

 
在这里插入图片描述
 
 
在这里插入图片描述
 
 
在这里插入图片描述
 
 

二、Spark的安装

 
安装Spark之前,我们先来看一下Spark的几个版本的意思
Spark官网中:Spark All Version
我们以我们的Spark3.1.3为例子
 
在这里插入图片描述
 

1、Spark的几个版本的意思

  • SparkR是R语言的版本
  • spark-bin-hadoop 包含hadoop;包含默认的scala版本(spark基于scala,scala基于jvm)
  • spark-bin-without-hadoop
    不包含hadoop,需要用户自己单独安装hadoop并设置spark到hadoop的关联关系;包含默认的scala版本。
  • spark-bin-without-hadoop-scala-2.11 不包含hadoop,包含特定版本(2.11)的scala。
  • 话说回来,为什么没有带hadoop和特定版本的scala。
  • spark-tgz这是源码。

 

2、Spark的最新版本:Spark最新版

 

在这里插入图片描述
 

  这个看一下就懂了,如果我们安装Spark3版本的我们需要先安装Scala 2.12,而Spark 3.2+的需要使用Scala 2.13.
 

3、安装Spark

1、下载spark-3.1.3-bin-hadoop3.2版本,,然后解压到一个指定的文件夹,如:D:\Environment\spark-3.1.3-bin-hadoop3.2
2、配置环境变量:在我的电脑中的高级系统设置中我们在系统变量(s)中新建一个系统变量,变量名:SPARK_HOME,变量值:D:\Environment\spark-3.1.3-bin-hadoop3.2
3、然后在系统变量(s)的Path中新建一个%SPARK_HOME%\bin

其实步骤和安装Scala是一样的,只是Spark的还不能进行版本测试。
 

4、下载winutils

1、为什么要使用winutils这个东西,首先我们先给出它的GitHub地址:Winutils Github,然后看看GitHub里面的内容,如下图:
 
在这里插入图片描述
 

我们下载与我们hadoop对应版本的,如hadoop-3.2.2,然后把这个路径下的D:\Environment\winutls\winutils\hadoop-3.2.2\bin一个文件winutils.exe复制到我们的hadoop-3.2.2的bin目录下,如下图:
 
在这里插入图片描述
 
然后这样我们就安装完成了,之后我们打开我们的cmd,输入spark-shell即可,如下图:
 
在这里插入图片描述
 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/68998.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

机床测头应用二:自动补偿功能,提升生产良率

机床测头仿形加工功能可以保证“第一件和第一百件尺寸一致”机床测头应用一:仿形加工功能,降低废品率,此外它的自动补偿功能,也是批量生产中不可缺少的重要质量控制手段。机床测头的自动补偿能实现加工前准确找到工件中心自动更新…

从零开始学习JMETER性能测试

从零开始学习JMETER性能测试 顶级 Jmeter 讲座通过实时示例解释负载测试,包括材料和查询支持 课程英文名:Learn JMETER from Scratch on Live Apps Performance Testing 此视频教程共17.0小时,中英双语字幕,画质清晰无水印&…

实战项目演练丨九哥带你搭建精美的博客后台管理系统!

本项目是一个博客后台管理系统,主要包含四个大模块:用户、分类、博客和评论。项目启动后需要通过管理员身份进入系统,进入系统后会呈现后台管理主界面,通过后左侧的导航菜单,实现不同模块的数据维护。 一. 基本简介 …

美食杰项目(七)菜谱大全

本文目录前言:1.具体样式2.实现的具体功能和代码思路3.element ui具体样式的网址4.相关代码5.总结:前言: 本文给大家讲的是美食杰项目中菜谱大全项目的具体样式,代码思路和具体代码,希望能帮助到你 1.具体样式 2.实现…

Zabbix6.0使用教程 (一)—zabbix新增功能介绍1

使用zabbix的小伙伴应该都有关注到目前zabbix的大版本已经更新到了6.0,后面乐乐将会对如何使用zabbix6.0做一个使用教程的系列,大家可以持续关注,这篇我们主要聊聊zabbix6.0新增的一些功能介绍。 一、Zabbix server 的高可用集群 新版本附带…

Hadoop Windows10 安裝

安裝Hadoop之前,我们先需要安装JDK,JDK的安装我就不多说了 一、安装JDK 1、到Oracle的官网中下载jdk,然后解压到一个指定的文件夹,如:D:\Program Files\Java\jdk-15.0.1 2、配置环境变量:在我的电脑中的高…

SCRM是什么,SCRM和CRM区别?

要想知道什么是SCRM?首先必须清楚SCRM和CRM的区别。 1、定义不同 CRM全称:Customer Relationship Management,中文叫“客户关系管理”,是指社会化客户关系管理。CRM一词流行至今已有20余年,是企业管理系统中专门针对客…

【MySQL】第01章_数据库概述

目录第01章_数据库概述1.为什么要使用数据库2.数据库与数据库管理系统2.1 数据库的相关概念2.2 数据库与数据库管理系统的关系3.MySQL介绍3.1 概述3.2 关于MySQL 8.04. RDBMS 与 非RDBMS4.1 关系型数据库(RDBMS)4.1.1 实质4.1.2 优势4.2 非关系型数据库(非RDBMS)4.2.1 介绍4.2.…

什么是JDBC?JDBC程序的具体实现步骤

什么是JDBC?JDBC程序的具体实现步骤JDBC的全称是Java数据库连接(Java Database Connectivity),它是一套用于执行SQL语句的Java API。应用程序可通过这套API连接到关系数据库,并使用SQL语句来完成对数据库中数据的查询、更新和删除等操作。应…

2-2-3-5-3、SynchronousQueue详解

简介 SynchronousQueue是一个没有数据缓冲的BlockingQueue,生产者线程对其的插入操作put必须等待消费者的移除操作take 如图所示,SynchronousQueue 最大的不同之处在于,它的容量为 0,所以没有一个地方来暂存元素,导…

排序算法-计数排序、桶排序、基数排序

计数排序、桶排序、基数排序 这三种排序算法都利用了桶的概念,都属于用空间换时间的算法。但对桶的使用方法上有明显差异: 计数排序:每个桶只存储单一键值;桶排序:每个桶存储一定范围的数值;基数排序&…

Linux网络基础(基础概念)

Linux网络基础(基础概念) 文章目录Linux网络基础(基础概念)1.计算机网络的发展过程1.1 独立模式1.2 网络互联模式1.3 局域网 LAN1.4 广域网 WAN2.计算机网络协议2.1 协议的概念2.2 什么是网络协议2.3 什么是网络协议簇2.4 OSI 七层模型2.5 TCP/IP 五层模型3.网络传输基本流程3.…

3M EDI 855 采购订单确认报文详解

3M公司,全称明尼苏达矿业及机器制造公司。它于1902年成立,总部现位于美国明尼苏达州首府圣保罗市,为世界著名的多元化跨国企业,并且是道琼斯30种工业成分指数股票之一。 3M为管理其庞大的供应链建立了EDI(Electronic D…

微信小程序|使用小程序制作一个马赛克处理工具

此文主要使用微信小程序制作一个马赛克处理工具,这个场景在生活中也非常常见,例如新闻之类有些视频或者图片不想给大众展示就会将其和谐掉,这就是马赛克应用。 开发步骤创建小程序功能开发实现API接口响应开发步骤 创建小程序 准备百度以及微…

[附源码]Python计算机毕业设计Django医疗器械公司公告管理系统

项目运行 环境配置: Pychram社区版 python3.7.7 Mysql5.7 HBuilderXlist pipNavicat11Djangonodejs。 项目技术: django python Vue 等等组成,B/S模式 pychram管理等等。 环境需要 1.运行环境:最好是python3.7.7,…

2022年11月份中国最具影响力的50位钧瓷匠人排行榜

讲好钧瓷产业的故事 有深度的故事,有温度的内容 有态度的文字,有立场的思考 版权声明:钧瓷内参独家发布,侵权必究 第320期 钧瓷内参 2022年12月1日 低代码——钧瓷企业数字化转型的核心引擎 2022年11月…

百趣代谢组学分享,肠道神奇细菌竟能调控体重,减肥有望“吃出来”

​代谢组学分享,上海交通大学附属瑞金医院宁光院士团队在Nature Medicine在线发布中国人肥胖的肠道菌群的较新研究,发现一系列丰度显著异于正常体重人群的肠道共生菌,其中多形拟杆菌(BT菌)口服可降低小鼠血清谷氨酸浓度…

java计算机毕业设计ssm校园安全随手拍系统wc38l(附源码、数据库)

java计算机毕业设计ssm校园安全随手拍系统wc38l(附源码、数据库) 项目运行 环境配置: Jdk1.8 Tomcat8.5 Mysql HBuilderX(Webstorm也行) Eclispe(IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#xf…

港科夜闻|香港科大张利民教授荣获2023年度美国土木工程师学会派克奖(Ralph B. Peck Award)...

关注并星标每周阅读港科夜闻建立新视野 开启新思维1、香港科大张利民教授荣获2023年度美国土木工程师学会派克奖(Ralph B. Peck Award)。张利民教授因在岩土多灾害风险评估、基于风险的工程设计和应急决策等领域的杰出贡献,荣获 2023年度美国土木工程师学会派克奖&a…

如何在 Spring Boot 项目中使用 Thymeleaf 和 Bootstrap 实现文件上传

在本教程中,我将向您展示如何在 Spring Boot 项目中使用 Thymeleaf 和 Bootstrap 实现文件上传。我们还使用 Spring Web MultipartFile界面来处理 HTTP 多部分请求。 Thymeleaf 文件上传概述 我们的 Spring Boot Thymeleaf 文件上传示例将具有以下功能&#xff1…