IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Python Spark+hadoop安装配置及安装包 -> 正文阅读

[大数据]Python Spark+hadoop安装配置及安装包

                        **Python Spark+hadoop安装配置及安装包**
最近有用到python的spark框架,所以和大家来聊聊这些配置安装方面的问题,后期会更新spark方面的知识。
我采用的spark版本是spark-3.0.3-bin-hadoop2.7
hadoop的版本是hadoop-2.8.3
废话不多说,先直接贴下载地址
我的百度云链接链接:https://pan.baidu.com/s/1z4a4J1D01Clbeoy5NRKCQQ 
提取码:krqi

永久有效,无效可私聊本人

前提:jdk8的配置安装,这里我就不多做描述了,大家可以百度看看
1.spark解压及配置
下载完以后首先将spark-3.0.3-bin-hadoop2.7解压
解压
这是在这里插入图片描述
这个是解压以后的目录
配置环境变量
新增环境变量
变量名:SPARK_HOME
变量值:D:\spark
注意,变量值是你解压后的spark的文件路径
在这里插入图片描述
然后需要在环境变量PATH下新增变量值

%SPARK_HOME%\bin和%SPARK_HOME%\sbin
如图
在这里插入图片描述
2.hadoop解压及配置
同理
在这里插入图片描述
其他的目录我删除了,我没有用到,有需要的小伙伴可以重新下载
配置
新增系统变量
变量名:HADOOP_HOME
变量值:D:\hadoop\hadoop-2.7.3
变量值是解压以后的hadoop地址
同理Path下也需要进行配置
在这里插入图片描述
sbin目录没有可以不进行配置
做到这里其实差不多配置好了
但是我发现启动python脚本的时候发现有报错
报错的原因是因为pycharm找不到spark的位置,需要初始化
有两种结局方式
方式1:
在脚本上面加这两句
import findspark
findspark.init()

方式2:

在相应的脚本上
在这里插入图片描述
点击edit configurations

在这里插入图片描述
选择environment variables

在这里插入图片描述添加
PYTHONPATH=D:\spark\python
值就是spark目录下的一个python文件夹
在这里插入图片描述
在这里插入图片描述
加完以后可以试着启动一下,如果有问题重启一下pycharm试一下,应该就可以了,本人亲测可用

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-07-28 07:53:02  更:2021-07-28 07:55:14 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/20 21:16:58-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码