京公网安备 11010802034615号
经营许可证编号:京B2-20210330
今天,我们一起安装、配置spark集群环境,方便后期继续学习研究。spark项目是由scala语言编写的,因此需提前配置Scala环境才能运行Spark程序。
我们安装spark2.1.2版本与之对应的环境要求可以在spark官网可以得到。 如下图所示:
从上图可一看到安装Spark2.1.2我们需要安装scala2.11.x版,在scala官网可以找到与之对应的是2.11.12。scala运行对java虚拟机也是有要求的,从下图可以看到2.11.12要求java1.8的环境。大家还记得我们虚拟机中安装的java版本吗?
我们可以使用命令查看一下,如下图所示:你们安装的就是1.8(最后一位小版本号之间差异不大,一般可以忽略)。所以我们只需下载scala2.11.12即可。
下载scala2.11.12.tgz的方法:可以在官网选择下图所示的文件下载
首先通过WinSCP将下载的scala压缩文件上传至master用户主目录下Downloads目录下,使用命令 tar –zxvf scala2.11.12.tgz 解压scala2.11.12.tgz至用户主目录下,解压后的文件夹名为scala-2.11.12
将解压后的文件夹名由scala-2.11.12改为scala,可使用下图所示操作命令
编辑用户主目录下的.bashrc文件,命令如下图所示
在文件末尾添加如下内容
保存并退出,重新导入配置文件.bashrc然后终端中使用命令scala -version查看scala安装配置是否成功。操作过程如下图所示:
在master节点操作成功后为了简便可以将scala文件目录和./.bashrc复制到slave1、slave2。复制文件到其他节点使用scp命令:
scp -r ./scala hduser@slave1:~/
scp ./.bashrc hduser@slave1:~/
scp -r ./scala hduser@slave2:~/
scp ./.bashrc hduser@slave2:~/
通过以上命令slave1和slave2节点上都有scala及其配置文件了。我们可以通过重新导入配置文件查看每个节点是否安装成功,操作如下面两图所示:
到这里集群中scala环境就配置好了,下篇文章介绍spark的安装。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据指标体系搭建工作中,从业者常困惑于指标搭建的核心逻辑:究竟是依托一线零散数据自下而上汇总指标,还是基于战略目标自上 ...
2026-07-31在数据分析、问卷研究、实验复盘、业务建模的工作中,大多数人最关注的是“用什么统计方法”:是做T检验、方差分析、卡方检验, ...
2026-07-31 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-07-31在问卷调研的数据分析流程中,“先检验信效度,再开展进阶统计分析”是通用的规范逻辑。很多从业者会听到“问卷效度高,后续可以 ...
2026-07-30【核心关键词】大数据、统计学、专业、毕业生、论文、课程、计算机、建模、知识、数据分析、机器学习、数据科学、大数据技术、 ...
2026-07-30 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-07-30在业务数据分析中,按天拆分统计夜间时段的数据是高频需求——比如电商夜间订单监测、平台夜间用户活跃度分析、运维系统夜间异常 ...
2026-07-29在机器学习建模与特征工程实践中,判断不同特征对模型预测效果的贡献度,是特征筛选、模型解释、业务归因的核心环节。特征置换重 ...
2026-07-29 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-07-29【核心关键词】岗位、数字化、经验、课程、方法论、决策、企业、大方向、数据分析、销售管理、理论知识、思维方式、分析销售、 ...
2026-07-28在问卷调研、用户分群、效果对比等业务数据分析中,分类变量的关联性与差异性验证是高频需求。卡方检验作为针对离散分类数据的经 ...
2026-07-28 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-07-28在Excel数据分析与报表制作中,数据透视表是快速完成多维度汇总、分组统计的核心工具。很多从业者在得到透视表汇总结果后,为了 ...
2026-07-27 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据的基本处理单位是什么”“数据类型误判会引发哪些分析错误”“ ...
2026-07-27当下,我们已然步入数据要素价值全面释放的智能时代。数据不再只是零散的数字记录,更是驱动新质生产力运转的核心动能、滋养人工 ...
2026-07-27【核心关键词】客户、数据分析、指标体系、数据采集、数据指标、业务数据、分析思路、业务需求、分析方法 【专访摘要】本次 CDA ...
2026-07-24在数据分析、业务建模与数字化运营体系中,原始业务数据普遍存在缺失、重复、异常、口径不一致等质量问题,直接用于分析与建模会 ...
2026-07-24 很多数据分析师能熟练计算均值、标准差,但当被问到“如何用一张图让业务方3秒内看懂核心结论”“面对不同数据类型该怎么选 ...
2026-07-24在数据驱动的精细化运营体系中,指标是业务判断、效果复盘、策略优化的核心依据。随着企业数据化程度提升,指标数量持续膨胀,但 ...
2026-07-23在用户运营与产品增长体系中,留存是衡量产品真实价值与用户粘性的核心标尺,也是决定用户生命周期价值、获客投产比的底层因素。 ...
2026-07-23