上篇文章中我们已经将之前配置好的伪分布集群虚拟机复制出来做为master节点的虚拟机,接下来我们还需对该虚拟机做进一步的配置来达到我们的要求。对master虚拟机的配置将从网络、hostname、更改Hadoop相关配置等几方面展开。
1、网络配置
目前虚拟机网卡IP地址为自动获取模式。也就是说虚拟机每次开机IP地址都不是确定的。这对于集群来说是不可接受的,因为集群节点(master、slave)之间通讯是靠IP地址找到对方的,如果IP地址不固定会造成集群间无法访问也就是集群无法工作。
因此我们首先需要做的就是将虚拟机的IP地址设置为固定IP。常见配置IP的方法是通过修改网卡配置文件然后重启网络来实现,在Ubuntu系统中我们还可以通过窗口界面来设置IP。为了简化配置过程我们这里采用窗口界面的方式来配置。IP地址的值可自行定义,这里我们约定master节点IP为192.168.79.11,slave1节点IP为192.168.79.12,slave2节点IP为192.168.79.13。
好啦小伙伴们,我们开始配置IP喽。首先打开并登陆master虚拟机,然后按下图操作进入IP配置界面。
选择连接1,然后点击编辑按钮来设置网络信息。
选择IPv4 Settings,然后Method选取Manual手动设置IP信息。
选择单击add按钮,添加配置信息。Address(IP地址)设置为192.168.79.11,Netmask(子网掩码)设置为255.255.255.0 ,Gateway(网关)设置为192.168.79.1。配置好之后单击save按钮保存配置。
在Network Connections下面点击close按钮完成网络的最终配置。
重启虚拟机让网卡重新配置
重启后的虚拟机查看网络连接,如图所示,IP地址更改成功
2、更改hostname文件
每个节点都有定义好的名字(master、slave1、slave2),因此除了需要设置固定的IP地址外还需配置虚拟机的名字。在下图终端中可以看出虚拟机的登录用户是hduser,虚拟机名字为master。在Linux系统中设置计算机名称是通过修改hostname文件实现的,hostname文件中的内容对应的就是当前虚拟机的名字。
hostname文件位于/etc/目录下,实用sudo vim /etc/hostname命令即可编辑。
由于在伪分布的时候虚拟机名字已经是master了,因此这里不需再进行变更,但是后续从节点slave1与slave2是都需要修改的哦。
3、更改hosts文件
Hadoop多节点分布式集群中还有两个从节点,如何让网络中的所有计算机可以通过主机名即可访问对应主机呢?一般有两种方法:1、修改DNS服务器2、设置hosts。我们平时访问百度首页服务器时输入https://www.baidu.com即可找到对应服务器这就是应用了DNS服务。我们的集群比较简易没有单独的DNS服务,所以这里我们使用更改hosts文件的方式。Hosts文件可存储网络中各节点的信息负责计算机名与IP的映射。下面我们开始设置master虚拟机的hosts文件。
首先终端中执行 sudo vim /etc/hosts命令,然后在hosts文件中做如下修改:
最后记得按Esc然后输入:wq保存hosts文件并退出编辑。
到这里master节点配置任务就只剩下hadoop相关文件啦,我们下次继续。
数据分析咨询请扫描二维码
明确学习目标与需求 对于新手,选择入门级课程掌握基础概念和工具。 深入学习统计学、机器学习等高级主题则需要进阶或专业化课 ...
2024-12-02明确职业发展目标与学习需求 对于新手,选择入门级课程有助于掌握数据分析的基础概念和工具。 拥有一定基础的人可以考虑深入学 ...
2024-12-02在当今数字化时代,数据分析岗位扮演着至关重要的角色。从数据的收集到最终的业务支持与决策,数据分析专员肩负着多方面的责任。 ...
2024-12-02在当今数字化时代,数据分析已经成为企业的核心竞争力之一。从数据的收集到分析再到最终的决策支持,数据分析人员在企业中扮演着 ...
2024-12-02数据分析,看似高深莫测,实则贴近日常生活。许多人误以为数据分析需要高超技能如Python编程或算法应用,然而,真正的数据分析并 ...
2024-12-02数据分析在当今职场中扮演着至关重要的角色,但在追求这一技能的过程中,我们常常陷入各种误区。从认知误区到工具依赖,这些障碍 ...
2024-12-02初阶阶段 统计学基础:深入理解概率、假设检验及回归分析,揭示数据背后的价值意义。 Excel高级应用:掌握数据导入、清洗和动态 ...
2024-12-02基础阶段 统计学基础: 掌握概率、假设检验、回归分析等内容,这些是解读数据背后含义的关键。 Excel高级应用: 学习数据导入、 ...
2024-12-02实习机会 数据分析师实习生在当今数据驱动的时代中拥有丰富的机会,但竞争也异常激烈。他们的日常工作包括从各个来源收集数据, ...
2024-12-02在当今数据驱动的时代,数据分析师的实习机会异常丰富且竞争激烈。本文将深入探讨数据分析师实习机会及建议,揭示行业内的关键信 ...
2024-12-02基础知识 统计学: 掌握数据分析的关键是理解统计学基本概念,如平均值、中位数和回归分析。这些概念为分析数据提供了重要框架 ...
2024-12-02基础知识 数据分析领域的入门之路并不是一帆风顺,就像搭建高楼大厦一样,需要坚实的基础。首先,我们来探讨几个关键的基础知识 ...
2024-12-02在当今信息爆炸的时代,数据成为企业决策的关键驱动力。成为一名优秀的数据分析师,并非仅仅掌握数据的本质,更需要具备多方面的 ...
2024-12-02数据收集与整理 数据分析师需要从多个来源收集数据,包括内部数据库、外部市场数据和社交媒体。 清洗和整理数据以确保准确性和 ...
2024-12-02在当今信息爆炸的时代,数据分析扮演着愈发关键的角色。从数据的收集、清洗、分析到最终的报告撰写,数据分析涵盖了广泛而深入的 ...
2024-12-02揭秘数据分析求职之路 在当今竞争激烈的就业市场中,数据分析专业的就业形势备受关注。究竟数据分析领域的求职难度如何?让我们 ...
2024-12-02数据分析就业挑战与应对策略 在当今社会,数据分析专业的就业并非一帆风顺。竞争激烈,技能要求高,许多人发现找工作并不容易。 ...
2024-12-02在追求成为一名出色的数据分析师的道路上,技术和软技能同样重要。技术技能涵盖了诸多方面,其中包括: 统计学知识 探索庞大数据 ...
2024-12-02从技术到软技能:数据分析的全貌 学习数据分析是一项综合性任务,涉及多方面技能。这些技能主要可以划分为技术技能和软技能两大 ...
2024-12-02作为初学者踏入数据分析领域,掌握一系列关键能力至关重要。这些技能不仅涵盖基础工具的使用,还包括深入的分析方法、对业务的理 ...
2024-12-02