1、多节点集群架构设计
后续介绍的Hadoop多节点集群由三台计算机构成:一台主节点为master，两台从节点为slave1、slave2。
master节点上主要运行namenode、Resourcemanager 进程；slave节点上运行datanode、nodemanager进程。
由于大家一般只有一台计算机，因此我们使用虚拟机软件VMware workstation虚拟出三台计算机来分别运行master、slave1、slave2节点。因为是虚拟出的集群，所以跟实际的进群还是有差距的，不会体会到真正的并行计算与并行存储的优势。实际工作中整个集群会有十几个甚至上百个节点，可以批量处理以T为单位的数据。然而他们配置方法是大致相同的，运行过程也是一致的，区别只是在运行速度和存储数据量上会体现出来。
为了简化安装过程，我们将在之前的伪分布集群基础上通过修改配置文件等操作来创建master节点。
2、复制伪分布集群节点
首先需要复制之前安装配置过伪分布集群的虚拟机。具体操作步骤如下：
1）启动VMware Workstation，选择 虚拟机->管理->克隆
单击下一步继续
克隆自 选择虚拟机中的当前状态，然后单击下一步
克隆方法选择创建完整克隆
虚拟机名称设置为master，虚拟机位置根据电脑情况，请自定义。最后单击完成按钮完成克隆配置。
耐心等待，克隆过程时间长短取决于电脑磁盘读写性能。
出现如下图标表示克隆完成，单击关闭按钮结束克隆过程。
此时VMware自动弹出克隆后的虚拟机控制窗口。
3、虚拟机参数设置
用于分布式集群的虚拟机既要可以连接互联网又要可以连接其他虚拟机，在VMware软件中网卡类型选择NAT模式即可完成集群外部、内部通讯。如果是在virtualbox中则配置NAT网卡之外还需配置仅主机模式网卡一张，NAT与外部通讯，仅主机模式网卡用于集群内部通讯。
参照下图双击网络适配器
双击
网络连接选择NAT模式，内存建议2G，其他配置默认即可。
复制好master虚拟机之后还需对其进行多项配置，主要有hostname、配置固定IP，修改hadoop配置文件等，这些内容将在下篇介绍。
CDA学员免费下载查看报告全文：2026全球数智化人才指数报告【CDA数据科学研究院】.pdf
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
在数据驱动运营的时代，指标是连接业务目标与实际行动的核心桥梁，是企业解读业务现状、发现问题、预判趋势的“量化标尺”。一套 ...
2026-05-08在存量竞争日趋激烈的商业时代，“以客户为中心”早已从口号落地为企业运营的核心逻辑。而客户画像作为打通“了解客户”与“服务 ...
2026-05-08 很多数据分析师每天与Excel打交道，但当被问到“什么是表格结构数据”“它和表结构数据有什么区别”“表格结构数据有哪些核 ...
2026-05-08在数据分析、计量研究等场景中，回归分析是探究变量间量化关系的核心方法，无论是简单的一元线性回归，还是复杂的多元线性回归、 ...
2026-05-07在数据分析、计量研究等场景中，回归分析是探究变量间量化关系的核心方法，无论是简单的一元线性回归，还是复杂的多元线性回归、 ...
2026-05-07 很多数据分析师画过趋势图、做过业绩预测，但当被问到“这个月销售额增长20%，到底是长期趋势自然增长，还是促销活动的短期 ...
2026-05-07在数字化时代，商业竞争的核心已从“经验驱动”转向“数据驱动”，越来越多的企业意识到，商业分析不是简单的数据统计与报表呈现 ...
2026-05-06在Excel数据透视表的实操中，“引用”是连接透视表与公式、辅助数据的核心操作，而相对引用作为最基础、最常用的引用方式，其设 ...
2026-05-06 很多数据分析师做过按月份的销售额趋势图，画过按天的流量折线图，但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-05-06在Excel数据分析中，数据透视表是汇总、整理海量数据的高效工具，而公式则是实现数据二次计算、逻辑判断的核心功能。实际操作中 ...
2026-04-30Excel透视图是数据分析中不可或缺的工具，它能将透视表中的数据快速可视化，帮助我们直观捕捉数据规律、呈现分析结果。但在实际 ...
2026-04-30 很多数据分析师能熟练地计算指标、搭建标签体系，但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-04-30在中介效应分析中，人口统计学变量（如年龄、性别、学历、收入、职业等）是常见的控制变量或调节变量，其处理方式直接影响分析结 ...
2026-04-29在SQL数据库实操中，日期数据的存储与显示是高频需求，而“数字日期”（如20240520、20241231、45321）是很多开发者、数据分析师 ...
2026-04-29 很多分析师在设计标签时思路清晰，但真到落地环节却面临“数据在手，不知如何转化为可用标签”的困境：或因加工方式选择不当 ...
2026-04-29在手游行业竞争日趋白热化的当下，“流量为王”早已升级为“留存为王”，而付费用户留存率更是衡量一款手游盈利能力、运营质量的 ...
2026-04-28在日常MySQL数据库运维与开发中，经常会遇到“同一台服务器上，两个不同数据库（以下简称“源库”“目标库”）的表数据需要保持 ...
2026-04-28 很多分析师每天和数据打交道，但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时，却常常答不上来。 ...
2026-04-28箱线图（Box Plot）作为一种经典的数据可视化工具，广泛应用于统计学、数据分析、科研实证等领域，核心价值在于直观呈现数据的集 ...
2026-04-27实证分析是社会科学、自然科学、经济管理等领域开展研究的核心范式，其核心逻辑是通过对多维度数据的收集、分析与解读，揭示变量 ...
2026-04-27
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
