1、多节点集群架构设计
后续介绍的Hadoop多节点集群由三台计算机构成:一台主节点为master，两台从节点为slave1、slave2。
master节点上主要运行namenode、Resourcemanager 进程；slave节点上运行datanode、nodemanager进程。
由于大家一般只有一台计算机，因此我们使用虚拟机软件VMware workstation虚拟出三台计算机来分别运行master、slave1、slave2节点。因为是虚拟出的集群，所以跟实际的进群还是有差距的，不会体会到真正的并行计算与并行存储的优势。实际工作中整个集群会有十几个甚至上百个节点，可以批量处理以T为单位的数据。然而他们配置方法是大致相同的，运行过程也是一致的，区别只是在运行速度和存储数据量上会体现出来。
为了简化安装过程，我们将在之前的伪分布集群基础上通过修改配置文件等操作来创建master节点。
2、复制伪分布集群节点
首先需要复制之前安装配置过伪分布集群的虚拟机。具体操作步骤如下：
1）启动VMware Workstation，选择 虚拟机->管理->克隆
单击下一步继续
克隆自 选择虚拟机中的当前状态，然后单击下一步
克隆方法选择创建完整克隆
虚拟机名称设置为master，虚拟机位置根据电脑情况，请自定义。最后单击完成按钮完成克隆配置。
耐心等待，克隆过程时间长短取决于电脑磁盘读写性能。
出现如下图标表示克隆完成，单击关闭按钮结束克隆过程。
此时VMware自动弹出克隆后的虚拟机控制窗口。
3、虚拟机参数设置
用于分布式集群的虚拟机既要可以连接互联网又要可以连接其他虚拟机，在VMware软件中网卡类型选择NAT模式即可完成集群外部、内部通讯。如果是在virtualbox中则配置NAT网卡之外还需配置仅主机模式网卡一张，NAT与外部通讯，仅主机模式网卡用于集群内部通讯。
参照下图双击网络适配器
双击
网络连接选择NAT模式，内存建议2G，其他配置默认即可。
复制好master虚拟机之后还需对其进行多项配置，主要有hostname、配置固定IP，修改hadoop配置文件等，这些内容将在下篇介绍。
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
在金融行业的数字化转型进程中，SQL作为数据处理与分析的核心工具，贯穿于零售银行、证券交易、保险理赔、支付结算等全业务链条 ...
2025-12-24在数据分析领域，假设检验是验证“数据差异是否显著”的核心工具，而独立样本t检验与卡方检验则是其中最常用的两种方法。很多初 ...
2025-12-24在企业数字化转型的深水区，数据已成为核心生产要素，而“让数据可用、好用”则是挖掘数据价值的前提。对CDA（Certified Data An ...
2025-12-24数据分析师认证考试全面升级后，除了考试场次和报名时间，小伙伴们最关心的就是报名费了，报 ...
2025-12-23CDA中国官网是全国统一的数据分析师认证报名网站，由认证考试委员会与持证人会员、企业会员以及行业知名第三方机构共同合作，致 ...
2025-12-23在Power BI数据可视化分析中，矩阵是多维度数据汇总的核心工具，而“动态计算平均值”则是矩阵分析的高频需求——无论是按类别计 ...
2025-12-23在SQL数据分析场景中，“日期转期间”是高频核心需求——无论是按日、周、月、季度还是年度统计数据，都需要将原始的日期/时间字 ...
2025-12-23在数据驱动决策的浪潮中，CDA（Certified Data Analyst）数据分析师的核心价值，早已超越“整理数据、输出报表”的基础层面，转 ...
2025-12-23在使用Excel数据透视表进行数据分析时，我们常需要在透视表旁添加备注列，用于标注数据背景、异常说明、业务解读等关键信息。但 ...
2025-12-22在MySQL数据库的性能优化体系中，索引是提升查询效率的“核心武器”——一个合理的索引能将百万级数据的查询耗时从秒级压缩至毫 ...
2025-12-22在数据量爆炸式增长的数字化时代，企业数据呈现“来源杂、格式多、价值不均”的特点，不少CDA（Certified Data Analyst）数据分 ...
2025-12-22在企业数据化运营体系中，同比、环比分析是洞察业务趋势、评估运营效果的核心手段。同比（与上年同期对比）可消除季节性波动影响 ...
2025-12-19在数字化时代，用户已成为企业竞争的核心资产，而“理解用户”则是激活这一资产的关键。用户行为分析系统（User Behavior Analys ...
2025-12-19在数字化转型的深水区，企业对数据价值的挖掘不再局限于零散的分析项目，而是转向“体系化运营”——数据治理体系作为保障数据全 ...
2025-12-19在数据科学的工具箱中，析因分析（Factor Analysis, FA）、聚类分析（Clustering Analysis）与主成分分析（Principal Component ...
2025-12-18自2017年《Attention Is All You Need》一文问世以来，Transformer模型凭借自注意力机制的强大建模能力，在NLP、CV、语音等领域 ...
2025-12-18在CDA（Certified Data Analyst）数据分析师的时间序列分析工作中，常面临这样的困惑：某电商平台月度销售额增长20%，但增长是来 ...
2025-12-18在机器学习实践中，“超小数据集”（通常指样本量从几十到几百，远小于模型参数规模）是绕不开的场景——医疗领域的罕见病数据、 ...
2025-12-17数据仓库作为企业决策分析的“数据中枢”，其价值完全依赖于数据质量——若输入的是缺失、重复、不一致的“脏数据”，后续的建模 ...
2025-12-17在CDA（Certified Data Analyst）数据分析师的日常工作中，“随时间变化的数据”无处不在——零售企业的每日销售额、互联网平台 ...
2025-12-17
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
