之前的文章中我们已经将master节点的网络IP、hostname文件、hosts文件配置完成,接下来还有hadoop相关配置文件需要修改。今天我们来讲master节点hadoop的配置。
1、hdfs-site.xml
在hadoop的配置文件中与HDFS(hadoop分布式文件系统)相关的是hdfs-core.xml文件。在伪分布集群中只有一个节点,因此此节点即要有NameNode功能也要有DataNode功能。在工作环境中这两个是不会在一个节点上的,在我们的多节点分布式集群中master只运行NameNode因此需在hdfs-site.xml文件中删除DataNode相关配置。
打开虚拟机在终端中输入cd hadoop/etc/hadoop 命令进入hadoop配置文件目录。
终端输入命令vim hdfs-site.xml进入vim编辑界面,按下图步骤删除原来伪分布集群配置的DataNode相关配置,并将数据冗余数量设置为2。
输入i进入编辑模式,编辑后的文件内容如下所示。
最后退出编辑模式,保存并退出。
2、core-site.xml
在core-site.xml中指定一个节点运行hdfs服务。在之前伪分布集群中只有一个节点,因此我们使用的是localhost,如今在集群中有三个节点,我们约定使用master。
在终端中输入vim core-site.xml按下图操作修改配置文件。
修改后内容如下所示
记得退出并保存。
在yarn-site.xml里可以修改与资源管理模块YARN相关的一些配置。
终端中输入 vim yarn-site.xml进行以下更改,将资源调度管理任务放置于master节点上
最终修改后的文件内容如下图所示。
4、mapred-site.xml
进行以下更改,主要添加mapreduce运行历史记录监控端口和网页端口。
同样,在终端输入vim mapred-site.xml开始编辑配置文件,配置内容如下所示
最后保存并退出。
5、slaves
slaves文件指明哪些节点运行DateNode进程,这里我们的集群中运行DataNode进程的节点有slave1、slave2。因此需将这两节点保存到slaves文件中。
在终端中输入 vim slaves命令编辑文件,编辑后的文件内容如下图所示。
最后保存slaves文件并退出编辑。到这里master节点上的hadoop相关配置已经完成了。
接下来我们要通过克隆master及slave1虚拟机来扩展集群。
6、生成slave1节点
通过克隆master 生成slave1节点的过程与之前克隆伪分布节点的操作是一致的这里不再赘述,唯一区别是在执行到下图步骤时注意将虚拟机名称设置为slave1并选择正确的存储位置方便管理。还有一点,被克隆的虚拟机一定要关机状态才可以被克隆。
slave1节点与master节点在hostname、IP地址、Hadoop配置这几个方面是有些差异的,在复制好slave1节点之后需进行配置。
6.1 配置IP地址
在前面文章中提到过slave1节点IP地址应设置为固定的值:192.168.79.12。详细的配置方法步骤已经在配置master节点时介绍过,配置slave1节点时可以参考一下。修改完成后的配置结果如下图所示,点击save保存即可。
6.2、修改hostname
保存并退出
6.3、修改Hadoop配置项
hdfs-site.xml
保存并退出之后重启slave1节点查看配置是否生效。
7、生成slave2节点
Slave2与slave1在Hadoop相关配置内容上是一致的,因此通过克隆slave1节点来生成slave2可以减少一些操作步骤。
克隆slave1节点时的操作步骤同样参考之前文章内容,区别是执行到下图步骤时记得更改虚拟机名称为slave2并更改存储目录(存储目录自己定义)。
7.1、配置IP地址
克隆完成后打开slave2虚拟机并配置其IP地址。配置过程与之前配置master节点IP过程一致,只是IP地址需改为192.168.79.13结果如下图所示,点击save保存即可。
更改Hostname,在终端中输入sudo vim /etc/hostname并回车执行,根据提示输入密码
输入i编辑hostname文件,文件内容如下所示为slave2,然后保存退出。
重启虚拟机测试配置是否生效,重启命令为sudo reboot
slave2重新启动后打开终端,输入命令ifconfig查看IP设置及虚拟机名,如下图所示配置已经生效。
到这里我们的hadoop集群安装配置完成。接下来的文章我会给大家介绍一下hadoop集群如如何启动。
数据分析咨询请扫描二维码
在现代数据驱动的世界中,数据挖掘和数据分析已经成为了许多行业的重要工具。尽管这两个概念经常被人混淆,但它们各自有着独特 ...
2024-09-07作为数据分析领域的一个重要工具,SPSS 在统计分析中广泛应用。无论是学术研究、商业分析,还是医疗、金融领域的数据处理,SPS ...
2024-09-07作为数据分析领域的一个重要工具,SPSS 在统计分析中广泛应用。无论是学术研究、商业分析,还是医疗、金融领域的数据处理,SPS ...
2024-09-07作为一名数据分析从业者,我深知系统化的流程对于成功完成数据分析项目至关重要。尤其是对初学者而言,掌握正确的分析步骤不仅 ...
2024-09-07作为一名热爱数据分析的从业者,我时常回想起刚入行时的摸索历程。数据分析是一个既充满挑战又激动人心的领域,尤其对于初学者 ...
2024-09-07信息管理与信息系统专业的学生在就业市场上具有广阔的前景。随着信息技术的不断发展和数字化转型的加速,对于既懂技术又懂管理 ...
2024-09-06商务数据分析与应用专业的学生考取CDA(Certified Data Analyst)证书对于提升就业竞争力是有帮助的。CDA证书是一套科学化、专 ...
2024-09-06首先,在众多的职业认证中,CDA(Certified Digital Analyst)数字化人才认证逐渐成为统计学专业学生的首选。该认证不仅能够提 ...
2024-09-06统计学专业毕业生的主要就业流向有三大部分:政府部门(统计局等),银行、保险公司、证券公司等金融部门,市场调查公司、咨询 ...
2024-09-06统计学,作为一种基于数据分析的方法论科学,在当前信息化、数据化的社会中愈发重要。在各种行业中,无论是金融业、制造业、医 ...
2024-09-06第 1 章 引言 随着信息技术的迅猛发展,人工智能(Artificial Intelligence, AI)迅速成为全球科技创新的焦 ...
2024-09-06信息管理与信息系统专业作为现代信息化社会中的一门重要学科,其毕业生在市场中的就业情况备受关注。随着信息技术的快速发展, ...
2024-09-06在当前信息时代,数据的爆炸式增长已经成为不可忽视的事实。随着大数据、云计算和人工智能等技术的迅速发展,数据分析在各行各 ...
2024-09-06随着数据科学和机器学习技术在各行各业中的广泛应用,数据分析师这一职业逐渐成为推动经济和技术 ...
2024-09-06随着数字技术的迅猛发展,数字经济已成为推动全球经济增长的重要动力。各行各业正在加速数字化转型,涌现出大量与数字经济相关 ...
2024-09-06在当今数字化时代,拥有相应的专业证书不仅是求职竞争中的利器,更是个人职业发展的一大助力。CDA(Certified Digital Associa ...
2024-09-06随着科技的迅猛发展,数字经济已经逐渐成为各国经济增长的重要引擎,涉及的领域和行业瞬息万变。从传统 ...
2024-09-06在如今的数据驱动世界里,商业数据分析师的角色愈发重要。我常与新手分享这样一个故事:当我第一次作为数据分析师进入职场时, ...
2024-09-06在当今数字化时代,数据已成为推动企业发展的新动力。特别是在商务领域,数据分析的能力不仅影响着企业的决策,更关系到其竞争 ...
2024-09-06在当前数字化转型浪潮中,BI(商业智能)数据分析已成为推动企业决策和提升效率的重要手段。作为数据分析从业者,我常常通过BI ...
2024-09-06