登录
首页大数据时代分布式集群参数master节点:DataNode、NameNode等相关配置
分布式集群参数master节点:DataNode、NameNode等相关配置
2020-06-03
收藏

之前的文章中我们已经将master节点的网络IP、hostname文件、hosts文件配置完成,接下来还有hadoop相关配置文件需要修改。今天我们来讲master节点hadoop的配置。

1、hdfs-site.xml

在hadoop的配置文件中与HDFS(hadoop分布式文件系统)相关的是hdfs-core.xml文件。在伪分布集群中只有一个节点,因此此节点即要有NameNode功能也要有DataNode功能。在工作环境中这两个是不会在一个节点上的,在我们的多节点分布式集群中master只运行NameNode因此需在hdfs-site.xml文件中删除DataNode相关配置。

打开虚拟机在终端中输入cd hadoop/etc/hadoop 命令进入hadoop配置文件目录。

终端输入命令vim hdfs-site.xml进入vim编辑界面,按下图步骤删除原来伪分布集群配置的DataNode相关配置,并将数据冗余数量设置为2。

输入i进入编辑模式,编辑后的文件内容如下所示。

最后退出编辑模式,保存并退出。

2、core-site.xml

在core-site.xml中指定一个节点运行hdfs服务。在之前伪分布集群中只有一个节点,因此我们使用的是localhost,如今在集群中有三个节点,我们约定使用master。

在终端中输入vim core-site.xml按下图操作修改配置文件。

修改后内容如下所示

记得退出并保存。

3、yarn-site.xml

在yarn-site.xml里可以修改与资源管理模块YARN相关的一些配置。

终端中输入 vim yarn-site.xml进行以下更改,将资源调度管理任务放置于master节点上

最终修改后的文件内容如下图所示。

4、mapred-site.xml

进行以下更改,主要添加mapreduce运行历史记录监控端口和网页端口。

同样,在终端输入vim mapred-site.xml开始编辑配置文件,配置内容如下所示

最后保存并退出。

5、slaves

slaves文件指明哪些节点运行DateNode进程,这里我们的集群中运行DataNode进程的节点有slave1、slave2。因此需将这两节点保存到slaves文件中。

在终端中输入 vim slaves命令编辑文件,编辑后的文件内容如下图所示。

最后保存slaves文件并退出编辑。到这里master节点上的hadoop相关配置已经完成了。

接下来我们要通过克隆master及slave1虚拟机来扩展集群。

6、生成slave1节点

通过克隆master 生成slave1节点的过程与之前克隆伪分布节点的操作是一致的这里不再赘述,唯一区别是在执行到下图步骤时注意将虚拟机名称设置为slave1并选择正确的存储位置方便管理。还有一点,被克隆的虚拟机一定要关机状态才可以被克隆。

slave1节点与master节点在hostname、IP地址、Hadoop配置这几个方面是有些差异的,在复制好slave1节点之后需进行配置。

6.1 配置IP地址

在前面文章中提到过slave1节点IP地址应设置为固定的值:192.168.79.12。详细的配置方法步骤已经在配置master节点时介绍过,配置slave1节点时可以参考一下。修改完成后的配置结果如下图所示,点击save保存即可。

6.2、修改hostname

保存并退出

6.3、修改Hadoop配置项

hdfs-site.xml

保存并退出之后重启slave1节点查看配置是否生效。

7、生成slave2节点

Slave2与slave1在Hadoop相关配置内容上是一致的,因此通过克隆slave1节点来生成slave2可以减少一些操作步骤。

克隆slave1节点时的操作步骤同样参考之前文章内容,区别是执行到下图步骤时记得更改虚拟机名称为slave2并更改存储目录(存储目录自己定义)。

7.1、配置IP地址

克隆完成后打开slave2虚拟机并配置其IP地址。配置过程与之前配置master节点IP过程一致,只是IP地址需改为192.168.79.13结果如下图所示,点击save保存即可。

更改Hostname,在终端中输入sudo vim /etc/hostname并回车执行,根据提示输入密码

输入i编辑hostname文件,文件内容如下所示为slave2,然后保存退出。

重启虚拟机测试配置是否生效,重启命令为sudo reboot

slave2重新启动后打开终端,输入命令ifconfig查看IP设置及虚拟机名,如下图所示配置已经生效。

到这里我们的hadoop集群安装配置完成。接下来的文章我会给大家介绍一下hadoop集群如如何启动。

数据分析咨询请扫描二维码

客服在线
立即咨询