分布式集群参数master节点：DataNode、NameNode等相关配置

之前的文章中我们已经将master节点的网络IP、hostname文件、hosts文件配置完成，接下来还有hadoop相关配置文件需要修改。今天我们来讲master节点hadoop的配置。

1、hdfs-site.xml

在hadoop的配置文件中与HDFS(hadoop分布式文件系统)相关的是hdfs-core.xml文件。在伪分布集群中只有一个节点，因此此节点即要有NameNode功能也要有DataNode功能。在工作环境中这两个是不会在一个节点上的，在我们的多节点分布式集群中master只运行NameNode因此需在hdfs-site.xml文件中删除DataNode相关配置。

打开虚拟机在终端中输入cd hadoop/etc/hadoop 命令进入hadoop配置文件目录。

终端输入命令vim hdfs-site.xml进入vim编辑界面，按下图步骤删除原来伪分布集群配置的DataNode相关配置，并将数据冗余数量设置为2。

输入i进入编辑模式，编辑后的文件内容如下所示。

最后退出编辑模式，保存并退出。

2、core-site.xml

在core-site.xml中指定一个节点运行hdfs服务。在之前伪分布集群中只有一个节点，因此我们使用的是localhost,如今在集群中有三个节点，我们约定使用master。

在终端中输入vim core-site.xml按下图操作修改配置文件。

修改后内容如下所示

记得退出并保存。

3、yarn-site.xml

在yarn-site.xml里可以修改与资源管理模块YARN相关的一些配置。

终端中输入 vim yarn-site.xml进行以下更改，将资源调度管理任务放置于master节点上

最终修改后的文件内容如下图所示。

4、mapred-site.xml

进行以下更改，主要添加mapreduce运行历史记录监控端口和网页端口。

同样，在终端输入vim mapred-site.xml开始编辑配置文件，配置内容如下所示

最后保存并退出。

5、slaves

slaves文件指明哪些节点运行DateNode进程，这里我们的集群中运行DataNode进程的节点有slave1、slave2。因此需将这两节点保存到slaves文件中。

在终端中输入 vim slaves命令编辑文件，编辑后的文件内容如下图所示。

最后保存slaves文件并退出编辑。到这里master节点上的hadoop相关配置已经完成了。

接下来我们要通过克隆master及slave1虚拟机来扩展集群。

6、生成slave1节点

通过克隆master 生成slave1节点的过程与之前克隆伪分布节点的操作是一致的这里不再赘述，唯一区别是在执行到下图步骤时注意将虚拟机名称设置为slave1并选择正确的存储位置方便管理。还有一点，被克隆的虚拟机一定要关机状态才可以被克隆。

slave1节点与master节点在hostname、IP地址、Hadoop配置这几个方面是有些差异的，在复制好slave1节点之后需进行配置。

6.1 配置IP地址

在前面文章中提到过slave1节点IP地址应设置为固定的值：192.168.79.12。详细的配置方法步骤已经在配置master节点时介绍过，配置slave1节点时可以参考一下。修改完成后的配置结果如下图所示，点击save保存即可。

6.2、修改hostname

保存并退出

6.3、修改Hadoop配置项

hdfs-site.xml

保存并退出之后重启slave1节点查看配置是否生效。

7、生成slave2节点

Slave2与slave1在Hadoop相关配置内容上是一致的，因此通过克隆slave1节点来生成slave2可以减少一些操作步骤。

克隆slave1节点时的操作步骤同样参考之前文章内容，区别是执行到下图步骤时记得更改虚拟机名称为slave2并更改存储目录（存储目录自己定义）。

7.1、配置IP地址

克隆完成后打开slave2虚拟机并配置其IP地址。配置过程与之前配置master节点IP过程一致，只是IP地址需改为192.168.79.13结果如下图所示，点击save保存即可。

更改Hostname，在终端中输入sudo vim /etc/hostname并回车执行，根据提示输入密码

输入i编辑hostname文件，文件内容如下所示为slave2，然后保存退出。

重启虚拟机测试配置是否生效，重启命令为sudo reboot

slave2重新启动后打开终端，输入命令ifconfig查看IP设置及虚拟机名，如下图所示配置已经生效。

到这里我们的hadoop集群安装配置完成。接下来的文章我会给大家介绍一下hadoop集群如如何启动。