为编程爱好者分享易语言教程源码的资源网
好用的代理IP,游戏必备 ____广告位招租____ 服务器99/年 ____广告位招租____ ____广告位招租____ 挂机,建站服务器
好用的代理IP,游戏必备 ____广告位招租____ 服务器低至38/年 ____广告位招租____ ____广告位招租____ 挂机,建站服务器

网站首页 > 网络编程 正文

Hadoop集群配置(Hadoop集群配置文件位置)

三叶资源网 2022-09-04 20:18:50 网络编程 174 ℃ 0 评论

一、配置Hadoop集群主节点

修改hadoop-env.sh文件

  • 先进入到主节点hadoop01解压包etc/hadoop/目录,使用vi hadoop-env.sh指令打开hadoop-env.sh文件,找到JAVA_HOME参数位置,进入如下修改:

#export JAVA_HOME=/export/servers/jdk

修改core-site.xml文件

  • 该文件是Hadoop核心配置文件,其目的是配置HDFS地址、端口号,以及临时文件目录。使用vi core-site.xml打开文件,配置内容如下

<configuration>

<property>

<name>fs.defaultFS</name>

<value>hdfs://hadoop01:9000</value>

</property>

<property>

<name>hadoop.tmp.dir</name>

<value>/export/servers/hadoop-2.9.1/tmp</value>

</property>

</configuration>

修改hdfs-site.xml文件

主要是设置namenode和datanode进程,使用vi hdfs-site.xml指令打开该配置文件,配置内容如下:

<configuration>

<property>

<name>dfs.replication</name>

<value>3</value>

</property>

<property>

<name>dfs.namenode.secondary.http-address</name>

<value>hadoop02:50090</value>

</property>

</configuration>

修改mapred-site.xml文件

该文件是MapReduce的核心配置文件,用于指定MapReduce运行时的框架,需要先通过cp mapred-site.xml.template mapred-site.xml命令将文件复制并重命名为mapred-site.xml。接着,使用vi mapred-site.xml指令打开mapred-site.xml文件进行修改,添加如下配置内容:

<configuration>

<property>

<name>mapreduce.framework.name</name>

<value>yarn</value>

</property>

</configuration>

编写yarn-site.xml文件

本文件是YARN框架的核心配置文件,需要指定YARN集群管理者,使用vi yarn-site.xml指令打开该配置文件进行修改,添加如下配置内容:

<configuration>

<property>

<name>yarn.resourcemanager.hostname</name>

<value>hadoop01</value>

</property>

<property>

<name>yarn.nodemanager.aux-services</name>

<value>mapreduce_shuffle</value>

</property>

</configuration>

修改slaves文件

该文件用于记录Hadoop集群所有从节点的主机名使用vi slaves指令打开该配置文件进行修改,添加如下配置内容:

hadoop01

hadoop02

hadoop03

将配置文件发往各子节点,用scp命令如下:

scp /etc/profile hadoop02:/etc/profile

scp /etc/profile hadoop03:/etc/profile

scp -r /export/ hadoop02:/

scp -r /export/ hadoop03:/

发送完配置文件后,要去相应的子节点进行更新,指令如下:

source /etc/profile

#我要上头条# #父亲节快乐# #涨粉黑马训练营# #微头条日签#

Tags:

来源:三叶资源网,欢迎分享,公众号:iisanye,(三叶资源网⑤群:21414575

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

百度站内搜索
关注微信公众号
三叶资源网⑤群:三叶资源网⑤群

网站分类
随机tag
透明风格易包新浪股吧POST登录引流软件源码枚举进程失败代码MIDI解析烧饼帝多线程教程Ex_DirectUI通用型读内存HTML5布局之路易语言资源网ETCP易语言版本JSEncrypt腾达路由器QQ音乐加速器彗星小助手炫彩设计器工程
最新评论