Hadoop3.2.0集群搭建常見注意事項
一 端口變化
3.2.0版本中namenode頁面端口是9870,datanode管理端口是8088,所以需要開放這兩個端口還給web頁面訪問
二but there is no YARN_RESOURCEMANAGER_USER defined. Aborting operation
hadoop-env.sh中不光需要配置java-home,還需要聲明下面這些用戶變量,不然無法啟動:
export JAVA_HOME=/usr/local/jdk/jdk1.8.0_191
export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_SECONDARYNAMENODE_USER=root
export YARN_RESOURCEMANAGER_USER=root
export YARN_NODEMANAGER_USER=root
三 3.2.0版本mapred-site.xml 文件配置需要加mapreduce.application.classpath屬性
<property> <name>mapreduce.application.classpath</name> <value> /usr/local/hadoop3/etc/hadoop, /usr/local/hadoop3/share/hadoop/common/*, /usr/local/hadoop3/share/hadoop/common/lib/*, /usr/local/hadoop3/share/hadoop/hdfs/*, /usr/local/hadoop3/share/hadoop/hdfs/lib/*, /usr/local/hadoop3/share/hadoop/mapreduce/*, /usr/local/hadoop3/share/hadoop/mapreduce/lib/*, /usr/local/hadoop3/share/hadoop/yarn/*, /usr/local/hadoop3/share/hadoop/yarn/lib/* </value> </property>
四 salave文件編程workers文件了,內(nèi)容配置是一樣的
五 啟動成功不報錯,但最蛋疼的Live Nodes為0問題
解決步驟:
一 先查看datanode 日志:
如果出現(xiàn)這個說明連接配置有問題,查看core-site.xml配置,這個是配置datanode和namnode通信的:
一看
這里配置的連接地址有問題
hdfs應該配置成namnode的地址,不能配置成datanode的地址,所有節(jié)點都一樣,這個地址,配置完成重啟成功
網(wǎng)上還有說/etc/hots解析不成功的,這個也是一個原因,配置好域名映射就可以了,重要的是先看日志分析是什么問題
最后成功頁面
以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持本站。
版權(quán)聲明:本站文章來源標注為YINGSOO的內(nèi)容版權(quán)均為本站所有,歡迎引用、轉(zhuǎn)載,請保持原文完整并注明來源及原文鏈接。禁止復制或仿造本網(wǎng)站,禁止在非www.sddonglingsh.com所屬的服務器上建立鏡像,否則將依法追究法律責任。本站部分內(nèi)容來源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來,僅供學習參考,不代表本站立場,如有內(nèi)容涉嫌侵權(quán),請聯(lián)系alex-e#qq.com處理。