在AWS Ubuntu實例上安裝Hadoop
第一步: 在AWS上創建一個Ubuntu 14.04 LTS實例。
第二步: 連接到該實例。
chmod 400 yourKey.pem
ssh -i yourKey.pem ubuntu@your_instance_ip
第三步: 安裝Java。
sudo add-apt-repository ppa:webupd8team/java
sudo apt-get update
sudo apt-get install oracle-java6-installer
sudo update-java-alternatives -s java-6-oracle
sudo apt-get install oracle-java6-set-default
第四步: 添加一個Hadoop用戶。
sudo addgroup hadoop
sudo adduser --ingroup hadoop hduser
第五步: 為免密碼登錄創建一個SSH鍵。
su - hduser
ssh-keygen -t rsa -P ""
cat $HOME/.ssh/id_rsa.pub >> $HOME/.ssh/authorized_keys
第六步: 測試連接。
ssh localhost
exit
第七步: 下載並安裝Hadoop。
cd /usr/local
sudo wget [http://apache.01link.hk/hadoop/core/hadoop-1.2.1/hadoop-1.2.1.tar.gz](http://apache.01link.hk/hadoop/core/hadoop-1.2.1/hadoop-1.2.1.tar.gz)
sudo tar -xzvf hadoop-1.2.1.tar.gz
sudo mv hadoop-1.2.1 hadoop
chown -R hduser:hadoop hadoop
sudo rm hadoop-1.2.1.tar.gz
第八步: 更新.bashrc
。
su - hduser
vim $HOME/.bashrc
# 在文件末尾添加以下內容:
export HADOOP_PREFIX=/usr/local/hadoop
export JAVA_HOME=/usr/lib/jvm/java-6-sun
unalias fs &> /dev/null
alias fs="hadoop fs"
unalias hls &> /dev/null
alias hls="fs -ls"
export PATH=$PATH:$HADOOP_PREFIX/bin
然後用:wq
保存並執行.bashrc
。
source ~/.bashrc
第九步: 配置Hadoop,以hduser
身份登錄。
cd /usr/local/hadoop/conf
vim hadoop-env.sh
# 在文件中添加以下行:
export JAVA_HOME=/usr/lib/jvm/java-6-oracle
export HADOOP_CLASSPATH=/usr/local/hadoop
使用:wq
保存並退出。
第十步: 為Hadoop創建一個臨時目錄。
exit
sudo mkdir -p /app/hadoop/tmp
sudo chown hduser:hadoop /app/hadoop/tmp
sudo chmod 750 /app/hadoop/tmp
第十一步: 添加配置段落。
su - hduser
cd /usr/local/hadoop/conf
vim core-site.xml
# 將以下內容放在<configuration> ... </configuration>標籤之間:
在這裡插入您的Hadoop配置。
# 使用 :wq保存並退出
如有需要,請繼續配置您的其他文件。
第十二步: 格式化HDFS。
/usr/local/hadoop/bin/hadoop namenode -format
第十三步: 啟動Hadoop。
/usr/local/hadoop/bin/start-all.sh
第十四步: 檢查所有進程是否正在運行。
jps
第十五步: 要停止Hadoop,輸入以下命令:
/usr/local/hadoop/bin/stop-all.sh
第十六步: 要再次啟動Hadoop。
/usr/local/hadoop/bin/start-all.sh
你現在已經準備好開始了!祝你玩得開心 :)