仓酷云

标题: 来一发CentOS6.5上编译装置Hadoop2 [打印本页]

作者: 透明    时间: 2015-1-14 20:38
标题: 来一发CentOS6.5上编译装置Hadoop2
如果您觉得本篇CentOSLinux教程讲得好,请记得点击右边漂浮的分享程序,把好文章分享给你的好朋友们!<divclass="article_content"id="article_content">媒介

ApacheHadoop是一款撑持数据麋集型散布式使用并以Apache2.0允许协定公布的开源软件框架。它撑持在商品硬件构建的年夜型集群上运转的使用步伐。Hadoop是依据Google公司宣布的MapReduce和Google档案体系的论文,由DougCutting在2004年完成最后版本。




情况

操纵体系:CentOS_6.5_64bit

[root@masterconf]#cat/proc/version;lsb_release-a
  1. [root@masterconf]#cat/proc/version;lsb_release-aLinuxversion2.6.32-431.5.1.el6.x86_64(mockbuild@c6b10.bsys.dev.centos.org)(gccversion4.4.720120313(RedHat4.4.7-4)(GCC))#1SMPWedFeb1200:41:43UTC2014LSBVersion:        :base-4.0-amd64:base-4.0-noarch:core-4.0-amd64:core-4.0-noarch:graphics-4.0-amd64:graphics-4.0-noarch:printing-4.0-amd64:printing-4.0-noarchDistributorID:        CentOSDescription:        CentOSrelease6.5(Final)Release:        6.5Codename:        Final
复制代码
编译Hadoop版本:hadoop-2.2.0
筹办

注:最好能够找到一台能够毗连的到互联网的呆板举行编译Hadoop,由于筹办大概编译的时分都必要从收集装置良多插件。
1.装置JavaJDK(官方网站地点:http://www.ckuyun.com/technetwork/java/index.html)

因为Hadoop是Doug用java完成的,以是java是必需装置的软件之一。在CentOS情况中能够经由过程yum举行装置大概本人往oracle官网下载最新版本的JDK。
装置JDK:
[root@master~]#yum-yinstalljava-1.7.0-openjdkjava-1.7.0-openjdk-develldapjdk
  1. [root@master~]#yum-yinstalljava-1.7.0-openjdkjava-1.7.0-openjdk-develldapjdk
复制代码
装置完成后目次以下。
[root@master~]#ll/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.51.x86_64/
  1. [root@master~]#ll/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.51.x86_64/总用量216-r--r--r--1rootroot15031月1420:59ASSEMBLY_EXCEPTIONdrwxr-xr-x2rootroot40963月1103:33bindrwxr-xr-x3rootroot40963月1103:33includedrwxr-xr-x4rootroot40963月1103:33jredrwxr-xr-x3rootroot40963月1103:33lib-r--r--r--1rootroot192631月1420:59LICENSEdrwxr-xr-x2rootroot40963月1103:33tapset-r--r--r--1rootroot1722521月1420:59THIRD_PARTY_README
复制代码
检察java版本。

[root@master~]#java-version
  1. [root@master~]#java-versionjavaversion"1.7.0_51"OpenJDKRuntimeEnvironment(rhel-2.4.4.1.el6_5-x86_64u51-b02)OpenJDK64-BitServerVM(build24.45-b08,mixedmode)
复制代码
2.装置maven(官方网站地点:http://maven.apache.org/)



ApacheMaven,是一个软件(出格是Java软件)项目办理及主动构建工具,由Apache软件基金会所供应。基于项目工具模子(缩写:POM)观点,Maven使用一其中央信息片段能办理一个项目标构建、呈报和文档等步调。曾是Jakarta项目的子项目,现为自力Apache项目。
yum装置maven


[root@mastermaven]#yuminstallapache-maven.noarch
  1. [root@mastermaven]#yuminstallapache-maven.noarch
复制代码
检察maven版本

[root@mastermaven]#mvn-version
  1. [root@mastermaven]#mvn-versionApacheMaven3.2.1(ea8b2b07643dbb1b84b6d16e1f08391b666bc1e9;2014-02-14T12:37:52-05:00)Mavenhome:/usr/share/apache-mavenJavaversion:1.7.0_51,vendor:OracleCorporationJavahome:/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.51.x86_64/jreDefaultlocale:zh_CN,platformencoding:UTF-8OSname:"linux",version:"2.6.32-431.5.1.el6.x86_64",arch:"amd64",family:"unix"
复制代码
下载装置maven(下载地点:http://maven.apache.org/download.cgi)apache-maven-3.2.1-bin.tar.gz


解压
[root@master~]#tar-zxvfapache-maven-3.2.1-bin.tar.gz
  1. [root@master~]#tar-zxvfapache-maven-3.2.1-bin.tar.gz
复制代码
[root@master~]#cdapache-maven-3.2.1
  1. [root@master~]#cdapache-maven-3.2.1[root@masterapache-maven-3.2.1]#ll总用量40drwxr-xr-x2rootroot40963月1802:23bindrwxr-xr-x2rootroot40963月1802:23bootdrwxr-xr-x3rootroot40962月1412:34confdrwxr-xr-x3rootroot40963月1802:23lib-rw-r--r--1rootroot148652月1412:40LICENSE-rw-r--r--1rootroot1822月1412:39NOTICE-rw-r--r--1rootroot25132月1412:34README.txt
复制代码
[root@master~]#cp-rapache-maven-3.2.1/usr/local/
  1. [root@master~]#cp-rapache-maven-3.2.1/usr/local/[root@master~]#cd/usr/local/apache-maven-3.2.1/[root@masterapache-maven-3.2.1]#ll总用量40drwxr-xr-x2rootroot40963月1802:24bindrwxr-xr-x2rootroot40963月1802:24bootdrwxr-xr-x3rootroot40963月1802:24confdrwxr-xr-x3rootroot40963月1802:24lib-rw-r--r--1rootroot148653月1802:24LICENSE-rw-r--r--1rootroot1823月1802:24NOTICE-rw-r--r--1rootroot25133月1802:24README.txt[root@masterapache-maven-3.2.1]#
复制代码
将MAVEN_HOME到场情况变量中。[root@masterapache-maven-3.2.1]#vim/etc/profile
  1. [root@masterapache-maven-3.2.1]#vim/etc/profile
复制代码
在/etc/profile的最初一行到场以下。

exportMAVEN_HOME=/usr/local/apache-maven-3.2.1
  1. [root@master~]#yum-yinstalljava-1.7.0-openjdkjava-1.7.0-openjdk-develldapjdk0
复制代码
保留加入。
更新并检察maven版本。

[plain]viewplaincopyprint?
来一发CentOS6.5上编译装置Hadoop2
登录/注册后可看大图



  1. [root@master~]#yum-yinstalljava-1.7.0-openjdkjava-1.7.0-openjdk-develldapjdk1
复制代码
3.装置protobuf(官方网站地点:https://code.谷歌.com/p/protobuf/)

protobuf是谷歌供应的一个能够编码格局化布局数据***,Google年夜局部的RPC端通讯协定都是基于protocolbuffers的。同时现Hadoop中master和slave中的RPC通讯协定也都是基于它完成的。

装置protobuf之前必要装置几个组件,才能够编译装置protobuf,如已有该些软件,请跳过。
[plain]viewplaincopyprint?



  1. [root@master~]#yum-yinstalljava-1.7.0-openjdkjava-1.7.0-openjdk-develldapjdk2
复制代码
下载2.5.0版本protobuf(下载地点:https://code.谷歌.com/p/protobuf/downloads/list)protobuf-2.5.0.tar.gz。
[plain]viewplaincopyprint?



  1. [root@master~]#yum-yinstalljava-1.7.0-openjdkjava-1.7.0-openjdk-develldapjdk3
复制代码
装置完成后,将protoc写进情况变量。
[plain]viewplaincopyprint?



  1. [root@master~]#yum-yinstalljava-1.7.0-openjdkjava-1.7.0-openjdk-develldapjdk4
复制代码
在/etc/profile最初一行中,写进以下两句,并保留加入。
[plain]viewplaincopyprint?



  1. [root@master~]#yum-yinstalljava-1.7.0-openjdkjava-1.7.0-openjdk-develldapjdk5
复制代码
更新并检察protobuf版本。
[plain]viewplaincopyprint?



  1. [root@master~]#yum-yinstalljava-1.7.0-openjdkjava-1.7.0-openjdk-develldapjdk6
复制代码
4.装置其他依附


[plain]viewplaincopyprint?



  1. [root@master~]#yum-yinstalljava-1.7.0-openjdkjava-1.7.0-openjdk-develldapjdk7
复制代码
编译装置


从Hadoop官网下载2.2.0不乱版本(下载地点:http://mirrors.cnnic.cn/apache/hadoop/common/stable/)hadoop-2.2.0-src.tar.gz
解压
[plain]viewplaincopyprint?



  1. [root@master~]#yum-yinstalljava-1.7.0-openjdkjava-1.7.0-openjdk-develldapjdk8
复制代码
[plain]viewplaincopyprint?



  1. [root@master~]#yum-yinstalljava-1.7.0-openjdkjava-1.7.0-openjdk-develldapjdk9
复制代码
注:源码中存在一个BUG详见(https://issues.apache.org/jira/browse/HADOOP-10110),办理举措以下。
[plain]viewplaincopyprint?



  1. [root@master~]#ll/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.51.x86_64/总用量216-r--r--r--1rootroot15031月1420:59ASSEMBLY_EXCEPTIONdrwxr-xr-x2rootroot40963月1103:33bindrwxr-xr-x3rootroot40963月1103:33includedrwxr-xr-x4rootroot40963月1103:33jredrwxr-xr-x3rootroot40963月1103:33lib-r--r--r--1rootroot192631月1420:59LICENSEdrwxr-xr-x2rootroot40963月1103:33tapset-r--r--r--1rootroot1722521月1420:59THIRD_PARTY_README0
复制代码
在pom.xml第55行到场以下内容。
[plain]viewplaincopyprint?



  1. [root@master~]#ll/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.51.x86_64/总用量216-r--r--r--1rootroot15031月1420:59ASSEMBLY_EXCEPTIONdrwxr-xr-x2rootroot40963月1103:33bindrwxr-xr-x3rootroot40963月1103:33includedrwxr-xr-x4rootroot40963月1103:33jredrwxr-xr-x3rootroot40963月1103:33lib-r--r--r--1rootroot192631月1420:59LICENSEdrwxr-xr-x2rootroot40963月1103:33tapset-r--r--r--1rootroot1722521月1420:59THIRD_PARTY_README1
复制代码
保留并加入,BUG办理完成。
退回到后来hadoop-2.2.0-src目次下。

[plain]viewplaincopyprint?



  1. [root@master~]#ll/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.51.x86_64/总用量216-r--r--r--1rootroot15031月1420:59ASSEMBLY_EXCEPTIONdrwxr-xr-x2rootroot40963月1103:33bindrwxr-xr-x3rootroot40963月1103:33includedrwxr-xr-x4rootroot40963月1103:33jredrwxr-xr-x3rootroot40963月1103:33lib-r--r--r--1rootroot192631月1420:59LICENSEdrwxr-xr-x2rootroot40963月1103:33tapset-r--r--r--1rootroot1722521月1420:59THIRD_PARTY_README2
复制代码
最初,实行编译下令
[plain]viewplaincopyprint?



  1. [root@master~]#ll/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.51.x86_64/总用量216-r--r--r--1rootroot15031月1420:59ASSEMBLY_EXCEPTIONdrwxr-xr-x2rootroot40963月1103:33bindrwxr-xr-x3rootroot40963月1103:33includedrwxr-xr-x4rootroot40963月1103:33jredrwxr-xr-x3rootroot40963月1103:33lib-r--r--r--1rootroot192631月1420:59LICENSEdrwxr-xr-x2rootroot40963月1103:33tapset-r--r--r--1rootroot1722521月1420:59THIRD_PARTY_README3
复制代码
编译历程好久,请耐烦守候。
[plain]viewplaincopyprint?



  1. [root@master~]#ll/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.51.x86_64/总用量216-r--r--r--1rootroot15031月1420:59ASSEMBLY_EXCEPTIONdrwxr-xr-x2rootroot40963月1103:33bindrwxr-xr-x3rootroot40963月1103:33includedrwxr-xr-x4rootroot40963月1103:33jredrwxr-xr-x3rootroot40963月1103:33lib-r--r--r--1rootroot192631月1420:59LICENSEdrwxr-xr-x2rootroot40963月1103:33tapset-r--r--r--1rootroot1722521月1420:59THIRD_PARTY_README4
复制代码
编译装置完成了局信息。
编译完成后根目次。
[plain]viewplaincopyprint?



  1. [root@master~]#ll/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.51.x86_64/总用量216-r--r--r--1rootroot15031月1420:59ASSEMBLY_EXCEPTIONdrwxr-xr-x2rootroot40963月1103:33bindrwxr-xr-x3rootroot40963月1103:33includedrwxr-xr-x4rootroot40963月1103:33jredrwxr-xr-x3rootroot40963月1103:33lib-r--r--r--1rootroot192631月1420:59LICENSEdrwxr-xr-x2rootroot40963月1103:33tapset-r--r--r--1rootroot1722521月1420:59THIRD_PARTY_README5
复制代码
检察版本。
[plain]viewplaincopyprint?



  1. [root@master~]#ll/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.51.x86_64/总用量216-r--r--r--1rootroot15031月1420:59ASSEMBLY_EXCEPTIONdrwxr-xr-x2rootroot40963月1103:33bindrwxr-xr-x3rootroot40963月1103:33includedrwxr-xr-x4rootroot40963月1103:33jredrwxr-xr-x3rootroot40963月1103:33lib-r--r--r--1rootroot192631月1420:59LICENSEdrwxr-xr-x2rootroot40963月1103:33tapset-r--r--r--1rootroot1722521月1420:59THIRD_PARTY_README6
复制代码
编译完成,感谢!
作者: 愤怒的大鸟    时间: 2015-1-16 21:11
标题: 来一发CentOS6.5上编译装置Hadoop2
随着IT从业人员越来越多,理论上会有更多的人使用Linux,可以肯定,Linux在以后这多时间不会消失。
作者: 简单生活    时间: 2015-1-24 23:09
我想即使Linux高手也很难快速准确精练的回答你。
作者: 灵魂腐蚀    时间: 2015-2-2 17:50
Linux操作系统这个名词记得在很早以前就听过,但当时并不知道具体是什么样的操作系统,只知道是一个与嵌入式密切相关的操作系统。
作者: admin    时间: 2015-2-8 05:53
尽我能力帮助他人,在帮助他人的同时你会深刻巩固知识。
作者: 再现理想    时间: 2015-2-24 23:50
应对Linux的发展历史和特点有所了解,Linux是抢占式多任务多用户操作系统,Linux最大的优点在于其作为服务器的强大功能,同时支持多种应用程序及开发工具。
作者: 若天明    时间: 2015-3-7 18:22
Linux只是个内核!这点很重要,你必须理解这一点。只有一个内核是不能构成一个操作系统的。
作者: 小妖女    时间: 2015-3-15 17:47
随着实验课程的结束,理论课也该结束了,说实话教OS的这两位老师是我们遇到过的不错的老师(这话放这可能不太恰当).
作者: 第二个灵魂    时间: 2015-3-22 04:14
对于英语不是很好的读者红旗 Linux、中标Linux这些中文版本比较适合。现在一些Linux网站有一些Linux版本的免费下载,这里要说的是并不适合Linux初学者。




欢迎光临 仓酷云 (http://ckuyun.com/) Powered by Discuz! X3.2