在Linux上安装与配置Hadoop.doc

PAGE\*MERGEFORMAT6

2.1在Linux上安装与配置Hadoop在Linux上安装Hadoop之前，需要先安装两个程序：JDK1.6或更高版本；SSH（安全外壳协议），推荐安装OpenSSH。下面简述一下安装这两个程序的原因：Hadoop是用Java开发的，Hadoop的编译及MapReduce的运行都需要使用JDK。Hadoop需要通过SSH来启动salve列表中各台主机的守护进程，因此SSH也是必须安装的，即使是安装伪分布式版本（因为Hadoop并没有区分集群式和伪分布式）。对于伪分布式，Hadoop会采用与集群相同的处理方式，即依次序启动文件conf/slaves中记载的主机上的进程，只不过伪分布式中salve为localhost（即为自身），所以对于伪分布式Hadoop，SSH一样是必须的。2.1.1安装JDK1.6安装JDK的过程很简单，下面以Ubuntu为例。（1）下载和安装JDK确保可以连接到互联网，输入命令：sudoapt-getinstallsun-java6-jdk输入密码，确认，然后就可以安装JDK了。这里先解释一下sudo与apt这两个命令，sudo这个命令允许普通用户执行某些或全部需要root权限命令，它提供了详尽的日志，可以记录下每个用户使用这个命令做了些什么操作；同时sudo也提供了灵活的管理方式，可以限制用户使用命令。sudo的配置文件为/etc/sudoers。apt的全称为theAdvancedPackagingTool，是Debian计划的一部分，是Ubuntu的软件包管理软件，通过apt安装软件无须考虑软件的依赖关系，可以直接安装所需要的软件，apt会自动下载有依赖关系的包，并按顺序安装，在Ubuntu中安装有apt的一个图形化界面程序synaptic（中文译名为“新立得”），大家如果有兴趣也可以使用这个程序来安装所需要的软件。（如果大家想了解更多，可以查看一下关于Debian计划的资料。）（2）配置环境变量输入命令：sudogedit/etc/profile输入密码，打开profile文件。在文件的最下面输入如下内容：#setJavaEnvironmentexportJAVA_HOME=（你的JDK安装位置，一般为/usr/lib/jvm/java-6-sun）exportCLASSPATH=\\\".:$JAVA_HOME/lib:$CLASSPATH\\\"exportPATH=\\\"$JAVA_HOME/:$PATH\\\"这一步的意义是配置环境变量，使你的系统可以找到JDK。（3）验证JDK是否安装成功输入命令：java-version查看信息：javaversion\\\"1.6.0_14\\\"Java(TM)SERuntimeEnvironment(build1.6.0_14-b08)JavaHotSpot(TM)ServerVM(build14.0-b16,mixedmode)2.1.2配置SSH免密码登录同样以Ubuntu为例，假设用户名为u。1）确认已经连接上互联网，输入命令sudoapt-getinstallssh2）配置为可以无密码登录本机。首先查看在u用户下是否存在.ssh文件夹（注意ssh前面有“.”，这是一个隐藏文件夹），输入命令：ls-a/home/u一般来说，安装SSH时会自动在当前用户下创建这个隐藏文件夹，如果没有，可以手动创建一个。接下来，输入命令：ssh-keygen-tdsa-P\\\'\\\'-f~/.ssh/id_dsa解释一下，ssh-keygen代表生成密钥；-t（注意区分大小写）表示指定生成的密钥类型；dsa是dsa密钥认证的意思，即密钥类型；-P用于提供密语；-f指定生成的密钥文件。（关于密钥密语的相关知识这里就不详细介绍了，里面会涉及SSH的一些知识，如果读者有兴趣，可以自行查阅资料。）在Ubuntu中，~代表当前用户文件夹，这里即/home/u。这个命令会在.ssh文件夹下创建两个文件id_dsa及id_dsa.pub，这是SSH的一对私钥和公钥，类似于钥匙及锁，把id_dsa.pub（公钥）追加到授权的key里面去。输入命令：cat~/.ssh/id_dsa.pub>>~/.ssh/authorized_keys这段话的意思是把公钥加到用于认证的公钥文件中，这里的authorized_keys是用于认证的公钥文件。至此无密码登录本机已设置完毕。3）验证SSH是否已安装成功，以及是否可以无密码登录本机。输入命令：ssh-version显示结果：OpenSSH_5.1p1Debian-6ubuntu2,OpenSSL0.9.8g19Oct2007Badescapecharacter\\\'rsion\\\